搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「逻辑回归」找到 3 条内容
按专题浏览 →匹配正文:模型与概率 二分类逻辑回归先计算线性分数 z=w^T x+b,再通过sigmoid得到 p(y=1|x)=1/(1+exp(-z))。等价地: log(p/(1-p)) = w^T x+b 因此线性的是对数几率,不是概率本身。特征增加一个单位时,其他特征不变,log-odds增加对应系数;odds乘以exp(w_j)。概率变化量还取决于当前p,不能解释成固定增加若干百分点。 训练与边界 通常用Bernoulli负对数似然,也就是二元交叉熵估计参数,并可加入L1或L2正则。以0…
匹配正文:…\hat{y}) & y=1 \\ -\log(1-\hat{y}) & y=0 \end{cases} 设计动机:极大似然估计 逻辑回归假设 P(y=1|x) = \hat{y},服从伯努利分布 对单个样本,似然函数:P(y|x) = \hat{y}^y (1-\hat{y})^{1-y} 取负对数即得交叉熵损失,最小化损失等价于最大化似然 核心优势 特性 说明 凸函数 对参数 w 是凸的,保证全局最优,梯度下降收敛稳定 梯度非饱和 \frac{\partial \math…
匹配口述回答:…经验风险,再关注模型对未见数据的泛化。运筹模型通常更强调显式业务约束、可行解、决策成本和最优性界。这个差别是关注点,不是绝对边界。逻辑回归等机器学习问题可以是凸的,深度网络通常非凸;运筹也有非凸规划、随机问题和近似算法。 因此不能说运筹一定精确求全局最优,而机器学习只是局部启发式。求解器对某些混合整数问题会使用分支定界并给出最优性gap,但在时间限制内也可能只返回当前可行解。深度学习虽通常依赖随机梯度和局部更新,却也不是随意搜索,而是在明确损失上做大规模数值优化。 变量规模也…
学习内容与项目面试,在同一条路上。