好奇博士1. 逻辑回归的本质：线性回归的"概率马甲"
第一次接触逻辑回归时，很多人都会被它的名字迷惑——明明叫"回归"，却用来做分类任务。这就像看到一个穿着熊外套的人，你以为遇到的是熊，掀开外套才发现是个老朋友。逻辑回归就是这样一个"伪装者"，它的内核依然是线性回归，只是通过Sigmoid函数这件"马甲"，实现了从回归到分类的华丽转身。
1.1 为什么线性回归需要"穿马甲"？
线性回归的输出公式z=wᵀx+b，理论上可以输出从负无穷到正无穷的任何值。但在二分类问题中（比如预测用户是否点击广告），我们需要的是概率估计，必须严格限制在[0,1]区间内。这就好比要把一头大象塞进冰箱，直接硬塞肯定不行，需要找到合适的"压缩"方法。
Sigmoid函数就是这个完美的"压缩机"：
$$
\sigma(z) = \frac{1}{1 + e^{-z}}
$$
这个函数的精妙之处在于：
- 当z趋近于+∞时，输出无限接近1
- 当z趋近于-∞时，输出无限接近0
- 在z=0时，输出正好是0.5
实际应用中发现，Sigmoid函数在|z|>6时就已经非常接近边界值了（σ(6)≈0.9975）。这意味着线性部分的输出不需要特别大就能得到接近极值的概率估计。
1.2 扒开马甲看本质：对数几率(Logit)的奥秘
如果我们对Sigmoid函数进行逆变换，会得到一个惊人的发现：
$$
\ln\left(\frac{P}{1-P}\right) = w^Tx + b
$$
这个等式揭示了逻辑回归的真相：
- 左边是"对数几率"(Log-Odds)，表示事件发生与不发生的概率比的对数
- 右边仍然是熟悉的线性回归形式
这个发现有三层重要含义：
- 可解释性：特征系数w表示的是"对数几率"的变化量，而不是直接的概率变化
- 线性本质：在Logit空间里，模型仍然是线性的，保持了线性模型的可加性
- 范围适配：对数几率可以取任意实数值，完美匹配线性回归的输出范围
1.3 从理论到实践：系数解释的陷阱
很多分析师在解释逻辑回归系数时容易犯一个典型错误——直接把系数当作概率变化来解释。比如看到某个特征系数是0.5，就说"这个特征增加1单位，概率增加0.5"。这种解释是完全错误的。
正确的解释应该是：
"在其他条件不变的情况