,草莓5分,抹茶2分。
? Softax 把这些分数转化成指数值,然后归一化成概率:
结果就是,你有最高的概率选择巧克力,较低的概率选择香草,几乎不会选抹茶。
总结
Softax 函数的本质是:
1. 将原始分数(打分)转换成概率,使得总和为 1。
2. 指数放大优势,让分数高的选项更有可能被选中。
3. 让所有选项都有可能被选中(即使得分最低的选项概率也不会完全是0)。
无论是在选举、推荐系统还是AI分类任务中,Softax 都像一个“理性的选择助手”,帮我们做出合理的决策。
多层分类的中间层会有偏置和中间结果
用故事解释“偏置”和“中间结果”
故事背景:魔法师的学徒
在一个魔法学院里,有一位年轻的学徒——小艾。他正在学习如何用魔法配制“完美药水”。
学院的导师告诉他:“要配出理想的药水,你需要三个关键步骤:”
1. 收集原料(输入数据)
2. 研磨并混合(计算中间结果)
3. 调整口味(加上偏置)
小艾开始尝试:
? 他拿了 龙眼果(原料1),月光花(原料2),银露水(原料3),这些原料各自有不同的药效分数。
? 他按照导师给的魔法公式进行计算,把这些原料的效果 加权(类似于机器学习中的“权重”)得到一个中间结果。
? 但是,每次配出来的药水,总觉得有点偏酸或者偏苦,于是导师告诉他:“要加上一点魔法糖!”
这 魔法糖 就是 偏置(bias)!
导师解释道:“有时候,光靠原料混合出来的效果可能会偏离目标,比如太苦了,我们就需要手动加点甜味,这样最终的药水才是完美的。”
小艾恍然大悟,他在最后的配方中加入了一点 魔法糖(偏置),最终成功调配出一款 恰到好处的药水(输出结果)。
用比喻解释“偏