熵最小化 提升LLM自信度

——熵最小化（Entropy Minimization，EM），如何在不使用任何标注数据的情况下，提升大语言模型（LLMs）在数学、物理和编程等复杂推理任务上的表现。

1. 什么是熵最小化？

• 熵在机器学习中衡量模型输出的不确定性。熵越小，模型对输出越“自信”（概率分布越集中）。
• 熵最小化的核心假设是：如果模型有一定能力，那么它自信的输出更可能是正确的。例如，当模型非常确定某个数学题的答案是“3”时，这个答案更可能是对的。

2. 三种具体方法

论文提出了三种基于熵最小化的方法，分别适用于模型训练后的不同阶段：

（1）EM-FT：无监督微调（类似指令微