[控场AI]
概念min-entropy / 最小熵

最小熵

Renyi 熵在 α→∞ 时的极限,仅由最可能的词决定,对概率分布的峰值最敏感。

时间轴 (近 90 天)

11月9日

Renyi熵在 α→0 时趋近于观测到的词汇丰富度(出现过的词类型数的对数),在 α=1 时等于香农熵,在 α=2 时称为碰撞熵,在 α→∞ 时得到最小熵。

待验证50%
11月9日

转折顺序的稳健性在多个设定下得到验证:在另外四个设置中,最小熵仍然先于丰富度转折(印地语中仅在插值根处成立);在八种文本表示下的13种不同测量中,有12种支持该顺序。

待验证50%

全部知识事实 (2)

来源文章