[KongchangAI]
Concept神经语 / 神经元语言

Neuralese

Neuralese指大型语言模型在内部推理时使用的非人类可读的连续向量空间表征形式,区别于自然语言的思维链推理,模型在潜空间中直接传递高维向量进行多步思考,人类无法直接理解或监督其推理过程

Timeline (last 90 days)

Sep 16

Rob Miles认为乱码化的思维链只是'不透明思维链'(opaque chain of thought),并非真正的Neuralese

Unverified50%
Sep 16

真正的Neuralese指神经元之间交流所使用的语言,通过跳过解嵌入和采样、直接将高维向量重新喂回模型实现,即不透明递归

Unverified50%

All Facts (2)

Source Articles