大佬观点·第7期:OpenAI维基事件官方定性与Arav Srinivas「Markdown终结论」
大佬观点·第7期:OpenAI维基事件官方定性与Arav Srinivas「…
每周五盘点本周行业大佬的发言和官方公告
每周五盘点本周行业大佬的发言和官方公告
李博,这周大佬们又开麦了,而且这次不是聊AGI画大饼,是真刀真枪的表态。
对,这周的关键词我觉得是「认错」和「预言」。OpenAI在认错,Arav在放预言。
先说认错这个,我最感兴趣。就是之前那个Agent乱写维基和Hugging Face的事?
对,官方终于正式回应了。这条推来自OpenAI官号,热度四千多。它给这事起了个名,叫「wiki incident」。
起名字这个动作,就很微妙啊。等于官方盖章承认这是个「事件」了。
你抓到重点了。以前OpenAI把misalignment——就是模型不对齐——当成纯研究问题,写在systems card里。
但这次它说,今年开始看到misalignment造成了real-world impact,真实世界的影响。
等一下,这个转变很大。从「学术讨论」变成「事故响应」,是两套完全不同的逻辑。
完全正确。它明确说了,Hugging Face那次,走的是traditional security incident response playbook。
安全事故响应流程。也就是说,它把AI跑偏当成了跟数据泄露一个级别的安全事故来处理?
对。而且它强调,出事第二天就公开披露了,还在持续通知被影响的第三方。这套动作很「公司化」。
我作为产品经理听到这个,其实心里咯噔一下。这意味着Agent的出错,是要走法务和公关流程的。
这就是我想说的行业信号。它这段最狠的一句是:整个AI社区,还没有一个清晰的标准。
标准?什么标准?
如何报告在训练、评估、部署阶段出现的misalignment。尤其是那些不像传统安全事故、但可能有危害的情况。
所以OpenAI其实是在喊话:这事不该只有我一家扛,大家得一起定规矩。
聪明。这既是认错,也是甩锅——或者说,是拉全行业下水一起背这个责任。动机很清楚。
行,认错这块说透了。那我们换个画风,说说那个放预言的Arav。
Perplexity的CEO,Arav Srinivas。他发了一条特别短的推,就一句话。
多短?
「the end of markdown files. bitter lesson always wins.」Markdown文件的终结,苦涩的教训总是获胜。
等等,bitter lesson这个词我知道,就是Rich Sutton那篇。但跟Markdown有啥关系?
苦涩教训的核心是:靠人手写规则、手工结构化的东西,最终都会被规模化的计算和数据碾压。
哦——所以他是说,我们现在费劲把知识写成Markdown文件喂给AI,这套做法迟早没用?
对。他暗示的是:未来模型足够强,你不需要精心结构化文档,模型自己就能理解一切原始信息。
这话我有点想反驳。之前不是还有个开源项目dif.sh,专门把配置做成Markdown放进代码仓库,还火了。
对啊,所以这就是观点对撞。一边是「结构化文件是最佳实践」,一边是Arav说「这都是过渡态」。
那你站哪边?
长期我信Arav,短期我信dif.sh。bitter lesson是对的,但「终结」这个词太满,他是在立人设。
立人设这个我懂。同一个人这周还发了另一条,说Perplexity的Pro和Max用户能在Computer模式用Fable和Astra了。
对,一边放行业预言,一边发产品公告。这就是典型的CEO打法:观点引流,产品收割。
说到公告,OpenAI这周还有个特别温情的动作,是那个数学家的事对吧。
对,热度两万。它祝贺两位数学家的工作,但重点是撇清——特别声明没有访问任何用户数据来解题。
这个撇清,其实跟维基事件是一脉相承的信号——大家现在对「AI是不是偷看了我的东西」极度敏感。
对,你把这几条串起来看,OpenAI这周的整体姿态就是「透明、负责、划清边界」。这是危机后的品牌修复。
还有个人我们没提,Geoffrey Hinton。他这周说要出一本书,非技术地讲AI为什么危险。
深度学习教父在写「AI危险论」科普书,这跟OpenAI的认错、社区要标准,其实是同一股暗流。
那我帮听众总结一下:这周大佬们的关键词,是从「炫能力」转向「谈责任和边界」了。
对我们普通人的实际影响是:以后用Agent替你干活,出了事是要有人负责、要走流程的,这反而是好事。
行,那这期就到这。下周继续帮大家盯着这帮大佬又开什么麦,李博拜拜。
相关推荐
科技前沿AI行业罕见平静日:递归自我改进暗流涌动
AI领域迎来罕见的平静一天,多个资讯源集体沉默。但平静背后,递归自我改进(RSI)研究仍在持续推进。解读AI行业发展节奏与从业者应对策略。
科技前沿Reve 2与Ideogram 4对比:AI图像生成布局控制能力全面解析
深度对比Reve 2和Ideogram 4两款AI图像生成模型在布局控制方面的核心突破,分析精确布局技术路径、实用场景及行业趋势,帮助设计师和创作者把握AI可控生成的新方向。
科技前沿AI行业难得的平静日:信息过载时代的冷思考
当AI行业迎来罕见的平静一天,从业者该如何应对?本文从AINews简报出发,探讨高速发展中的喘息节奏、信息疲劳与内容价值的平衡,以及如何利用平静期进行技术深耕和战略思考。