每日AI新鲜事·09月08日晚间版：幻觉检测与GPT-6实测

今天AI圈又有不少新消息，咱们赶紧过一遍

嗯，我看Reddit上有个特别有意思的

是那个幻觉检测器吗？我也刷到了

对，有人开源了个幻觉检测工具，号称在CPU上只要1.5毫秒

对比Semantic Entropy快了9万倍，这个速度提升有点夸张

9万倍？这数字听着就离谱

是啊，但如果是真的，那对生产环境来说太有意义了

毕竟现在大家用LLM最怕的就是一本正经地胡说八道

确实，尤其是做面向用户的产品

不过这种极端的速度提升，是不是在准确率上做了什么妥协？

有可能，等社区测试反馈出来就知道了

然后还有个挺有意思的消息，小米的18 Fold

哦，折叠屏那个？

对，The Verge说它specs比三星Galaxy Z Fold 8要强

而且苹果这周可能也要发类似的产品

折叠屏这个赛道现在挺热闹的

不过说实话，跟咱们今天聊的AI主题关系不太大

行吧，那咱们快速带过

另外有条消息，UAE的Falcon AI做了个NSFW分类器

这个我在Hacker News上看到了

中东那边做开源模型还是挺积极的，Falcon系列一直在更新

内容审核这块确实需求挺大的

对，尤其是多语言多文化的场景

还有个，Reddit上有人在问怎么分析和AI编程agent的交互记录

这个话题挺实际的

现在大家都在用AI写代码，但agent到底是怎么思考的，其实挺黑盒的

确实，想知道它为什么选择某种实现方式

现在还没有特别成熟的分析工具，大部分人只能靠看log

最后一条新闻，Mistral拿到了30亿欧元融资

这个金额挺大的，他们要做sovereign、open-weight AI

sovereign是说主权AI那个概念吗？

对，欧洲那边特别强调这个，不想完全依赖美国的模型

Mistral算是扛起欧洲开源AI这面旗了

好了新闻就先聊到这儿

接下来咱们聊聊最近特别火的一个话题

B站上关于GPT-6 Astra的测评视频？

对，我看到有好几个视频，互动量都特别高

一个是「34个项目实测GPT-6」，互动分1500多

另一个是对比Fable的3D生成和交互世界能力

李博你觉得为啥这个话题突然火起来了？

我觉得主要是大家对GPT-6的期待太高了

从GPT-5到GPT-6，这次升级号称是质的飞跃

但前几天咱们不是还讨论过吗

Simon Willison测试的那个鹈鹕骑自行车，还有Reddit上那个鲸鱼动画

物理常识方面还是有明显缺陷的

对，所以现在社区分成两派

一派觉得GPT-6已经接近AGI了，能力跨越式提升

另一派觉得还是那些老问题，换汤不换药

34个项目实测，这个规模挺大的

应该能覆盖不少场景了吧？

理论上是的，但关键看测的是什么项目

如果都是那种demo级别的小玩意儿，说服力就不够

你觉得应该怎么测才合理？

我觉得得看真实场景的复杂任务

比如让它重构一个中型项目的架构，或者修复一个涉及多个模块的bug

这种才能看出它的理解深度和规划能力

那B站上这些测评视频，你觉得有参考价值吗？

有是有，但不能全信

很多UP主为了流量，会选择性展示成功的case

确实，失败的案例往往就被剪掉了

而且现在大家都在用不同的prompting策略

同一个任务，换个prompt结果可能完全不一样

那对比Fable那个视频呢？

3D生成和交互世界，这个方向看起来挺有意思

这个其实更有意义

因为GPT-6和Fable定位本来就不完全一样

Fable更侧重多模态理解和创作，GPT-6更偏推理和通用能力

所以对比起来能看出各自的优势？

对，比如3D生成这块，Fable的物理一致性会更好

但如果是复杂的逻辑推理任务，GPT-6可能更稳

不过我有个疑问

为什么大家现在特别关注这些「实测」视频？

因为官方的benchmark已经不太被信任了

大家都知道模型可以在benchmark上过拟合

所以更愿意看真实使用场景下的表现

这倒是，像之前各种排行榜，感觉参考价值越来越低了

对，而且现在模型更新太快了

benchmark还没跑完，新版本就出来了

那你觉得这波GPT-6的热度能持续多久？

估计也就一两周吧

等新鲜感过去，或者下一个大模型发布，热度就转移了

但如果GPT-6真的在某些任务上有突破呢？

那倒是有可能持续更久

关键看接下来几天社区会不会发现什么killer use case

行吧，咱们就继续观察

反正这个话题短期内应该还会很热

嗯，B站那两个视频的互动量已经说明一切了

好了，今天就聊到这儿

明天见啦

明天见