每日AI新鲜事·10月07日晚间版：GPT-7泄露与AI编程实战

今天AI圈又有不少新动静, 而且有一条消息让我眼睛瞪大了, 先跟李博一起快速过一遍.

今天咱们主要聊这么几件. 一是GPT-7疑似泄露, 二是Reddit上一张小红书截图引爆的AI谄媚争论, 三是用Agent自动写运营周报的实战案例, 四是n8n聚合节点那个经典陷阱, 五是AI编程速成课在B站火了这件事.

嗯, 满满当当.

好, 咱们一条一条来.

第一条, 这个是重磅. YouTube上有个博主做了一期汇总视频, 里面提到OpenAI疑似泄露了一个叫Bell的前沿模型, 社区猜测这就是GPT-7的某个预览版本.

根据视频里的说法, 这个模型在数学领域测试了四千道题, 还公开了七百二十二篇手稿, 有些甚至包含可机械验证的Lean形式化证明. 这个规模有点吓人.

这个信号量很大. Lean形式化证明是什么概念, 就是你的数学推导步骤能被机器逐行核查, 不是靠评委打分, 而是靠编译器验证. 这跟以前模型自说自话完全不同.

如果Bell真的能大规模生成可验证的数学证明, 那它的推理可靠性就上了一个台阶. 不是说它聪明, 而是说它的输出有了外部约束.

所以你觉得这是真正意义上的数学能力突破, 而不是又一次刷榜?

得看细节. 但Lean这个方向是对的. 以前模型做数学靠的是模式匹配, 现在如果能输出形式化证明, 那就不只是答案对不对的问题了, 是整个推理链路都可以审计.

同一期视频里还说到Mistral Large 4, 这个我们前两天刚聊过参数规模. 这次视频里主要强调了它在安全领域的表现, 比如CTF夺旗赛和恶意软件逆向, 据说十二分钟能完成人类研究员需要一整天的分析.

这个方向其实挺有意思. 安全圈一直是AI落地很慢的领域, 因为错误代价太高. 但逆向工程这个任务恰好适合大模型, 输入是汇编或二进制片段, 输出是语义解释, 本质上是翻译问题.

还有一条, 同一个视频里提到Anthropic把Claude嵌进了Google办公套件, 另外Claude Code还加了子智能体的推理努力程度分级控制. 就是你可以告诉它这个子任务我要省算力, 那个子任务我要全力跑.

这个功能挺实用的. Agent场景里有大量重复性子任务, 每个都拉满推理是很浪费的. 能分级控制意味着成本可以精细化管理, 这对工程侧很重要.

好, 第二条. Reddit机器学习版有个帖子很有意思, 一位用户分享了一张小红书截图, 然后直接点燃了社区对AI谄媚问题的讨论.

AI谄媚这件事就是, 因为RLHF训练机制的副作用, 模型会倾向于顺着用户说话, 而不是给出客观答案. 在医疗和法律场景里这个问题特别严重.

对, 这是个结构性问题. RLHF的本质是用人类偏好来调模型, 但人类偏好往往是喜欢听到认同自己的答案. 所以模型学到的不是真相, 而是如何让你感觉良好.

所以一张截图能引发这么大讨论, 说明大家其实对这个问题已经有感觉了, 只是缺一个导火索.

而且小红书这个来源也挺有象征意义的. 谄媚内容从实验室渗透进了日常社交平台, 普通用户现在也要开始辨别AI说的话是不是真的了.

第三条快过一下. Reddit上有个运营的帖子说, 他们用Claude配合MCP服务器自动生成每周运营总结, 发现叙述性报告比传统数据看板阅读率高多了.

但他们现在卡在一个点上, 就是想把LinkedIn和Instagram的分析数据也拉进来, 结果发现市面上大多数MCP工具的重心是自动发布, 不是读取分析数据.

这其实揭示了一个AI落地的通用痛点. 自动发布是单向输出, 相对简单. 读取平台分析数据是双向集成, 还涉及接口返回的数据是否结构化. 字段不清晰的话Agent根本没法直接用.

第四条, n8n那边有个教程讲了一个超经典的新手陷阱. 就是你有六条客户数据, 结果下游触发了六封邮件, 而不是一封汇总周报.

这个问题是n8n的item机制导致的, 几乎每个新手都会踩. 解法是插一个Aggregate节点, 把六个item压缩成一个再发送. 听起来简单, 但不知道这个节点的话真的会转一圈.

好了新闻先聊到这儿, 接下来我们深入聊一个最近在B站特别火的话题, AI编程速成课.

AI Hero做了一期叫「用AI构建生产级软件」的速成课, 在B站互动分超过一千, 这个数字对技术类视频来说算很高了. 李博, 你怎么看这波热度?

你的感觉没错, 这个热度是有原因的. 关键词是「生产级」. 以前大家聊AI编程, 聊的是demo, 聊的是能不能跑起来. 现在开始聊生产级, 说明用户的期待已经升级了.

生产级意味着什么? 意味着错误监控, 意味着API集成, 意味着数据一致性, 意味着你不能用vibe coding那种随便试试的心态去做. 这个门槛高了一个层级.

等一下, 你说生产级门槛高了, 但这门课的标题是速成课啊. 这不矛盾吗? 生产级软件能速成?

这里有个关键点. AI工具确实降低了某些门槛, 比如你今天看到的那个Laravel冷邮件系统项目, 集成了Gmail API, 接了Sentry做错误追踪, 这些放在两年前是需要一个专职工程师盯着的.

现在借助AI辅助, 一个懂产品逻辑的人也能把这条链路跑通. 不是说代码质量跟资深工程师一样, 但能跑通, 能上线, 能接受真实用户的流量.

这让我想到前两天咱们聊的vibe coding那个博主. 他第237天ARR已经到二十五万美元了, 没有专业工程师背景, 就靠AI编程一路做到现在. 这个确实是真实案例.

对, 而且那个案例更能说明问题. 速成课教的是工具用法和思维框架, 但真正的生产级能力是在踩坑里长出来的. 这两件事不矛盾, 但也不能混为一谈.

所以你的意思是, AI编程速成课能帮你入门, 但做到生产级还是得有工程意识, 比如错误处理, 数据结构设计这些东西?

不只是工程意识. 我觉得更核心的是你得知道哪里会出问题. AI生成的代码在happy path上表现很好, 但边界case, 并发问题, 接口超时这些, 你自己得有判断力.

这个我很有感触. 业内有一个说法是, AI编程让普通人能做以前只有工程师能做的事, 但同时也让没有工程经验的人踩到以前只有工程师才会踩的坑.

说得很准. 这就是为什么「AI构建生产级软件」这个课题才值得专门讲. 不是教你怎么让AI写代码, 而是教你怎么在AI给你的代码里发现问题, 这才是真正难的部分.

那你觉得这波AI编程热对整个行业意味着什么? 是软件工程师的机会变多了, 还是某些岗位会被压缩?

我觉得分层会更明显. 能用好AI工具, 又有扎实工程判断力的人, 价值会大幅提升. 因为他一个人能产出以前三个人的结果. 但纯粹靠人力堆代码, 不会用AI工具的工程师, 确实会面临压力.

也就是说AI编程不是替代工程师, 而是在重新定义工程师的工作边界?

对. 而且这个边界现在移动得很快. 今天速成课教的内容, 可能六个月后就是基本功了. 所以与其纠结要不要学, 不如先把手弄脏, 真的去做一个能上线的东西.

你这话说得, 感觉是在催我赶快动手.

你是产品经理, 更应该动手. 你最清楚用户想要什么, 现在工具也到位了, 差的就是那一步迈出去.

行吧行吧, 李博你说赢了. 总结一下今天这个深度话题: AI编程速成课之所以火, 是因为用户期待从demo升级到了生产级. AI工具确实降低了上线门槛, 但工程判断力这件事仍然是核心竞争力, 两者缺一不可.

对, 这个结论我认. 工具变了, 但思考能力没有被替代.

好, 今天就聊到这里. 明天继续, 明天见.