每日AI新鲜事·09月10日午间版：AI生物风险与微信蠕虫攻击

今天AI圈又出了不少消息，有几条挺值得聊聊

对，我早上刷HN的时候就看到好几条热帖

那咱先快速过一遍新闻吧

行，从哪条开始

先说HN上那篇文章，标题叫「你不会死于AI设计的超级病毒」，44个点44条评论

哦这个我看了，作者基本是在反驳生物安全恐慌论

HN评论区什么态度

分两派，有人觉得这种乐观过头了，有人觉得确实媒体夸大了AI生物风险

这话题咱一会儿展开聊，先过下其他消息

好，还有个DHH上了Lex Fridman的节目

聊什么的

讨论William Buckley当年采访黑豹党领袖那段历史，跟AI关系不大

行，那咱快速带过

对，接下来这条比较劲爆

哪条

Simon Willison转发了一篇研究，Calif Research发布了WeWorm的demo

WeWorm是什么

号称是第一个通过微信语音通话传播的零点击蠕虫，iOS和Android都能感染

等等，零点击是啥意思

就是受害者不需要接电话，甚至不需要碰手机，打过去就能感染

这也太吓人了吧

对，这个漏洞如果是真的，影响面相当大

微信官方有回应吗

目前还没看到，不过研究方应该是先通知了腾讯才公开demo的

再说一条，Listen Labs那个

这个也挺戏剧性的

怎么说

他们本来拿到了Menlo Ventures的15亿美元C轮term sheet，结果自己撕了

为啥要撕

因为跑去跟Salesforce谈收购了

这估值得多高才值得他们主动放弃15亿融资

TechCrunch没透露具体数字，但肯定是Salesforce开出了更好的价

好，最后一条，Simon Willison又发了个工具

对，叫Blend URL Viewer，可以直接在浏览器里预览Blender文件

他最近是不是特别迷Blender

是的，他之前写过TIL说在用GPT-6 Astra配合Blender做各种实验

好了新闻就先聊到这儿，咱们深入聊聊那两个话题

你是说AI生物风险和微信蠕虫

对，先说生物风险这个，HN那篇文章观点挺鲜明的

作者的核心论点是，大家高估了AI设计病毒的能力

为什么高估了

因为设计病毒不光需要序列信息，还需要大量实验验证和生物工程能力

但AI不是能加速实验设计吗

能加速没错，但从设计到真正合成出致病病毒，中间还有巨大的gap

HN评论区有人反驳吗

有，有人说这种乐观态度很危险，因为技术进展是指数级的

这倒是，很多人都觉得AI能力增长速度超出预期

对，但作者的点在于，就算AI能设计序列，实验室合成和测试环节还是有物理限制的

所以他认为生物安全风险被媒体夸大了

是的，他觉得真正的风险不在于AI设计超级病毒，而在于AI可能降低现有病毒的改造门槛

这个区分挺关键的

对，从零设计病毒和优化现有病毒，难度完全不是一个量级

那微信蠕虫这个就更实际了，因为已经有demo了

对，WeWorm如果真的能做到零点击感染，这就是直接的安全威胁

这种攻击的原理是什么

应该是利用了微信语音通话协议里的某个漏洞，在建立连接的时候就能执行代码

所以根本不需要用户操作

对，这就是零点击攻击最可怕的地方，完全绕过了用户的安全意识

微信的用户基数这么大，如果真的被利用起来

影响会非常恐怖，不过好在Calif Research应该是负责任披露，先通知了腾讯

希望腾讯能快速修复吧

是的，这种级别的漏洞必须优先级最高处理

这两个话题放在一起看挺有意思的

怎么说

一个是理论上的AI生物风险被质疑夸大，另一个是现实中的AI安全漏洞已经出现

对，这其实说明AI安全风险是多层次的

有些风险可能还很遥远，但有些已经在眼前了

是的，我们既不能过度恐慌，也不能掉以轻心

好，今天就聊到这儿，晚上见

晚上见