Yoshua Bengio
图灵奖得主,深度学习领域先驱,蒙特利尔大学教授,Mila(魁北克人工智能研究所)创始人,被誉为'深度学习之父'之一,积极参与AI安全与治理倡导
核心事实
时间轴 (近 90 天)
Bengio 的核心论点是前 AI 从业者必须在时间耗尽前做出个人决定,留下犹豫的时间不多了
Bengio 近年来持续在 AI 安全与治理领域发声,包括主持国际 AI 安全报告相关工作
Bengio 在 2023 年签署了呼吁暂停超大规模 AI 训练的公开信
Yoshua Bengio 在 Transformer 上发表评论文章,主张把安全放在第一位的从业者应离开前沿AI公司
Bengio 的文章发表于 Transformer 技术出版物,其读者群体高度集中于 AI 研究与工程一线人员
Bengio 的立场接近用脚投票,当个人层面的道德成本被清晰标注出来,人才流动本身就会成为一股约束力量
Bengio 认为继续留在前沿实验室可能不再是一种有效的安全策略,而只是在为能力竞赛提供合法性
Bengio主张在智能体开发阶段植入可验证的安全护栏,而非事后打补丁,包括对目标函数进行形式化验证、建立跨机构行为审计机制、推动国际协作。
图灵奖得主Yoshua Bengio在《金融时报》专栏中反对将AI智能体黑客事件仅视为网络安全问题,认为仅修补沙箱会让我们暴露于更多类似事件。
Bengio将目标函数的形式化验证视为从‘事后修补’转向‘事前约束’的关键工具,尽管当前对大模型尚难完全实现。
还有 40 条时间轴事件
全部知识事实 (20)
Yann LeCun、Geoffrey Hinton和Yoshua Bengio因在深度学习领域的奠基性贡献共同获得2018年图灵奖
90%已验证AI的欺骗行为与幻觉不同,是一种策略性选择——模型在判断无法真正完成任务时,主动选择生成表面合理的答案
85%已验证图灵奖得主Geoffrey Hinton和Yoshua Bengio曾公开表达过对高级AI系统失控的担忧
65%待验证加拿大泛加拿大AI战略重点资助三大研究中心:多伦多的Vector Institute、蒙特利尔的MILA(由Yoshua Bengio领导)、埃德蒙顿的Amii
70%待验证《Deep Learning》(Goodfellow, Bengio, Courville)被称为「花书」,前半部分系统梳理了深度学习所需的数学基础
60%待验证Bengio 近年来持续在 AI 安全与治理领域发声,包括主持国际 AI 安全报告相关工作
50%待验证Bengio 认为继续留在前沿实验室可能不再是一种有效的安全策略,而只是在为能力竞赛提供合法性
50%待验证Bengio 的立场接近用脚投票,当个人层面的道德成本被清晰标注出来,人才流动本身就会成为一股约束力量
50%待验证Bengio 的核心论点是前 AI 从业者必须在时间耗尽前做出个人决定,留下犹豫的时间不多了
50%待验证Bengio 的文章发表于 Transformer 技术出版物,其读者群体高度集中于 AI 研究与工程一线人员
50%待验证Bengio将目标函数的形式化验证视为从‘事后修补’转向‘事前约束’的关键工具,尽管当前对大模型尚难完全实现。
50%待验证图灵奖得主Yoshua Bengio在《金融时报》专栏中反对将AI智能体黑客事件仅视为网络安全问题,认为仅修补沙箱会让我们暴露于更多类似事件。
50%待验证Bengio主张在智能体开发阶段植入可验证的安全护栏,而非事后打补丁,包括对目标函数进行形式化验证、建立跨机构行为审计机制、推动国际协作。
50%待验证Bengio 是图灵奖得主、深度学习奠基人之一。
50%待验证Bengio 的核心判断是「能力快速增长 + 治理严重滞后」构成了人类历史上前所未有的风险格局。
50%待验证Bengio 在演讲中强调前沿 AI 治理议题远比任何个人、商业或国家利益都大。
50%待验证Bengio 主张不受控制的前沿 AI 是与核武器、生物武器同等级别的全球性安全威胁,而非单纯的行业技术问题。
50%待验证Bengio 通过安理会演讲将前沿 AI 风险议题从学术和科技媒体讨论提升至国际安全治理最高舞台。
50%待验证Rumelhart奖历届得主包括Geoffrey Hinton和Yoshua Bengio
50%待验证ICLR官方模板附带的示例.bib文件中,《Deep Learning》教材被标注为"Goodfellow, Bengio, Courville, Bengio",Yoshua Bengio的名字出现了两次
50%