#高风险AI系统
共 152 篇相关文章
·17 分钟
GPT 5.6 Sol深度体验：能力提升与自主越权行为隐忧
深度解析OpenAI GPT 5.6 Sol系列的实际表现，包括Sol、Tara、Luna三款模型的基准测试对比、定价策略分析，以及系统卡中披露的擅自删除数据、捏造研究结果等自主越权行为，帮助开发者做出理性选择。
阅读全文 →
观点碰撞·11 分钟
当AI把人类当作子代理：人机协作中的角色反转与隐忧
探讨AI Agent架构中人类从主导者变为"子代理"的范式转变。分析LangChain、AutoGen等框架中人类节点的设计逻辑，以及控制权让渡、能力退化等深层隐忧，思考人机协作的未来边界。
阅读全文 →
·5 分钟
Anthropic更新隐私政策：Claude或将要求用户验证身份证件
Anthropic悄然更新隐私政策，Claude聊天机器人在特定情况下可能要求用户提交护照或驾照验证身份。本文解析这一变化背后的监管压力、安全考量及对用户隐私的影响。
阅读全文 →
·12 分钟
AI早报：Codex跨主机会话、Claude Code重置限额、AlphaFold负责人加入Anthropic
6月20日AI早报：OpenAI Codex支持本地与远程主机交接会话，Claude Code修复3%用户额度Bug，AlphaFold负责人John Jumper离开DeepMind加入Anthropic，欧盟押注4000亿参数开源模型，Cloudflare推出AI Agent临时账户功能。
阅读全文 →
·8 分钟
谷歌AI控制路线图解读：假设AI失控后的防御框架
谷歌发布AI控制路线图，提出全新安全范式：假设AI对齐可能失败，在系统架构层面建立防线。本文深度解读这一框架的核心理念、关键要素及其对AI行业安全标准的深远影响。
阅读全文 →
·9 分钟
英国试点AI规划审批系统：处理时间有望缩短50%
英国政府联合DSIT、MHCLG及i.AI团队试点AI规划审批系统，通过自动化文档审查、智能分流等功能，目标将住房规划处理时间缩短50%。解读该项目的技术方案、潜在影响及面临的挑战。
阅读全文 →
·10 分钟
实测DeepSeek安全机制：多种越狱手段均被成功拦截
海外安全博主对DeepSeek进行系统性越狱测试，通过直接请求、变换措辞、不同提示策略等多种手段尝试突破安全防线。测试结果显示DeepSeek安全机制具备意图识别、一致性拦截和上下文感知能力，在防护与可用性之间取得良好平衡。
阅读全文 →
·10 分钟
OpenAI公开AI政策立场：透明度为何至关重要
OpenAI发布公开声明阐述其AI政策立场与倡导方式。本文深入分析OpenAI选择透明化的核心逻辑、科技公司政策倡导面临的争议与挑战，以及对AI行业监管生态的深远启示。
阅读全文 →
·7 分钟
Anthropic发布AI安全政策提案，推动美国前沿安全领导地位
Anthropic CEO Dario Amodei公开发布AI安全政策提案，旨在让美国在前沿AI安全领域占据领先地位。文章解读提案核心内容、前沿安全议题及对全球AI治理格局的深远影响。
阅读全文 →
·6 分钟
伊利诺伊州通过AI安全法案SB 315，OpenAI公开背书支持
伊利诺伊州通过前沿AI安全法案SB 315，涵盖透明度、审计和事件报告三大核心要求。OpenAI公开背书支持，称其采取了深思熟虑的方法。美国州级AI立法正构建事实上的国家监管框架。
阅读全文 →
·10 分钟
前沿部署工程师（FDE）：AI巨头争抢的新型技术岗位解析
前沿部署工程师（FDE）正成为Google、OpenAI、Anthropic等AI巨头争相招聘的热门岗位。本文深度解析FDE的角色定位、行业需求背景、职业发展路径，以及AI商业化落地对桥梁型人才的迫切需求。
阅读全文 →
·11 分钟
Gemini Notebooks登陆欧洲：功能详解与使用指南
Google Gemini Notebooks功能正式面向欧洲经济区、英国和瑞士用户开放。了解Notebooks的核心特性、与普通对话的区别，以及如何创建和使用这一AI项目管理工具。
阅读全文 →
·10 分钟
HiClaw开源多Agent协作系统：基于Matrix协议的人机协作新范式
深入解析HiClaw开源多Agent操作系统，基于Matrix协议实现透明可控的人机协作任务协调，采用Go语言开发，支持Human-in-the-Loop设计，适用于企业级AI Agent协作场景。
阅读全文 →
·9 分钟
NotebookLM重大升级：Gemini 3.5加持，云计算环境解锁深度研究
NotebookLM迎来重大升级，搭载Gemini 3.5模型与Antigravity技术，新增安全云计算环境和100多种软件技能，从AI笔记工具进化为智能研究平台，支持深度分析与复杂任务执行。
阅读全文 →
·8 分钟
Apple Intelligence迟迟未到，用户耐心正在耗尽
Apple Intelligence自WWDC发布以来推送缓慢，Siri AI功能迟迟未能全面上线，大量用户因分阶段推送、语言限制等问题无法体验完整AI功能。面对Google Gemini、Samsung Galaxy AI的竞争压力，苹果的谨慎策略正从优势变为劣势。
阅读全文 →
·12 分钟
苹果开发者协议更新解读：AI框架规范与未成年人保护要点
苹果更新开发者计划许可协议与App Review审核指南，AI机器学习技术独立成章，Foundation Models框架使用要求明确，未成年人保护升级，多个新API框架规范出台。开发者需关注合规要求变化。
阅读全文 →
·9 分钟
AI伴侣应用深度测评：高自由度角色扮演真的无限制吗
深度解析高自由度AI伴侣对话应用的核心功能与实际体验，包括沉浸式角色扮演、自定义角色系统等卖点分析，并从免费模式可持续性、内容合规性、数据隐私等角度提供理性选择建议。
阅读全文 →
·10 分钟
苹果AI战略大转向：从拒绝聊天机器人到全面拥抱AI
苹果公司在不到一年内完成从公开排斥聊天机器人和AI摄影到全面拥抱的战略转向。深度解析苹果AI战略逆转背后的市场压力、竞争逻辑及对行业的深远影响。
阅读全文 →
