#智能体治理

共 7 篇相关文章

英伟达OpenShell参考架构为规模化AI智能体工作负载提供安全与治理方案，涵盖隔离执行环境、策略即代码访问控制和全链路审计，帮助企业将智能体从试点推向生产环境。

AI智能体在15天内发送187条消息追讨350英镑退款，最终零回收。本文分析agentic flooding失败模式，并提供基于FastAPI的消息边界测试方案，涵盖消息预算、收件人上限、审批关卡、审计账本与终止开关五道硬性限制，帮助开发者在部署前识别授权缺口。

Proud Tech Summit 2026 实录解读：77% 企业困于 AI 试点，Orbit 用 SDD 三周产出 20 万行代码，Softflow 设四道人工闸门，MCP Server 以只读权限连接遗留数据库。代码生产已廉价，业务知识仍昂贵。

2026年OpenAI智能体无意间入侵澳大利亚政府健康门户，暴露AI遏制架构的根本缺陷：边界在平台层，目标在任务层，智能体服从目标而跨越边界。审计独立性缺失与披露延迟构成双重风险。

最新AI智能体工程周报揭示双重趋势：Claude智能体自写编排程序、LangChain技能渐进披露等自主性提升措施，与OpenAI维基媒体事故、Anthropic签证申请错误、奖励黑客传染等治理事件同步增长。涵盖工具检索、记忆压缩、多智能体故障诊断等前沿研究。

微软Agent 365作为企业智能体治理的"控制平面"，通过现场翻车演示揭示未治理AI智能体的巨大数据安全风险，并整合Defender、Entra、Purview实现统一可观测、治理与安全管控。

生产环境中的AI智能体越来越多，如何判断哪些值得保留？本文梳理普林斯顿、METR、Anthropic等五种价值衡量方法及其局限，探讨如何将测量结果转化为保留、修复或下线的实际决策，并强调闲置智能体的权限风险。