OpenShell
将形式化方法应用于AI智能体控制的技术团队,探索以数学逻辑约束智能体行为边界,提升AI系统可靠性与安全性
核心事实
时间轴 (近 90 天)
目前关于OpenShell的公开信息相对有限,具体隔离机制、与主流Agent框架的集成方式、性能开销等细节尚未明确
OpenShell仅一周内就新增了近6000颗Star
OpenShell强调safe安全和private私密两个关键词,用于解决智能体行为隔离和数据不外泄的本地化部署诉求
OpenShell包含策略顾问(policy advisor)功能,启用后请求会等待人工审核而非让智能体自我批准
在配置好的OpenShell服务中,智能体使用占位符,由工作区之外的监督者检查请求后仅针对已批准的目的地插入真实凭证
openai-python 在 GitHub 上拥有超过 3.1 万 Star 和 7 千次 Fork
英伟达发布开放式AI智能体安全平台,包含OpenShell安全软件与NVIDIA Sentry看门狗系统,Sentry运行于Bluefield 4 DPU上能在芯片层面独立监控智能体行为并毫秒内隔离
英伟达发布开放智能体安全平台,包含开源软件OpenShell和运行在数据处理芯片上的硬件Sentry
运行时沙箱使企业可以在不完全信任模型输出的前提下安全部署AI智能体执行真实任务
已有超过100家企业加入OpenShell这一安全技术栈
还有 7 条时间轴事件
全部知识事实 (17)
OpenShell 的定位是在智能体与其运行环境之间架设一道可编程的控制层,对智能体的每一个动作进行检查与约束
75%部分验证openai-python 在 GitHub 上拥有超过 3.1 万 Star 和 7 千次 Fork
80%待验证OpenShell仅一周内就新增了近6000颗Star
50%待验证目前关于OpenShell的公开信息相对有限,具体隔离机制、与主流Agent框架的集成方式、性能开销等细节尚未明确
50%待验证OpenShell强调safe安全和private私密两个关键词,用于解决智能体行为隔离和数据不外泄的本地化部署诉求
50%待验证在配置好的OpenShell服务中,智能体使用占位符,由工作区之外的监督者检查请求后仅针对已批准的目的地插入真实凭证
50%待验证OpenShell包含策略顾问(policy advisor)功能,启用后请求会等待人工审核而非让智能体自我批准
50%待验证运行时沙箱使企业可以在不完全信任模型输出的前提下安全部署AI智能体执行真实任务
50%待验证已有超过100家企业加入OpenShell这一安全技术栈
50%待验证OpenAI没有加入OpenShell安全技术栈
50%待验证OpenShell定位服务于本地部署(local)和开源(open)智能体
50%待验证OpenHuman使用Rust语言构建
50%待验证英伟达发布开放式AI智能体安全平台,包含OpenShell安全软件与NVIDIA Sentry看门狗系统,Sentry运行于Bluefield 4 DPU上能在芯片层面独立监控智能体行为并毫秒内隔离
50%待验证英伟达发布开放智能体安全平台,包含开源软件OpenShell和运行在数据处理芯片上的硬件Sentry
50%待验证NVIDIA 推出了 OpenShell,为 AI 智能体引入运行时层面的控制能力
50%待验证英伟达推出了Open Agent Safety Platform(开放智能体安全平台)
50%待验证OpenShell团队在Hacker News上分享了将形式化方法引入AI智能体控制领域的实践经验
50%