OpenShell
将形式化方法应用于AI智能体控制的技术团队,探索以数学逻辑约束智能体行为边界,提升AI系统可靠性与安全性
Core Facts
Timeline (last 90 days)
目前关于OpenShell的公开信息相对有限,具体隔离机制、与主流Agent框架的集成方式、性能开销等细节尚未明确
OpenShell仅一周内就新增了近6000颗Star
OpenShell强调safe安全和private私密两个关键词,用于解决智能体行为隔离和数据不外泄的本地化部署诉求
OpenShell包含策略顾问(policy advisor)功能,启用后请求会等待人工审核而非让智能体自我批准
在配置好的OpenShell服务中,智能体使用占位符,由工作区之外的监督者检查请求后仅针对已批准的目的地插入真实凭证
openai-python 在 GitHub 上拥有超过 3.1 万 Star 和 7 千次 Fork
英伟达发布开放式AI智能体安全平台,包含OpenShell安全软件与NVIDIA Sentry看门狗系统,Sentry运行于Bluefield 4 DPU上能在芯片层面独立监控智能体行为并毫秒内隔离
英伟达发布开放智能体安全平台,包含开源软件OpenShell和运行在数据处理芯片上的硬件Sentry
运行时沙箱使企业可以在不完全信任模型输出的前提下安全部署AI智能体执行真实任务
已有超过100家企业加入OpenShell这一安全技术栈
7 more timeline events
All Facts (17)
OpenShell 的定位是在智能体与其运行环境之间架设一道可编程的控制层,对智能体的每一个动作进行检查与约束
75%Partially Verifiedopenai-python 在 GitHub 上拥有超过 3.1 万 Star 和 7 千次 Fork
80%UnverifiedOpenShell仅一周内就新增了近6000颗Star
50%Unverified目前关于OpenShell的公开信息相对有限,具体隔离机制、与主流Agent框架的集成方式、性能开销等细节尚未明确
50%UnverifiedOpenShell强调safe安全和private私密两个关键词,用于解决智能体行为隔离和数据不外泄的本地化部署诉求
50%Unverified在配置好的OpenShell服务中,智能体使用占位符,由工作区之外的监督者检查请求后仅针对已批准的目的地插入真实凭证
50%UnverifiedOpenShell包含策略顾问(policy advisor)功能,启用后请求会等待人工审核而非让智能体自我批准
50%Unverified运行时沙箱使企业可以在不完全信任模型输出的前提下安全部署AI智能体执行真实任务
50%Unverified已有超过100家企业加入OpenShell这一安全技术栈
50%UnverifiedOpenAI没有加入OpenShell安全技术栈
50%UnverifiedOpenShell定位服务于本地部署(local)和开源(open)智能体
50%UnverifiedOpenHuman使用Rust语言构建
50%Unverified英伟达发布开放式AI智能体安全平台,包含OpenShell安全软件与NVIDIA Sentry看门狗系统,Sentry运行于Bluefield 4 DPU上能在芯片层面独立监控智能体行为并毫秒内隔离
50%Unverified英伟达发布开放智能体安全平台,包含开源软件OpenShell和运行在数据处理芯片上的硬件Sentry
50%UnverifiedNVIDIA 推出了 OpenShell,为 AI 智能体引入运行时层面的控制能力
50%Unverified英伟达推出了Open Agent Safety Platform(开放智能体安全平台)
50%UnverifiedOpenShell团队在Hacker News上分享了将形式化方法引入AI智能体控制领域的实践经验
50%