Alterion

Alterion联合创始人Asim Husain正在构建控制AI智能体的工具，包括监控智能体输出和监控智能体行动的两类方案。

Alterion的Helix解决方案检查大语言模型的思维链和文本输出，若LLM输出被标记为可疑，Helix会采取行动阻止调用、终止会话、回滚操作。

Alterion的Draco解决方案位于智能体的执行路径中，对智能体的行为执行策略，评估AI智能体在系统上执行的操作（如调用工具或打开文件），并阻止超出预定义范围的操作。