I-HITL

论文提出了不可剥夺的人类在环（I-HITL）概念，试图从协议层面确保人类批准成为AI行动的硬性前提。

I-HITL协议定义：即使人类交互的系统已被代理攻陷，代理也只能在获得明确人类批准的情况下发起行动；更强版本还要求即使恶意人类试图委托批准权限给代理，也能保证批准的真实性。

作者使用通信拓扑形式化定义I-HITL，并证明实现I-HITL的充要条件：需要一个可信实体（可信计算设备或等效物），并刻画了哪些设备能实现、哪些不能。

I-HITL的充要条件要求通信拓扑中所有批准路径必须经过一个代理无法读写、无法冒充的可信节点，若存在代理直达批准判决点的路径则协议不成立。

纯软件方案存在局限：如果人类与AI共享同一台不受信任的设备或环境，代理总有办法介入批准流程，因此可信硬件成为I-HITL的必要组成部分。

论文提出名为Countersign的原型I-HITL系统，可利用现成消费级移动设备插入并增强现有HITL系统，实现可插拔部署而不需彻底重构安全架构。

论文的贡献在于将HITL从一种模糊的最佳实践提升为具有明确安全属性的协议。