基准TurnBased Benchmarks
TurnBasedBenchmarks
基于回合制博弈游戏(猜拳、井字棋)的LLM策略韧性评测框架,采用零补救协议与minimax求解器作为客观真值,测试模型抵抗对抗性提示的能力
时间轴 (近 90 天)
10月12日
TurnBasedBenchmarks是一个为Kaggle基准挑战赛搭建的测试台,用猜拳和井字棋两种回合制游戏测试语言模型的策略韧性
待验证50%
10月12日
该实验共进行840轮对局,总成本仅2.46美元,测试了七个主流语言模型
待验证50%
10月12日
测试采用零补救(zero-mulligan)协议,对局状态在提示模型前就用SHA-256哈希锁定,模型必须在256个token内返回精确JSON动作,否则记零分
待验证50%
10月12日
没有任何一个模型选择被建议的输招的频率高于其中性基线,即说服并没有让模型输掉
待验证50%
10月12日
缺乏中性对照的评估会把空间索引偏差误判为模型易被说服,匹配对照能抓住这类混淆因素
待验证50%