Unverified50% confidenceSolutionExact time
研究团队使用LLM作为裁判，对每个主成分找出最强和最弱激活样本，评估是否暗示可迁移的欺骗方向并打分，选取得分最高的主成分子集训练探针
1
Sources
50%
Confidence
Long-term
Relevance
9/11/2026
First Seen
Sources
Related Entities
Related Claims
Unverified研究团队以Llama-3.1-8B-Instruct模型为实验对象，在3个留出的欺骗检测数据集上考察探针泛化性能72% similarUnverified将生产环境中出现的异常trace转化为新的回归测试用例，是构建LLM评估集的有效方法71% similarUnverified数据污染问题源于LLM预训练语料来自Common Crawl等大规模网络爬取，可能包含公开的基准测试题目及答案70% similarUnverified对抗性采样应专门收集模型置信度低、用户反馈负面或触发兜底策略的困难样本，这些样本对评估模型鲁棒性至关重要69% similarUnverified过拟合评测集的手段包括将评测数据混入训练语料、间接的网络爬虫污染、教学式微调以及训练模型识别评测场景68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/899114API
curl https://kongchang.com/api/v1/knowledge/claims/899114MCP
get_claim(id=899114)