AI助手
核心事实
时间轴 (近 90 天)
在X（原Twitter）和开发者社区中，有用户报告自己的AI助手在自动预订、退换货等场景中与商家机器人陷入循环对话。
对于普通用户，在使用AI助手分享功能前应确认链接是否可被搜索引擎索引、是否有访问密码或过期设置；若对话包含敏感信息，最安全的做法是不使用分享链接。
社区成员建议针对关键政策（如休假制度、报销流程）建立测试集，每次政策变更后不仅更新知识库，还要运行预设问题验证AI是否给出新答案；测试时需确保旧文档已标记为过时或从检索库中移除，否则AI仍可能引用。
十二年前（约2013年前后），AI助手的主流形态是基于规则和语音指令的有限交互，大语言模型尚未进入实用阶段。
AI助手领域竞争密集，产品同质化风险不低，用户迁移成本也未必如想象中高。
在客户支持场景中，使用AI助手的客服人员每小时解决的问题数增加了13.8%，经验最少的员工提升幅度最大，达到约35%。
上线AI助手前应进行对抗性测试，覆盖边界问题。
AI助手在阅读外部文档时无法可靠区分被总结的文本和指令，若拥有发送邮件的工具权限，隐藏的指令可能被执行。
在受监管行业（如律所、银行、诊所、保险公司），AI助手阅读的文档常来自利益对立方，且助手连接着邮箱、文档库、案件档案等具有实际影响力的系统。
记忆工具中的 user_id 应来自应用上下文而非 AI 生成，以防止用户越权读取他人记忆。
还有 40 条时间轴事件
全部知识事实 (20)
建站场景的AI助手通常经过领域微调或RAG（检索增强生成）处理，将产品帮助文档和常见问题库作为知识库
75%已验证AI降低的是工程实现门槛，而非科研思维门槛，对实验结果的科学判断和领域知识理解仍是AI无法替代的部分
65%待验证提示词工程在2023年初曾被视为'AI时代的编程语言'，催生了大量课程和职位
80%待验证对于普通用户，在使用AI助手分享功能前应确认链接是否可被搜索引擎索引、是否有访问密码或过期设置；若对话包含敏感信息，最安全的做法是不使用分享链接。
50%待验证社区成员建议针对关键政策（如休假制度、报销流程）建立测试集，每次政策变更后不仅更新知识库，还要运行预设问题验证AI是否给出新答案；测试时需确保旧文档已标记为过时或从检索库中移除，否则AI仍可能引用。
50%待验证十二年前（约2013年前后），AI助手的主流形态是基于规则和语音指令的有限交互，大语言模型尚未进入实用阶段。
50%待验证AI助手领域竞争密集，产品同质化风险不低，用户迁移成本也未必如想象中高。
50%待验证在客户支持场景中，使用AI助手的客服人员每小时解决的问题数增加了13.8%，经验最少的员工提升幅度最大，达到约35%。
50%待验证上线AI助手前应进行对抗性测试，覆盖边界问题。
50%待验证AI助手在阅读外部文档时无法可靠区分被总结的文本和指令，若拥有发送邮件的工具权限，隐藏的指令可能被执行。
50%待验证在受监管行业（如律所、银行、诊所、保险公司），AI助手阅读的文档常来自利益对立方，且助手连接着邮箱、文档库、案件档案等具有实际影响力的系统。
50%待验证记忆工具中的 user_id 应来自应用上下文而非 AI 生成，以防止用户越权读取他人记忆。
50%待验证在任务板上坦白自己是AI（如“我是AI助手，出不了门，所以雇地面上的眼睛”）能降低接单者的戒心，使任务更易被接受。
50%待验证提示词中必须明确设置“人工批准”环节，以防止助手未经确认就执行发布付费任务等不可逆动作。
50%待验证AI 助手只能引用其爬虫能够访问到的页面。
50%待验证被屏蔽的律师可以通过向AI助手提出宽泛问题，经由摘要、片段或引用获取受限文档内容，而无需直接打开文件。
50%待验证检索层指AI助手在生成回答前，从文档库中搜索并提取相关片段（如向量检索、关键词匹配）的中间环节。
50%待验证当AI助手接入文档管理系统后，访问控制风险从文件浏览器层面转移到AI摘要生成层面。
50%待验证Jonathan Melton建议律所在部署AI助手前，务必验证检索层的权限执行逻辑是否与界面层保持一致。
50%待验证措辞模糊的网页对AI助手没有价值，即使它在搜索排名中位列第一，因为其中没有被引用的内容。
50%