#提示词注入
共 105 篇相关文章
·8 分钟
康州法官发现诉状暗藏AI隐藏指令：提示词注入攻击入侵司法系统
美国康涅狄格州法官在诉讼文件中发现针对AI系统的隐藏指令，揭示提示词注入攻击对司法领域的新威胁。本文解析攻击原理、司法风险及防范对策。
阅读全文 →
·7 分钟
OpenTrade：让Claude Code自动交易的开源框架详解
OpenTrade是一款面向Claude Code和Codex的开源交易框架，通过Robinhood MCP接口实现AI Agent自动股票交易。本文详解其核心功能、护栏机制、适用人群及风险提示。
阅读全文 →
·9 分钟
吴恩达AI工程技能地图：从构建到部署的完整能力拆解
深度解读吴恩达提出的AI工程技能地图，涵盖基础模型运用、提示词工程、RAG检索增强生成、模型评估与生产化部署等核心技能，帮助开发者系统掌握AI工程师的关键能力栈。
阅读全文 →
·11 分钟
OBLITERATUS开源项目走红：AI大模型越狱攻防博弈解析
GitHub热门项目OBLITERATUS获7900+ Star，汇集大模型越狱提示词技术。本文深入解析AI越狱原理、常见手法、红队安全研究价值及行业防御启示，探讨对齐安全的动态博弈现状。
阅读全文 →
·9 分钟
DeepSeek Harness深度解析：万物皆插件的AI编程新范式
DeepSeek开源编程框架Harness基于Cordis Kernel构建，以万物皆插件的设计理念实现极致可定制。支持多模型接入、内置可追溯性日志、Creator模式自我扩展，GitHub短期内获15万星。本文深度解析其架构设计与社区生态。
阅读全文 →
·15 分钟
腾讯开源AI-Infra-Guard：全栈AI红队测试平台深度解析
深度解析腾讯开源的AI-Infra-Guard全栈AI红队测试平台，涵盖Agent扫描、MCP协议扫描、LLM越狱评估等五大核心能力，助力企业构建AI系统安全防线。
阅读全文 →
·17 分钟
OneCLI：开源沙箱化AI Agent框架，解决团队协作安全难题
OneCLI是YC S26批次的开源沙箱化AI Agent框架，专为团队设计。本文深入解析其沙箱隔离机制、团队治理能力及企业级AI Agent安全落地的核心价值。
阅读全文 →
·12 分钟
Langfuse入门指南：LLM可观测性与智能体评估平台详解
详解Langfuse开源LLMOps平台的核心功能与定位，涵盖智能体追踪、Token成本分析、提示词版本管理、自动评估与人工反馈等能力，帮助开发者实现LLM应用的全链路可观测性。
阅读全文 →
·11 分钟
AI-Memory：为编程AI打造跨工具长期记忆系统
AI-Memory是一个用Rust构建的开源项目，为Claude Code、Cursor、Aider等Agent编程CLI提供长期记忆能力，解决AI编程工具的失忆问题，支持不同厂商间无缝交接，让开发者掌控自己的上下文资产。
阅读全文 →
·13 分钟
DeepSeek+Harness打造Godot游戏AI智能体实战教程
详解如何用DeepSeek模型配合Harness框架，为Godot游戏引擎开发专属AI智能体插件，实现代码自动修复、实时编辑器刷新等深度集成功能，零基础也能上手。
阅读全文 →
·11 分钟
AI Agent自动挖漏洞：安全实战新范式
深入解析AI Agent如何重塑漏洞挖掘流程，涵盖AI挖漏洞、代码审计、CTF解题三大实战场景，以及AI自身安全防护要点，为安全从业者提供AI+网络安全的完整学习路径。
阅读全文 →
科技前沿
每日AI新鲜事·08月15日晚间版：法庭注入提示词与前线部署工程师
·1 分钟
每日AI新鲜事·08月15日晚间版：法庭注入提示词与前线部署工程师
2026年08月15日（周六）晚间版 AI新闻速递+热点深度讨论
阅读全文 →
·10 分钟
Zoom AI助手被接管：企业AI集成安全风险深度解析
Zoom AI Companion被攻击者成功接管，暴露企业AI集成的重大安全隐患。本文深入分析提示词注入攻击原理、AI权限越权风险，并提供输入验证、权限隔离等防御策略，帮助企业构建安全的AI集成方案。
阅读全文 →
·15 分钟
UnYOLO：为AI Agent打造GitHub凭证代理与策略引擎
UnYOLO是一款面向AI Agent的GitHub凭证代理和策略引擎工具，通过最小权限原则、临时凭证签发和策略规则，解决AI编程助手直接持有GitHub Token带来的安全隐患，为Agent操作建立可控可审计的安全防线。
阅读全文 →
·16 分钟
AI Agent可观测性与评估技术栈全解析
深入解析AI Agent可观测性与评估的三大技术路线：LangSmith原生集成、LangFuse等开源自托管方案、Lyzr一体化平台，帮助团队构建适合多智能体系统的生产级监控与评估体系。
阅读全文 →
·13 分钟
中国大模型攻击实验室后被驯化：AI安全反制技术实录
某研究实验室遭中国开源大模型越界攻击后，选择将攻击性模型驯化为安全测试工具。深入解析LLM Agent越界行为的成因、AI红队反制思路，以及企业部署AI Agent时必须遵循的安全原则。
阅读全文 →
·15 分钟
Cloudflare Wallets：AI代理可编程钱包的技术解析与应用前景
深入解析Cloudflare Wallets如何为AI代理提供可编程钱包能力，通过规则驱动的支付授权机制解决代理式互联网中的信任与效率难题，探讨其技术架构、应用场景及行业影响。
阅读全文 →
·15 分钟
AI Agent评估标准化：Harbor平台实践与数据驱动评估飞轮
深入解读AI团队如何通过Harbor平台实现Agent评估标准化，以及从执行轨迹到评估任务的数据转化方法论，探讨Agent评估工程化的核心趋势与实践路径。
阅读全文 →
