DSPy
DSPy是由斯坦福大学开发的开源声明式编程框架,专为基于大型语言模型(LLM)的应用程序设计。它将提示词工程抽象为可组合的模块化组件,支持自动优化提示词和模型权重,使开发者能够以编程方式构建和调优语言模型流水线,而无需手动编写大量提示词。DSPy的核心理念是将模型调用的"描述目标"与"优化策略"分离,提升复杂LLM应用的可维护性与可复现性。
核心事实
时间轴 (近 90 天)
GEPA(Genetic-Pareto)是DSPy中的一种优化策略,它结合遗传式搜索与帕累托前沿思想,利用执行轨迹、评分指标和自然语言反馈来迭代改写提示词。
OpenProse 与 DSPy 正好相反:DSPy 把每次 LLM 调用当黑箱,代码与接口全部确定性、类型化;OpenProse 则相信模型足够聪明到成为编译器,把一切放在模糊领域。
DSPy 等框架可以在不改变模型权重的前提下,通过评估输出质量迭代优化提示词模板
DSPy使用一小组样本,通过遗传编程式的候选合并与评估来学出最优系统提示
自动提示词调优的主要技术路线包括 DSPy 和 APE(Automatic Prompt Engineer)等框架
DSPy 将提示词视为可优化的参数,通过多次前向传播和反向信号(如任务得分)来自动调整提示词的措辞与结构
使用追踪(usage traces)是系统在运行过程中自动记录的输入输出日志、错误信息与执行路径,是DSPy、TextGrad等主流LLM优化框架的核心反馈来源
执行框架层的代表性工具包括 LangChain、LlamaIndex、DSPy 以及 Instructor 等
DSPy内置了多种优化器(如BootstrapFewShot、MIPRO),能够根据评估指标自动搜索更好的少样本示例或指令措辞
DSPy是斯坦福大学NLP团队开发的开源框架,全称为Declarative Self-improving Python
还有 19 条时间轴事件
全部知识事实 (20)
DSPy是斯坦福开发的提示词编程框架,将提示词优化转化为可微分的编程问题
75%已验证DSPy内置的优化器包括BootstrapFewShot和MIPROv2,可自动搜索最优的few-shot示例组合和指令措辞
75%已验证DSPy(Declarative Self-improving Language Programs)由斯坦福NLP实验室于2023年发布
65%待验证DSPy的核心思想是将LLM程序的结构与参数分离,由优化器自动搜索和编译生成最优的提示配置
90%待验证DSPy(Declarative Self-improving Python)由斯坦福大学Omar Khattab等人于2023年提出
90%待验证提示词工程领域已出现系统化框架如 CRISPE、CO-STAR 和自动化优化工具如 DSPy
90%待验证2023年以来业界出现了多种将软件工程方法论引入Prompt管理的实践,包括DSPy、LangChain、LlamaIndex和微软Semantic Kernel等
85%待验证DSPy框架将Prompt优化抽象为可编程的模块化管道
85%待验证GIPA据原论文报告仅需三个样本就够开始优化,效果优于强化学习和过去的DSPy优化器
80%待验证MLflow 与 Feature Store 集成时可以自动记录训练所用的特征版本与数据集快照,实现从特征定义到部署版本的模型谱系追溯
70%待验证DSPy由斯坦福NLP组开发,将整个LLM管线抽象为模块化程序,每个模块声明输入输出签名,框架负责自动生成、评估和优化提示词
60%待验证GEPA(Genetic-Pareto)是DSPy中的一种优化策略,它结合遗传式搜索与帕累托前沿思想,利用执行轨迹、评分指标和自然语言反馈来迭代改写提示词。
50%待验证OpenProse 与 DSPy 正好相反:DSPy 把每次 LLM 调用当黑箱,代码与接口全部确定性、类型化;OpenProse 则相信模型足够聪明到成为编译器,把一切放在模糊领域。
50%待验证DSPy 等框架可以在不改变模型权重的前提下,通过评估输出质量迭代优化提示词模板
50%待验证DSPy使用一小组样本,通过遗传编程式的候选合并与评估来学出最优系统提示
50%待验证自动提示词调优的主要技术路线包括 DSPy 和 APE(Automatic Prompt Engineer)等框架
50%待验证DSPy 将提示词视为可优化的参数,通过多次前向传播和反向信号(如任务得分)来自动调整提示词的措辞与结构
50%待验证使用追踪(usage traces)是系统在运行过程中自动记录的输入输出日志、错误信息与执行路径,是DSPy、TextGrad等主流LLM优化框架的核心反馈来源
50%待验证执行框架层的代表性工具包括 LangChain、LlamaIndex、DSPy 以及 Instructor 等
50%待验证在DSPy中,Signature定义任务的输入输出类型(类似函数签名),Module是执行任务的基本单元(类似神经网络中的层),多个Module可串联组合成Pipeline
50%