概念Self-Instruct方法
Self-Instruct
一种利用已有语言模型自动生成指令跟随数据的训练方法，通过让模型生成任务描述和对应回答来扩充训练数据集，无需大量人工标注，是合成数据生成的重要技术范式之一。
时间轴 (近 90 天)
9月17日
合成数据方法的典型案例包括Meta的Self-Instruct、DeepMind的AlphaCode训练流程以及OpenAI在GPT-4技术报告中提及的RLHF数据增强
待验证50%
8月25日
典型的合成数据技术包括 Self-Instruct、Evol-Instruct 以及基于种子数据的扩写和改写
待验证50%