扩散模型生成神经网络权重：用AI造AI的初步尝试

从生成像素到生成权重

扩散模型如今被广泛用于「文本生成图像」——本质上，图像不过是一个三维矩阵，每个数值代表红、绿、蓝的亮度。Reddit 上一位开发者提出了一个大胆的想法：如果把扩散模型的输出从像素矩阵换成神经网络的权重矩阵，会发生什么？

这个问题的潜台词很直接：如果 Gen AI 能从随机噪声中「去噪」出一张合理的图像，那它是否也能从噪声中「去噪」出一个可用的神经网络？他在帖子中写道，自己一直梦想着用扩散模型直接生成权重，而不是像素。

POC 是怎么做的

这位开发者没有停留在设想层面。他借助 z.ai 的 zcode 工具和 GLM 模型，在 GitHub 上发布了一个名为 nngen 的小型概念验证项目（POC）。据其描述，这是「一个非常小的实验性实现，但似乎有些东西能跑通」。

训练目标被设计得很具体，比如向模型提出这样的需求：

• 「给我一个神经网络，能引导一支笔画出一个人」
• 「给我一个游戏场地的神经网络，左右两侧各有一个 paddle，中间有一个弹跳的球……」——也就是生成一个 Pong 游戏

换句话说，用户用自然语言描述任务，扩散模型尝试直接产出一个能完成该任务的网络权重。

项目还配了一个小型 Web 应用用于测试训练出的模型。不过开发者坦言，目前训练只完成了一半（3000/4000 步），而且用的是自己笔记本的 CPU，算力相当有限。他展示的截图是「取得的最好结果」——这个限定词本身就说明，多数样本的表现可能并不理想。

为什么这个方向值得认真看待

把「生成图像」和「生成网络权重」放在一起类比，并不只是文字游戏。两者在数学结构上确实有相似之处：图像是三维张量，网络权重同样是一组高维张量；扩散模型学习的是数据分布的分数函数，理论上任何高维连续分布都可以纳入这个框架。

真正的问题在于维度和约束。一张 512×512 的图像约有数十万个参数，而即便是一个小型策略网络也有上万到数十万个权重，且这些权重之间存在强耦合——任意一个权重的微小扰动都可能让整个网络失效。图像里的像素错了只是「看起来怪」，权重错了则是「功能全废」。这意味着扩散模型必须在极高维、极敏感的空间里保持一致性，难度远高于生成像素。

另一个现实障碍是验证成本。生成一张图，人眼一秒就能判断好坏；生成一个网络，必须实际部署、跑任务、算回报，才能知道它行不行。这让训练信号的获取变得昂贵且稀疏。

分数函数（Score Function） 是扩散模型的核心数学对象。简单来说，它指向数据空间中「概率密度增长最快的方向」，即给定一个带噪样本，模型学会预测如何微调它才能更接近真实数据分布。训练时，模型被要求估计不同噪声水平下的分数函数；采样时，则从纯噪声出发，反复沿着分数函数指明的方向去噪，最终落回数据流形上。由于分数函数只依赖数据分布本身，理论上任何连续高维分布——无论是图像像素还是网络权重——只要能被足够多的样本表示，都可以纳入这一框架。这正是「生成权重」在数学上并非荒谬的起点，但也意味着模型需要海量权重样本才能学到有意义的分布。

超网络（Hypernetwork） 是理解「生成网络权重」的重要背景。它指的是一类专门用来输出另一个网络权重的神经网络：输入任务描述或条件向量，输出目标网络的完整或部分参数。超网络在元学习、持续学习和多任务学习中已有多年研究，其核心优势是能根据任务动态生成适配的权重，而无需为每个任务单独训练。与扩散模型路径的区别在于，超网络通常通过任务损失端到端训练，生成过程是确定性的前向计算；而扩散模型把权重生成视为从噪声分布中采样，强调多样性与分布覆盖。将两者结合——用扩散模型作为超网络——正是 nngen 这类实验的潜在定位。

低秩分解（Low-Rank Decomposition） 是缓解高维权重生成敏感性的常用手段。一个权重矩阵可以近似分解为两个低秩矩阵的乘积，从而将需要生成的参数数量从数百万级压缩到数万级。在扩散模型生成权重的语境下，先生成低秩因子而非完整权重，相当于把搜索空间限制在一个更平滑、耦合更弱的子流形上，任意扰动对网络功能的影响也更可控。LoRA 等参数高效微调方法正是利用了这一思想。原文结尾提到的「先生成低秩分解后的权重」即指向这条路径，其代价是牺牲部分表达能力，换取生成过程的可控性与验证效率。

社区的疑问与空白

开发者明确表示，没有找到类似实现的论文，因此在社区里征集相关研究和贡献。这一点值得注意：用生成模型直接产出网络权重并非全新概念（例如超网络、权重生成网络已有研究），但「以扩散模型为主体、以自然语言为条件、端到端生成可执行权重」的组合确实少见公开工作。

这也意味着当前的 POC 缺乏可比基线。3000/4000 步的半程训练、笔记本 CPU、仅展示最好结果——这些条件叠加起来，很难判断方法本身是否有效，还是仅仅在少数样本上碰巧出现了一些看似合理的输出。

从更宏观的角度看，这个实验触及了一个有意思的问题：Gen AI 生成 Gen AI，是否会成为模型自动设计的一条路径？ 如果扩散模型能够按需合成小型网络，那么未来或许可以用它来批量生成专用的小模型，甚至为特定任务定制策略网络。但就目前的证据而言，这仍然是一个开放问题，而非已经被验证的结论。

对实践者的启示

对于想跟进这个方向的开发者，这个 POC 提供了几个可借鉴的点：用自然语言作为网络生成的条件输入，降低了任务描述的门槛；选择 Pong 这类状态空间小、规则明确的游戏作为验证环境，便于快速判断生成网络是否可用；以及公开承认算力与训练进度的局限，让结果解读更诚实。

真正的突破口可能在于降低生成空间的敏感度——比如先生成低秩分解后的权重、或生成网络的结构超参数再由传统方法填充权重，而不是一次性生成全部参数。这些思路在原始帖子中并未展开，但正是这个方向接下来需要回答的问题。