ControlNet
一种用于精确控制AI图像生成模型输出的技术,可以通过额外的条件输入(如边缘检测、姿态骨架等)来控制生成图片的构图和姿态
核心事实
时间轴 (近 90 天)
行业应对AI图像编辑的路径包括:可控生成技术(如ControlNet、IP-Adapter)、专用inpainting模型、浏览器端轻量工具三条路径,TextRaze属于第三条路径。
IP-Adapter、ControlNet人脸模块及各平台的角色一致性功能本质上是将参考图编码为额外的条件向量注入生成过程,从而在语义层面锚定角色身份
ComfyUI每增加一个ControlNet单元会额外占用1-2GB显存
当前大量微调、LoRA、ControlNet等生态工具都是围绕特定潜空间构建的
文生图模型实现品牌风格一致性通常通过在提示词中固定色调构图字体等参数,或使用ControlNet及风格参考图约束输出
ControlNet是目前最具代表性的姿态控制模型开源实现之一
要让同一角色在不同场景、姿势下保持五官、体型、服饰高度统一,需借助LoRA微调、ControlNet骨架控制或IP-Adapter等进阶技术手段
早期许多视频生成模型必须依赖 ControlNet、IP-Adapter 或专项 LoRA 才能完成角色绑定
AnimateDiff和SVD的根本设计目标是生成而非精确编辑,不原生支持锁定背景仅替换前景人物的受控编辑,需结合ControlNet、深度图或光流约束等额外条件注入才能提升可控性
SDXL 基础模型本身约占 6–7GB 显存,同时加载 Refiner、多个 ControlNet 权重(每个约 1.4GB)和高精度 VAE 时峰值显存容易超过 20GB
还有 40 条时间轴事件
全部知识事实 (20)
ControlNet是2023年由斯坦福大学研究者提出的条件控制网络,在原有扩散模型旁边附加了一个可训练的控制分支
90%已验证ControlNet由斯坦福大学张吕敏于2023年提出,通过提取参考图的骨骼姿态、边缘线条或深度信息作为条件信号控制生成图像布局
70%已验证基于扩散模型的人脸替换与驱动技术只需少量参考图像即可将目标人物的面部特征迁移到任意视频素材上
65%已验证ControlNet是一种条件控制架构,允许用户通过深度图、边缘图、人体姿态等辅助信号控制生成内容的空间结构
65%已验证图生视频时将第一张图设为起始帧、第二张图设为结束帧,让 AI 视频模型自动补全过渡动画,这种技术在学术上称为视频插值(Video Interpolation)
65%已验证ControlNet用于控制AI图像生成的姿态和构图,LoRA微调用于定制特定风格或人物
65%已验证IP-Adapter和ControlNet等技术可用于将角色面部特征编码为参考向量,注入到后续生成过程中实现跨镜头人物锁定
65%已验证ControlNet能够接受骨骼关键点、深度图、边缘图等结构化信息作为扩散模型的额外条件
65%已验证ControlNet由张吕敏于2023年提出,通过在预训练扩散模型上附加额外的条件控制分支,支持边缘线稿、深度图、人体骨骼姿态、语义分割图等多种结构化输入来控制生成图像的构图和空间布局
65%待验证WanVideoWrapper 支持与 ControlNet、IP-Adapter 等节点联动使用
90%待验证现代角色动作迁移技术基于扩散模型,通过ControlNet等条件控制机制将姿态骨骼图作为额外条件输入,利用IP-Adapter等技术保持外观一致性
90%待验证首尾帧控制的原理是将参考图像编码为条件向量,在扩散模型的去噪过程中持续注入条件信号,其作用类似于ControlNet但扩展到了时序维度
85%待验证深度重绘通过ControlNet将深度图注入生成过程,以保留前景与背景的空间层次关系和透视关系
85%待验证AI生图工具的「参考图引导」功能通常借助ControlNet或IP-Adapter等技术实现
85%待验证Stable Diffusion开源意味着任何人可下载模型、在本地显卡运行,并训练LoRA微调模型或使用ControlNet实现构图控制
70%部分验证ControlNet等控制技术允许用户通过边缘图、深度图等条件输入精确控制构图
65%待验证深度通道记录场景中每个像素到摄影机的距离,通常以灰度图呈现,可作为ControlNet等条件控制机制的输入信号引导AI生成空间结构
60%待验证ControlNet由张吕敏等人于2023年提出,通过在预训练扩散模型旁附加一个可训练的编码器分支,接收边缘图、深度图、语义分割图等空间条件信号来控制生成图像的结构布局
60%待验证ControlNet通过引入额外条件分支(如边缘检测图、深度图、人体姿态骨架)让用户在生成过程中施加精确的空间约束
60%待验证ControlNet通过零卷积层将预训练的Stable Diffusion与条件分支连接,允许通过额外条件输入精确控制生成结果
60%