1.小红书the brand

近年来，单步扩散模型因其出色的生成性能和极高的推理效率，在图像生成、文本到视频、图像编辑等领域大放异彩目前主流的训练方法是通过知识蒸馏，最小化学生模型与教师扩散模型之间的分布差异然而，现有的方法主要集中在两条平行的理论技术路线上：。

2.2020小红书

基于 KL 散度最小化的方法（如 Diff-Instruct[1]，DMD[2] 等）：收敛速度快，但可能存在模式崩溃问题，进而导致生成性能差基于分数散度最小化的方法（如 SIM[3]，SiD[4] 等）：蒸馏性能更好，但训练收敛较慢。

3.小红书nlp

这两条路线似乎在理论上是割裂的那么，我们能否将它们统一在一个共同的理论框架下？如果可以，这个统一的框架能否带来更强的模型性能？

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。