精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

斯坦福與Adobe新研究,模仿蒸餾技術輕松讓200億參數圖像生成高質量大模型

人工智能 新聞
斯坦福大學和 Adobe 研究院聯手,用 pi-Flow(基于策略的流模型)技術,讓 200 億參數的文本到圖像大模型,在 4 步之內就生成了媲美教師模型的高質量、高多樣性圖片。

高質量圖像生成又加速了!

斯坦福大學和 Adobe 研究院聯手,用 pi-Flow(基于策略的流模型)技術,讓 200 億參數的文本到圖像大模型,在 4 步之內就生成了媲美教師模型的高質量、高多樣性圖片。

讓圖像生成模型少走幾步

所有玩過 AI 繪畫的人都有一個共同的體驗,未蒸餾的原版大模型,點擊生成,看著進度條一點點爬升,從一個模糊的噪聲,慢慢變得清晰。這個過程短則十幾秒,長則幾分鐘。

模型拿到一團純粹的隨機噪聲,然后一步一步地猜,“如果我想得到一張貓的圖片,這一步應該把噪聲變成什么樣?”。這個過程叫“去噪”。它需要猜幾十步甚至上百步,才能把一個隨機的東西,變成一張有意義的畫。

每一步,模型都要完整地運行一次,消耗巨大的計算資源。

于是有人想,能不能少走幾步?比如原來要走 100 步,現在我走 10 步、5 步,甚至 1 步,行不行?

這就是所謂的“少步采樣”(Few-Step Generation)。

但當你強行減少步數,問題就來了。步子邁得太大,容易扯著。專業點說,這叫“離散化誤差”。

模型本來是基于一個連續的、平滑的變換過程設計的,你非要讓它大踏步地跳著走,中間的細節就全丟了。結果就是生成的圖片質量急劇下降,要么模糊不清,要么出現各種奇怪的偽影。

還有“質量-多樣性權衡”問題。

少步生成要想圖片質量高,生成的多樣性就得犧牲。出來的圖來來回回就那幾個樣子,失去了創作的驚喜感。反過來,如果想讓圖片風格多變,質量又會變得很差。就像一個學畫畫的學生,如果只讓他快速畫幾筆,他要么只能畫出他最熟練的那一個東西,要么就畫得亂七八糟。

為了解決這個問題,大家想了很多辦法,比如“模型蒸餾”。就是讓一個已經訓練好的知識淵博的“教師模型”,手把手教一個“學生模型”怎么快速拿到好結果。

但這個過程很復雜,有時候需要引入額外的判別器(GAN, 生成對抗網絡),或者計算復雜的雅可比向量積(JVP, Jacobian-Vector Product),工程上非常麻煩,效果也常常不盡如人意。

GMFlow 說,世界不是非黑即白

斯坦福大學和 Adobe 研究院聯手搞的一個項目 LakonLab,決定從根子上解決問題。他們首先推出的 GMFlow,在 2025 年的 ICML(國際機器學習大會)上亮相,直接挑戰了傳統擴散模型和流匹配模型(Flow Matching Models)的一個基本假設。

傳統模型在去噪的每一步,都假設像素下一步應該變成的樣子,符合一個簡單的高斯分布。也就是說,模型會預測一個最可能的目標均值,然后朝著那個方向走。

但真實世界復雜得多。一個像素點在去噪過程中,完全可以有多種同樣合理的可能性。比如,一塊區域既可以是藍天,也可以是白云。傳統模型強行讓它選一個,就可能導致最終結果很僵硬,缺乏細節和真實感。

GMFlow 想:為什么只能有一個選項?

它不再預測一個單一的高斯均值,而是預測一個高斯混合分布(Gaussian Mixture, GM)。模型在每一步都會說:“這個像素點,有 40% 的可能應該變成這個樣子(第一個高斯分布),有 30% 的可能應該變成那個樣子(第二個高斯分布),還有 30% 的可能……”

它為像素的演化提供了多個備選項,并且給出了每個選項的概率。這一下就把模型的表達能力打開了。它能更好地捕捉真實世界中那種模棱兩可、充滿多種可能性的狀態。這對于生成細節豐富、紋理復雜的圖像至關重要。

為了配合這個新的輸出形式,GMFlow 還設計了一套專屬的 GM-SDE(隨機微分方程)和 GM-ODE(常微分方程)求解器。這套求解器能夠精確地利用模型給出的高斯混合信息,進行更準確的采樣。即使在很少的步數下,也能有效地減少離散化誤差。

GWMFlow 還改進了引導方式。傳統的分類器自由引導(Classifier-Free Guidance, CFG)是通過加強文本提示的影響力來提升圖像質量,很容易用力過猛,導致圖像色彩過飽和、細節失真。GMFlow 提出了概率引導(Probabilistic Guidance),這種方式更溫和、更智能,它利用高斯混合分布的概率信息來做引導,既提升了質量,又避免了過飽和問題。

GMFlow 的效果立竿見影。在 ImageNet 256×256 這個標準數據集上,只用 6 步采樣,它的精度(Precision)就達到了 0.942,明顯超過了之前的流匹配基線模型。

pi-Flow 把老師傅的心法學會了

如果說 GMFlow 是對模型“看世界”的方式做了升級,那么 pi-Flow,就是對模型“行動”的方式進行了一場徹頭徹尾的革命。

pi-Flow 的全稱是“基于策略的流模型”(Policy-Based Flow Models)。它的核心思想,來自于一個非常聰明的類比:模仿蒸餾(Imitation Distillation)。

我們繼續用教師和學生的例子。以前的蒸餾方法,好比是教師模型(走的慢但畫得好)在每個關鍵節點,告訴學生模型(想走的快):“你應該走到這里”。學生模型就拼命學習,記住每個節點的位置。但當步數變得極少,比如從 100 步壓縮到 4 步,節點之間間隔巨大,學生就懵了,因為它不知道兩點之間該怎么走才是最優路徑,只能硬著頭皮走直線,結果自然很差。

pi-Flow 換了個思路。它不讓學生模型去死記硬背那幾個關鍵節點的位置。

它讓學生模型學習老師傅的“心法”。

這個“心法”,在 pi-Flow 里被稱為“策略”(Policy)。

具體來說,學生模型的網絡不再直接輸出一個最終的去噪結果,而是輸出一個“策略”。這個策略是一個小型的、不依賴于大模型本身的計算規則。拿到這個策略后,你可以在當前的一大步(比如從第 1 步到第 2 步)之內,再進行多次微小的子步驟計算。

關鍵點在于,這些子步驟的計算,完全由這個“策略”來指導,不需要再反復調用那個龐大、笨重的學生網絡。

這就像老師傅教徒弟功夫,不是教他一招一式的死套路,而是教他一套內功心法。徒弟學會心法后,就可以根據實際情況,在一次交手中瞬息萬變地使出無數招式,而不需要每次都停下來問師傅“這下該怎么辦”。

這個教學過程,pi-Flow 稱之為“策略模仿蒸餾”(pi-ID)。它通過一個簡單的 L2 流匹配損失函數,讓學生模型生成的“策略”,在執行完一系列子步驟后的最終軌跡,與教師模型慢悠悠走出來的精確軌跡,盡可能地對齊。

整個過程異常干凈利落。沒有花里胡哨的輔助網絡,沒有不穩定的對抗訓練(GAN),也不需要計算復雜的 JVP。就是一個簡單的 L2 損失,直指問題核心。

pi-Flow 的這個設計,直接打破了前面提到的“質量-多樣性”的魔咒。

因為它學習的不是一個僵化的結果,而是一個動態生成路徑的“方法論”。這個方法論本身就蘊含了教師模型對于多樣性的理解。因此,學生模型在快速生成時,既能保持教師級別的圖像質量和風格一致性,又能產生豐富的多樣性。

在 ImageNet 256×256 數據集上,它用 DiT(一種流行的視覺 Transformer 架構)做學生模型,僅需 1 次網絡功能評估(1-NFE),也就是模型主體只跑一次,就能達到 2.85 的 FID(一個衡量生成圖像質量和多樣性的核心指標,越低越好)。

LakonLab 把它用在了 FLUX.1(120 億參數)和 Qwen-Image(通義千問-Image,200 億參數)這種巨無霸模型上。結果,在僅僅 4 次網絡評估(4 NFEs)下,pi-Flow 生成圖像的多樣性,顯著超過了當時市面上其他的少步生成方案,比如 SenseFlow 和 Qwen-Image Lightning,同時圖像質量幾乎和需要走很多步的教師模型看不出差別。

GMFlow 是理論基礎,為 pi-Flow 的策略輸出提供了靈感;pi-Flow 則是將這個理論發揮到極致的工程杰作,它把教師的“知識”高效地壓縮到了學生的“策略”里。

LakonLab 基石

LakonLab 連續推出 GMFlow 和 pi-Flow,背后是斯坦福大學和 Adobe 研究院強大的工程能力和產學研協同體系。

LakonLab 本身就是一個為大規模擴散模型實驗而生的高性能代碼庫。它的設計目標是要能支撐得起百億甚至千億參數級別模型的訓練和推理。

這里面有幾個關鍵特性:

  • 分布式訓練優化:訓練 200 億參數的模型,單張顯卡是天方夜譚。LakonLab 深度整合了多種分布式訓練方案,如 DDP(分布式數據處理)、FSDP(完全分片數據并行)等。這些技術能將一個巨大的模型和海量的數據,拆分到成百上千張 GPU(圖形處理器)上進行協同訓練,極大地提高了訓練效率。
  • 權重綁定(Weight Tying):在超大模型中,通過在不同部分共享參數,可以有效減少模型的總參數量和顯存占用,讓更大模型的訓練成為可能。
  • 高級流求解器:它內置了為 GMFlow 和 pi-Flow 量身定制的求解器,如 FlowSDEScheduler 和 FlowAdapterScheduler,保證了算法能高效、精確地運行。
  • 多存儲后端支持:支持從本地文件系統、AWS S3 到 HuggingFace 的多種數據存儲和模型加載方式,方便研究人員在不同環境下進行實驗。
  • 與 Diffusers 的深度集成:Diffusers 是 HuggingFace 推出的一個流行的擴散模型庫。LakonLab 與它的集成,意味著這些前沿的技術可以很方便地被更廣泛的社區使用和驗證。

這個強大的工程底座,是 GMFlow 和 pi-Flow 從理論走向現實的橋梁。

來看看生成效果:

pi-Flow 和 GMFlow 的出現,為圖像生成領域,帶來了里程碑式的影響。

責任編輯:張燕妮 來源: AIGC開放社區
相關推薦

2023-02-14 09:45:11

模型測試

2023-03-15 10:26:00

模型開源

2023-10-11 09:53:27

人工智能AI 圖像

2017-11-28 14:18:29

2023-12-08 13:22:00

數據模型

2022-10-20 15:38:02

谷歌模型

2023-03-31 13:55:00

模型智能

2023-03-22 15:14:00

數據模型

2025-01-17 10:26:19

模型開發ChatGPT

2023-06-25 13:28:21

2025-08-27 07:17:00

數據驅動數據治理大數據

2023-11-30 13:04:56

LCM圖像

2022-11-09 13:43:59

中小企業

2024-09-11 15:00:00

2023-07-21 14:47:24

AI訓練

2024-06-17 08:49:00

模型語言

2023-08-28 13:06:47

2024-11-29 16:35:50

模型訓練

2022-10-08 12:38:23

模型開源

2011-05-31 13:43:46

外鏈
點贊
收藏

51CTO技術棧公眾號

91在线视频| 国产精品乱码一区二区视频| 国产精品成人自拍| 色综合一区二区| 伊人av成人| 日韩一级片免费观看| 日韩成人一级大片| 欧美日本亚洲视频| 美女被到爽高潮视频| 日韩欧美激情电影| 91国产视频在线观看| 欧美视频在线第一页| 你懂的视频在线免费| 国产乱码精品一品二品| 国产suv精品一区二区| 麻豆一区二区三区精品视频| 成人91在线| 亚洲精品短视频| 欧美污在线观看| 中文字幕日本一区二区| 精品久久久久久亚洲国产300| 中文字幕一区二区三区5566| 五月色婷婷综合| 国产精选一区二区三区| 国产精品美女久久久久久免费| 豆国产97在线 | 亚洲| 香港欧美日韩三级黄色一级电影网站| 亚洲精品999| 免费看91视频| 久久亚洲精精品中文字幕| 欧美视频一区二区三区四区| 春日野结衣av| 国产激情视频在线看| 一区二区三区精品视频在线| 一区二区三区欧美在线| av在线电影免费观看| 久久久久国产精品免费免费搜索| 国产伦精品一区二区三区高清版| 99精品视频在线播放免费| 久久福利视频一区二区| 国产精品久久久久久久久久东京| 日韩欧美成人一区二区三区| 国产日韩亚洲| 91精品国产色综合| 91精品国产乱码久久久张津瑜| 欧美日韩一区二区国产| 九九热r在线视频精品| 婷婷久久综合网| 色天天久久综合婷婷女18| 一本一本久久a久久精品综合小说| 日韩一级视频在线观看| 亚洲欧美日本伦理| 一区二区三区久久精品| 天堂在线中文视频| 99精品全国免费观看视频软件| 中文字幕欧美国内| 亚洲一级二级片| 亚洲成人日韩| 欧美日韩福利电影| 日本少妇吞精囗交| 香蕉视频成人在线观看| 国产成人精品久久亚洲高清不卡| 日韩 国产 欧美| 奇米一区二区三区| 91在线免费观看网站| а√中文在线资源库| 成人久久久精品乱码一区二区三区 | 日本免费在线视频| 国产精品手机在线| 99国产高清| 久久久久久无码精品大片| 久久欧美肥婆一二区| 国产成人在线视频| 亚洲天堂2021av| 国产激情一区二区三区| 九九九九精品九九九九| 欧美在线观看在线观看| 国产精品天天摸av网| 中文一区一区三区免费| 欧洲中文在线| 色爱区综合激月婷婷| 福利视频999| 久久夜色精品国产噜噜av小说| 日韩精品中文字幕在线播放| 第一次破处视频| 你懂的成人av| 日本一欧美一欧美一亚洲视频| 在线观看中文字幕av| 粉嫩高潮美女一区二区三区| 欧美高清一区二区| 黄页视频在线播放| 第一福利永久视频精品 | 懂色av粉嫩av浪潮av| 久久久久久久久久久妇女| 久久久久久久亚洲精品| 啪啪小视频网站| 处破女av一区二区| 深田咏美在线x99av| 欧美xxx黑人xxx水蜜桃| 欧美亚洲综合网| 中文字幕制服丝袜| av中字幕久久| 91超碰中文字幕久久精品| 国产乱人乱偷精品视频a人人澡| 99re在线视频这里只有精品| 亚洲一区美女| 欧美xo影院| 亚洲国产欧美自拍| 四虎精品免费视频| 日韩av高清在线观看| 国产91视觉| 久草中文在线| 欧美性生活大片视频| 一本加勒比波多野结衣| 亚洲精品一区二区妖精| 国产成人精品视频在线| 欧美视频一二区| 亚洲欧美日本在线| 天天综合网久久| 免费精品国产| 91精品国产自产91精品| 亚洲成人久久精品| 亚洲欧洲一区二区三区| 小泽玛利亚视频在线观看| 天堂av一区二区三区在线播放| 久久国产精品免费视频| 91亚洲精品国偷拍自产在线观看| 国产夜色精品一区二区av| 日韩中字在线观看| av不卡一区二区| 欧美精品成人在线| 99精品视频免费看| 亚洲免费视频成人| 亚洲色图欧美自拍| 91精品综合久久久久久久久久久| 国产精品麻豆va在线播放| 欧美一区二区三区少妇| 日韩欧美高清视频| 在线观看国产网站| 美女久久一区| 欧美日韩一区二区三区免费| 久久精品女人天堂av免费观看| 精品网站999www| 国产成人精品一区二三区| 北条麻妃国产九九精品视频| 欧美国产综合在线| 成人三级av在线| 国内揄拍国内精品| 日韩一区av| 日韩欧美中文免费| 日本一级免费视频| 美国十次了思思久久精品导航| 亚洲精品视频一二三| 日本一区二区中文字幕| 不卡av日日日| 韩国av永久免费| 欧美日韩精品在线观看| 一级性生活毛片| 免费不卡在线观看| 女同性恋一区二区| 国产亚洲成av人片在线观黄桃| 久久久久久久久久国产精品| 婷婷丁香一区二区三区| 色婷婷香蕉在线一区二区| 自拍偷拍你懂的| 国产精品自拍在线| 日日摸日日碰夜夜爽无码| 蜜桃精品噜噜噜成人av| 国产欧美一区二区三区在线看| 成人影院在线看| 亚洲国模精品一区| 日韩欧美一级大片| 一区二区三区欧美| 中国美女乱淫免费看视频| 蜜桃视频一区二区三区在线观看| 日本精品免费视频| 日韩精品福利一区二区三区| 国产精品夜色7777狼人| 日韩av激情| 亚洲欧美日韩网| 国产精品伊人久久| 精品欧美激情精品一区| 欧美日韩国产一二三区| 岛国精品在线播放| 国产成人久久777777| 亚洲女同中文字幕| 欧美一区2区三区4区公司二百 | av在线不卡一区| 亚洲精品中文字幕| 久久影视免费观看| 免费在线稳定资源站| 日韩欧美久久久| 中文 欧美 日韩| 亚洲一区二区三区国产| 欧美人妻一区二区三区| 大尺度一区二区| gogogo高清免费观看在线视频| 亚洲国产国产亚洲一二三| 亚洲成人av动漫| 欧美1区2区3区4区| 91久久久在线| 免费欧美电影| 性欧美激情精品| 久久久久久久久免费视频| 日韩成人av网| www.久久伊人| 欧美精品乱人伦久久久久久| 91video| 亚洲一区中文在线| 免费观看特级毛片| 久久日韩粉嫩一区二区三区 | 国产日产亚洲精品系列| 稀缺小u女呦精品呦| 国产综合久久久久久鬼色| 国产情侣av自拍| 99精品免费网| 国产精彩视频一区二区| 欧美a级片网站| 亚洲欧美日韩不卡一区二区三区| 亚洲制服欧美另类| 精品久久蜜桃| 美国十次av导航亚洲入口| 18成人免费观看网站下载| 免费视频观看成人| 国产精品永久免费观看| 亚洲电影有码| 国产成人一区二区三区电影| 欧美大片免费观看网址| 97婷婷大伊香蕉精品视频| 欧美78videosex性欧美| 欧美乱大交xxxxx| 3d玉蒲团在线观看| 欧美日韩ab片| 男人添女人下部高潮视频在线观看 | 欧美偷拍一区二区| 无码人妻黑人中文字幕| 欧美性猛交xxxx| 亚洲欧美偷拍一区| 日韩欧美在线中文字幕| 日本黄色一级视频| 日本道色综合久久| 中文字幕在线观看国产| 欧美日韩一区二区三区高清| 青青艹在线观看| 精品视频一区 二区 三区| 在线播放精品视频| 欧美日韩精品欧美日韩精品一综合| 中文永久免费观看| 欧美日韩高清一区| 国产美女明星三级做爰| 日韩三级中文字幕| 亚洲黄色在线观看视频| 亚洲激情 国产| 美女欧美视频在线观看免费| 亚洲最新av网址| 麻豆传媒在线完整视频| 麻豆一区二区在线观看| 爱福利在线视频| 欧美亚洲另类在线| 69堂精品视频在线播放| 91精品视频免费| 日韩精品一级| 精品日韩电影| 欧美在线电影| 黄频视频在线观看| 在线看片欧美| 九色porny91| 国内精品写真在线观看| 国产艳妇疯狂做爰视频| www成人在线观看| 嘿嘿视频在线观看| 亚洲女爱视频在线| 西西44rtwww国产精品| 欧美日韩中字一区| 亚洲国产一二三区| 亚洲偷欧美偷国内偷| 黄av在线播放| 57pao成人国产永久免费| 欧美高清影院| 国产乱人伦精品一区二区| 成人毛片免费看| 成人免费播放器| 日本强好片久久久久久aaa| 女女调教被c哭捆绑喷水百合| 久久久亚洲精品一区二区三区| 国产又色又爽又高潮免费| 亚洲电影在线播放| 中文字幕一区二区三区四区免费看 | 九九热99视频| 91在线视频网址| 国产精品久久国产精麻豆96堂| 亚洲国产精品久久不卡毛片 | 日韩激情av在线播放| 日韩免费网站| 26uuu另类亚洲欧美日本一| 日韩精品一级毛片在线播放| 欧美大香线蕉线伊人久久| 91精品啪在线观看国产81旧版| 日本网站免费在线观看| 黑人巨大精品欧美一区| 人妻aⅴ无码一区二区三区| 亚洲一区二区三区小说| 中文区中文字幕免费看| 日韩av在线不卡| 手机电影在线观看| 国产精品美女在线观看| 亚洲区小说区| 国产伦精品一区二区三区四区视频_ | 欧美禁忌电影网| 国产精品久久国产| 经典三级在线一区| 亚洲精品乱码久久久久久久久久久久| 一区二区三区免费网站| 97成人在线观看| 综合网中文字幕| 中文字幕在线视频网站| 国产精品国产亚洲精品看不卡15| 婷婷激情综合| 中文字幕亚洲乱码| 国产女同互慰高潮91漫画| 国产成人在线免费观看视频| 精品处破学生在线二十三| 国产福利在线播放麻豆| 国产欧美日韩亚洲精品| heyzo久久| 久草在在线视频| 久久蜜桃av一区二区天堂| 成年人视频在线免费看| 精品免费日韩av| av免费在线视| 国产成人精品免费视频大全最热 | 欧美黑人一级爽快片淫片高清| 亚洲成人高清| 亚洲综合五月天| 精品伊人久久久久7777人| 天堂网中文在线观看| 欧美在线观看一区二区| 国产三级在线观看| 国产精品久久久久久av| 不卡中文一二三区| 日韩欧美国产片| 中文字幕欧美一| 国产免费av电影| 欧美激情网友自拍| 国产成人精品福利| 777精品久无码人妻蜜桃| 91在线丨porny丨国产| 天堂中文字幕在线观看| 亚洲一区第一页| 欧美成人三级| 成人手机在线播放| 白白色 亚洲乱淫| 黑人精品无码一区二区三区AV| 亚洲品质视频自拍网| 日本一区二区三区视频在线| 中文网丁香综合网| 国产成人亚洲综合色影视| 国产大片aaa| 亚洲免费中文字幕| 欧美黄色网络| 9色视频在线观看| 99久久免费国产| 中文字幕免费观看| 日韩在线欧美在线| 成人av婷婷| 欧洲熟妇精品视频| 亚洲欧美激情一区二区| 人妻丰满熟妇av无码区hd| 欧美亚洲激情在线| 久久裸体网站| 李丽珍裸体午夜理伦片| 色天天综合久久久久综合片| av网站在线播放| 国产精品国模大尺度私拍| 久久成人在线| 99视频只有精品| 亚洲国产高清自拍| 国产精品原创视频| 久久久久久人妻一区二区三区| 久久久久久一级片| www夜片内射视频日韩精品成人| 欧美有码在线观看视频| 久久性感美女视频| 欧美日韩人妻精品一区在线| 欧美丝袜丝nylons| 超黄网站在线观看| 亚洲欧美综合一区| 成人av在线电影| 国产精品国产精品国产专区| 午夜精品在线视频| 999国产精品视频| 手机av免费看| 日韩欧美国产精品| 成人免费黄色| 欧美国产激情视频| 亚洲黄色av一区| 电影av一区| 麻豆精品蜜桃一区二区三区| 国产成人av电影| 又骚又黄的视频|