北大、騰訊提出文字logo生成模型,腦洞大開(kāi)堪比設(shè)計(jì)師

文字標(biāo)志(text logo)的設(shè)計(jì)非常依賴(lài)于設(shè)計(jì)師的創(chuàng)意和經(jīng)驗(yàn),其中,如何安排每個(gè)文字元素的布局是一個(gè)核心問(wèn)題。布局設(shè)計(jì)需要考慮到很多因素,如字形、文字語(yǔ)義、主題等。例如,不同的文字之間通常不能有形狀重疊;對(duì)于要強(qiáng)調(diào)語(yǔ)義的文字,通常使用較大的尺寸;斜切和旋轉(zhuǎn)等幾何變換可以分別體現(xiàn)力量感和歡樂(lè)感等主題。
業(yè)內(nèi)現(xiàn)有的方案大多是設(shè)計(jì)一套易于執(zhí)行的規(guī)則,按照一些預(yù)先設(shè)定好的模板來(lái)設(shè)計(jì)布局,但是生成的結(jié)果往往會(huì)比較單調(diào)且缺乏創(chuàng)意和美感。最近,北京大學(xué)王選計(jì)算機(jī)所和騰訊針對(duì)這個(gè)問(wèn)題,提出了一種內(nèi)容感知的文字標(biāo)志圖像生成模型,從大量現(xiàn)有的文字 logo 中隱式地學(xué)習(xí)布局設(shè)計(jì)規(guī)則,從而能夠?qū)θ我廨斎氲淖中紊尚碌?logo。
該工作已經(jīng)被 CVPR2022 接收,相關(guān)數(shù)據(jù)集和代碼已經(jīng)開(kāi)源。

- 論文: https://arxiv.org/abs/2204.02701
- 數(shù)據(jù)集和代碼: https://github.com/yizhiwang96/TextLogoLayout
一、數(shù)據(jù)集
訓(xùn)練 AI 模型通常需要大量的數(shù)據(jù),然而業(yè)內(nèi)尚不存在針對(duì)該任務(wù)的數(shù)據(jù)集。為了解決該問(wèn)題,本文提出了 TextLogo3K 數(shù)據(jù)集,借助騰訊視頻平臺(tái),收集、標(biāo)注了 3,470 張精心挑選的文字 logo 圖,這些 logo 來(lái)源于電影、電視劇和動(dòng)漫的封面圖。該數(shù)據(jù)集對(duì)字形進(jìn)行了像素級(jí)別的精準(zhǔn)標(biāo)注,也標(biāo)注了字形包圍框、字符類(lèi)別。

圖 1 TextLogo3K 中 Logo 圖像的標(biāo)注
同時(shí),它們?cè)谠?bào)圖片中的位置和分割信息也一并提供:

圖 2 TextLogo3K 中海報(bào)圖像的標(biāo)注
該數(shù)據(jù)集免費(fèi)提供給用戶(hù)做學(xué)術(shù)研究使用(禁止任何商業(yè)用途)。除了文字 logo 生成,該數(shù)據(jù)集同樣可以應(yīng)用于文本檢測(cè)和識(shí)別、藝術(shù)字體生成、紋理特效遷移、場(chǎng)景文字編輯等任務(wù)。
二、模型設(shè)計(jì)
2.1 流程框圖
本模型的流程框圖如下圖所示:

圖 3 本文模型流程框圖
本模型基于 Conditional GAN 來(lái)生成文字 logo,創(chuàng)新性地使用雙判別器結(jié)構(gòu)(序列判別器和圖像判別器),對(duì)字形的軌跡序列和整體 logo 圖像分別做判別;同時(shí)借助可微分拼接(Differentiable Composition),構(gòu)建位置坐標(biāo)到 logo 圖像的可微分渲染過(guò)程。其主要的流程包括:
- 首先利用輸入元素的雙模態(tài)的特征(即字形視覺(jué)特征和文本語(yǔ)義特征),將其編碼成條件特征。
- 坐標(biāo)生成器采用條件特征和一個(gè)隨機(jī)噪聲作為輸入, 為每個(gè)字符預(yù)測(cè)位置坐標(biāo),即字形外接框的中心點(diǎn)坐標(biāo),寬和高。
- 每個(gè)字符的位置坐標(biāo)形成一條軌跡序列,故采用一個(gè)序列判別器去根據(jù)條件對(duì)序列和做真假判別。注意到本任務(wù)中坐標(biāo)值是連續(xù)的,保證了序列判別器可以傳播梯度。
- 通過(guò)可微分拼接, 合并每個(gè)字形得到的 logo 圖像。
- 引入圖像判別器,作為序列判別器的補(bǔ)充,目的是進(jìn)一步捕捉到標(biāo)志圖像的細(xì)節(jié)信息,保證不同的字形之間不會(huì)有較大的重疊,字形間距合理等。
網(wǎng)絡(luò)的整體優(yōu)化目標(biāo)函數(shù)如下:

其中,
是序列判別器損失,
是圖像判別器損失,
是顯式的字形重疊損失(詳情見(jiàn)論文)。E 代表?xiàng)l件編碼器,G 代表坐標(biāo)生成器,
和
分別代碼表序列判別器和圖像判別器。其中,可微分拼接和雙判別器的具體技術(shù)細(xì)節(jié)在后續(xù)小節(jié)進(jìn)一步介紹。
2.2 可微分拼接在獲得預(yù)測(cè)的幾何參數(shù)之后,需要進(jìn)一步將每個(gè)字形圖像按照這些幾何參數(shù)拼接成一個(gè)文字 logo。更重要的是,這個(gè)拼接過(guò)程必須是可微分的,以讓整個(gè)模型可以端到端地被優(yōu)化。為了達(dá)成這個(gè)目的,本文設(shè)計(jì)了一個(gè)基于 STN(Spatial Transform Networks)變種的可微分拼接方法。在原始的 STN 中,仿射變換參數(shù)是使用神經(jīng)網(wǎng)絡(luò)直接直接預(yù)測(cè)。本文方法先預(yù)測(cè)得到了目標(biāo)字形位置坐標(biāo),于是先建立原坐標(biāo)到目標(biāo)坐標(biāo)的映射關(guān)系(下圖左),手動(dòng)解出仿射變換的參數(shù)(下圖右)。通過(guò)這種方式,既可以保證目標(biāo)字形的位置坐標(biāo)在畫(huà)布的范圍之內(nèi),又可以利用 STN 的可微分采樣算法。

圖 4 顯式求解仿射變換參數(shù)通常來(lái)說(shuō),在文字 logo 中不同字形之間不會(huì)有重疊(有一些故意的設(shè)計(jì)除外),因此不需要考慮每個(gè)字形之間的圖層關(guān)系。將每個(gè)字形變換的圖像直接進(jìn)行加法操作,即可得到 logo 圖像,結(jié)合上述步驟,可微分拼接的整體過(guò)程都是可微分的。

圖 5 根據(jù)求解參數(shù)合成 logo 圖像
2.3 雙判別器結(jié)構(gòu)
字符的放置軌跡應(yīng)該既符合人們的閱讀習(xí)慣,又呈現(xiàn)出多樣的風(fēng)格。然而,這兩個(gè)特性不容易被圖像生成模型中常用的卷積神經(jīng)網(wǎng)絡(luò)(CNNs)所捕獲到。為了解決這個(gè)問(wèn)題,本文設(shè)計(jì)了一個(gè)雙判別器的模塊,包括一個(gè)序列判別器和一個(gè)圖像判別器。序列判別器以條件特征作為初始狀態(tài),將幾何參數(shù)的序列作為輸入,去分析這個(gè)放置軌跡的合理性。序列判別器并不能夠捕捉到細(xì)粒度的信息(如筆畫(huà)等),因?yàn)樗鼉H僅接收幾何參數(shù)作為輸入。于是,本模型引入圖像判別器去進(jìn)一步探究 logo 圖像(人工設(shè)計(jì)的或者本模型生成的)的合理性,并預(yù)測(cè)它們的真假。根據(jù)業(yè)內(nèi)的常見(jiàn)做法,將條件特征進(jìn)行堆疊再放置到的第一個(gè)卷積層之后,用作判別條件。
三、實(shí)驗(yàn)
3.1 布局生成結(jié)果展示
如圖 6 和圖 7 所示,本模型可以生成英文 logo 圖,也可以生成中文 logo。

圖 6 本模型在英文數(shù)據(jù)集上結(jié)果

圖 7 本模型在中文數(shù)據(jù)集上結(jié)果
其中,“ours”所在列表示本模型生成結(jié)果,“GT”表示設(shè)計(jì)師設(shè)計(jì)的結(jié)果。本模型生成的布局具有豐富的多樣性:
如(1)根據(jù)具體字形安排布局,如 “B + 偵探” 中,將 “+” 號(hào)巧妙地安排到 “B” 右下角和 “偵” 左下角之間;
(2)根據(jù)語(yǔ)義進(jìn)行換行,如 “神探包青天” 和“春風(fēng)十里不如你”。
3.2 與其他方法對(duì)比
本文與 2D 圖形布局生成工作 LayoutGAN(Li et al, ICLR 2018)和 layoutNet(Zheng et al, TOG 2019)進(jìn)行了對(duì)比,這兩種方法沒(méi)有考慮到空間布局上的序列信息,以及輸入元素的自身本文語(yǔ)義信息,所以不能處理該任務(wù)。如圖 8 所示,本模型生成了更好的結(jié)果。

圖 8 與現(xiàn)有方法對(duì)比
3.3 布局風(fēng)格分析
通過(guò)主成分分析方法(PCA),對(duì)隱空間噪聲 z 進(jìn)行了可視化實(shí)驗(yàn),結(jié)果展示在圖 9 中。結(jié)果發(fā)現(xiàn),(1)垂直的布局(B2, C2, H2, E3)傾向于落在平面的左邊;(2)水平的布局(A1-E1, H1, G2)傾向于落在平面的中間和上方;(3)多行的布局(A2, D2, E2, F2)傾向于落在平面的右下方;(4)不規(guī)則的布局(F1,G1)傾向落在平面的邊緣。隱空間噪聲 z 和輸入文本的長(zhǎng)度變量是正交的。該可視化方法可以引導(dǎo)設(shè)計(jì)師探索布局風(fēng)格的隱空間,幫助他們挑選喜歡的風(fēng)格。

圖 9 隱空間噪聲 z 的可視化結(jié)果
3.4 主觀評(píng)價(jià)
本文開(kāi)展了一項(xiàng)用戶(hù)調(diào)查,用于收集用戶(hù)對(duì)于本模型生成結(jié)果的主觀評(píng)價(jià),用戶(hù)群體包括 27 個(gè)專(zhuān)業(yè)設(shè)計(jì)師和 52 個(gè)其他職業(yè)者。
使用了 20 對(duì)測(cè)試圖片(模型生成和人工設(shè)計(jì)的),讓用戶(hù)(1)選擇哪個(gè)是 AI 生成的:下表中的 “準(zhǔn)確率” 表示用戶(hù)挑出本模型結(jié)果的概率,越低越好;(2)選擇自己更傾向于哪個(gè):下表中的 “選擇率” 表示用戶(hù)選擇本模型結(jié)果的概率,越高越好;(3)給 AI 生成的質(zhì)量打分(1-5):體現(xiàn)為下表中的“生成質(zhì)量”,越高越好。
從結(jié)果可以看出本模型取得了不錯(cuò)的效果,平均準(zhǔn)確率接近 50%,平均選擇率 40%。我們也觀察到設(shè)計(jì)師群體更容易鑒別出 AI 結(jié)果,對(duì)質(zhì)量要求也更苛刻,說(shuō)明本工作還有進(jìn)一步提升的空間。

表 1 主觀調(diào)查結(jié)果
3.5 logo 圖生成系統(tǒng)
受字體生成模型和紋理遷移模型的啟發(fā),本文也建立了一個(gè)全自動(dòng)的文字 logo 圖生成系統(tǒng)。該系統(tǒng)首先根據(jù)用戶(hù)輸入的文本和主題生成對(duì)應(yīng)的字體,接著,將合成的字形圖像和文本送到本文提出的布局生成網(wǎng)絡(luò)中,得到字形擺放的布局,最后使用紋理遷移模型得到修飾后的 logo 圖像。圖 10 展示了一些合成的樣例, 證明了本系統(tǒng)的有效性。

圖 10 logo 圖像生成系統(tǒng)
四、結(jié)論
本文提出了一種用于合成文字 logo 圖的布局生成模型。該模型創(chuàng)新性地提出了一個(gè)雙判別器的模塊,用于同時(shí)評(píng)估字符的放置軌跡和渲染后文字 logo 圖的細(xì)節(jié)信息。
同時(shí),本文提出一種可微分拼接的方法,構(gòu)建了布局參數(shù)到文字 logo 的可微分渲染過(guò)程。本文構(gòu)建了一個(gè)大規(guī)模的數(shù)據(jù)集 TextLogo3K,并實(shí)施大量實(shí)驗(yàn)來(lái)驗(yàn)證模型的有效性,該數(shù)據(jù)同樣可以應(yīng)用于其他任務(wù)。引言部分中每對(duì) logo 圖像,左邊是 AI 生成的,右邊是人工設(shè)計(jì)的,你猜對(duì)了嗎?





























