精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

從自編碼器到生成對(duì)抗網(wǎng)絡(luò):一文縱覽無(wú)監(jiān)督學(xué)習(xí)研究現(xiàn)狀

開(kāi)發(fā) 開(kāi)發(fā)工具
無(wú)監(jiān)督學(xué)習(xí)是深度學(xué)習(xí)的圣杯。它的目的是希望能夠用極少量且不需要標(biāo)注的數(shù)據(jù)訓(xùn)練通用系統(tǒng)。本文將從無(wú)監(jiān)督學(xué)習(xí)的基本概念開(kāi)始再進(jìn)一步簡(jiǎn)述無(wú)監(jiān)督學(xué)習(xí)的各個(gè)基礎(chǔ)算法及其優(yōu)缺點(diǎn)。

無(wú)監(jiān)督學(xué)習(xí)是深度學(xué)習(xí)的圣杯。它的目的是希望能夠用極少量且不需要標(biāo)注的數(shù)據(jù)訓(xùn)練通用系統(tǒng)。本文將從無(wú)監(jiān)督學(xué)習(xí)的基本概念開(kāi)始再進(jìn)一步簡(jiǎn)述無(wú)監(jiān)督學(xué)習(xí)的各個(gè)基礎(chǔ)算法及其優(yōu)缺點(diǎn)。

如今深度學(xué)習(xí)模型都需要在大規(guī)模的監(jiān)督數(shù)據(jù)集上訓(xùn)練。這意味著對(duì)于每一個(gè)數(shù)據(jù),都會(huì)有一個(gè)與之對(duì)應(yīng)的標(biāo)簽。在很流行的 ImageNet 數(shù)據(jù)集中,其共有一百萬(wàn)張帶人工標(biāo)注的圖片,即 1000 類中的每一類都有 1000 張。創(chuàng)建這么一個(gè)數(shù)據(jù)集是需要一番功夫的,可能需要很多人花數(shù)月的功夫完成。假定現(xiàn)在要?jiǎng)?chuàng)建一個(gè)有一百萬(wàn)類的數(shù)據(jù)集,那么就必須給總共 1 億幀視頻數(shù)據(jù)集中的每一幀做標(biāo)注,這基本是無(wú)法實(shí)現(xiàn)的。

現(xiàn)在,回想一下在你很小的時(shí)候,自己是如何得到教導(dǎo)的。沒(méi)錯(cuò),我們的確受到了一些監(jiān)督,但是當(dāng)你的父母告訴你這是一只「貓」之后,他們不會(huì)在日后的生活中每一次觀察到貓時(shí)都告訴你這是「貓」!而如今的監(jiān)督式學(xué)習(xí)是這樣的:我一次又一次地告訴你「貓」是什么樣的,也許會(huì)重復(fù)一百萬(wàn)次。然后你的深度學(xué)習(xí)模型就領(lǐng)會(huì)了關(guān)于貓的知識(shí)。

理想情況下,我們希望有一個(gè)更像我們的大腦一樣去運(yùn)行得模型。它僅僅需要很少的一些標(biāo)簽就能夠理解現(xiàn)實(shí)世界中的很多類事物。在現(xiàn)實(shí)世界中,我指的類是物體類別、動(dòng)作類別、環(huán)境類別、物體的部分的類別,諸如此類還有很多很多。

正如你會(huì)在這篇評(píng)論中看到的一樣,最成功的模型就是那些能夠預(yù)測(cè)視頻中即將出現(xiàn)的畫(huà)面的模型。很多這類技術(shù)面臨并正嘗試解決的一個(gè)問(wèn)題,即為了達(dá)到良好的全局表現(xiàn),訓(xùn)練要在視頻上進(jìn)行,而不是靜態(tài)的圖片上。這是將學(xué)習(xí)到的表征應(yīng)用在實(shí)際任務(wù)中的唯一途徑。

一、基本概念

無(wú)監(jiān)督學(xué)習(xí)研究的主要目標(biāo)就是要預(yù)訓(xùn)練出能夠用于其他任務(wù)的模型(即鑒別器或者編碼器)。編碼器的特點(diǎn)應(yīng)該盡可能的通用,以便可以用在分類任務(wù)中(如在 ImageNet 上進(jìn)行訓(xùn)練),并且提供盡可能像監(jiān)督模型一樣好的結(jié)果。

最新的監(jiān)督模型總是表現(xiàn)得比無(wú)監(jiān)督預(yù)訓(xùn)練模型更好。那是因?yàn)椋O(jiān)督會(huì)允許模型能夠更好的編碼數(shù)據(jù)集上的特征。但是當(dāng)模型應(yīng)用在其他的數(shù)據(jù)集上時(shí),監(jiān)督會(huì)衰減。在這方面,無(wú)監(jiān)督訓(xùn)練有希望提供更加通用的特性來(lái)執(zhí)行任何任務(wù)。

如果以實(shí)際生活中的應(yīng)用為目標(biāo),例如無(wú)人駕駛、動(dòng)作識(shí)別、目標(biāo)檢測(cè)和實(shí)時(shí)提取中的識(shí)別,那么算法需要在視頻上訓(xùn)練。

二、自編碼器

UC Davis 的 Bruno Olshausen 和康奈爾大學(xué)的 David Field 于 1996 年的發(fā)表的論文《Sparse Coding with an Overcomplete Basis Set: A Strategy by V1?》(論文鏈接:http://redwood.psych.cornell.edu/papers/olshausen_field_1997.pdf) 表明,編碼理論可以被用在視覺(jué)皮層的接收域中。他們證明了我們大腦中的基本視覺(jué)旋渦 (V1) 使用稀疏性原理來(lái)創(chuàng)建一個(gè)能夠被用于重建輸入圖像的基本功能的最小集合。

下面的鏈接是 2014 年倫敦微軟 Bing 團(tuán)隊(duì)的 Piotr Mirowski 關(guān)于自動(dòng)編碼器的一個(gè)很好的綜述。

鏈接:https://piotrmirowski.files.wordpress.com/2014/03/piotrmirowski_2014_reviewautoencoders.pdf

Yann LeCun 的團(tuán)隊(duì)也從事這個(gè)領(lǐng)域的研究。在鏈接網(wǎng)頁(yè)中的 demo 中,你可以看到像 V1 一樣的濾波器是如何學(xué)習(xí)的。(鏈接:http://www.cs.nyu.edu/~yann/research/deep/)

通過(guò)重復(fù)貪婪逐層訓(xùn)練的過(guò)程,堆棧式自編碼器(Stacked-auto encoder)也被使用了。

自動(dòng)編碼器方法也被稱為直接映射方法。

自動(dòng)編碼器/稀疏編碼/堆疊式自動(dòng)編碼的優(yōu)點(diǎn)和缺點(diǎn)

優(yōu)點(diǎn):

  • 簡(jiǎn)單的技術(shù):重建輸入
  • 多層可堆疊
  • 直觀和基于神經(jīng)科學(xué)的研究

缺點(diǎn)

  • 每一層都被貪婪地(greedily)訓(xùn)練
  • 沒(méi)有全局優(yōu)化
  • 比不上監(jiān)督學(xué)習(xí)地性能
  • 多層失效
  • 對(duì)通用目標(biāo)地表征而言,重建輸入可能不是理想的指標(biāo)

三、聚類學(xué)習(xí)

它是用 k-means 聚類在多層中學(xué)習(xí)濾波器的一種技術(shù)。

我們組把這項(xiàng)技術(shù)命名為:聚類學(xué)習(xí)(見(jiàn)論文:Clustering Learning for Robotic Vision)、聚類連接 (見(jiàn)論文:An Analysis of the Connections Between Layers of Deep Neural Networks),以及卷積聚類 (見(jiàn)論文:Convolutional Clustering for Unsupervised Learning)。就在最近,這項(xiàng)技術(shù)在流行地?zé)o監(jiān)督學(xué)習(xí)數(shù)據(jù)集 STL-10 上實(shí)現(xiàn)了非常好的結(jié)果。

我們?cè)谶@個(gè)領(lǐng)域的研究和 Adam Coates 與 Andrew Ng 在基于 k-means 學(xué)習(xí)特征表示 ( Learning Feature Representations with K-means ) 中發(fā)表的研究成果是獨(dú)立的。

眾所周知,由于在求解配分函數(shù)時(shí)的數(shù)值問(wèn)題,受限波爾茲曼機(jī)(RBM),深波爾茲曼機(jī)(DBM),深度信念網(wǎng)絡(luò)(DBN/參見(jiàn) Geoffrey E. Hinton 等人的研究:A fast learning algorithm for deep belief net)等模型已經(jīng)很難去訓(xùn)練了。因此,它們沒(méi)有廣泛應(yīng)用于解決問(wèn)題中。

聚類學(xué)習(xí)的優(yōu)缺點(diǎn):

優(yōu)點(diǎn):

  • 簡(jiǎn)單的技術(shù):得到相似群集的輸出
  • 多層可堆疊
  • 直觀和基于神經(jīng)科學(xué)的研究

缺點(diǎn):

  • 每一層都被貪婪地訓(xùn)練
  • 沒(méi)有全局優(yōu)化
  • 在某些情況下可以和監(jiān)督學(xué)習(xí)的性能媲美
  • 多層遞增式失效==性能回報(bào)遞減

四、生成對(duì)抗網(wǎng)絡(luò)模型

生成對(duì)抗網(wǎng)絡(luò)嘗試通過(guò)鑒別器和生成器的對(duì)抗而得來(lái)一個(gè)優(yōu)良的生成模型,該網(wǎng)絡(luò)希望能夠生成足以騙過(guò)鑒別器的逼真圖像。生成模型這一領(lǐng)域近年來(lái)十分優(yōu)秀的生成對(duì)抗網(wǎng)絡(luò)正是由 Ian Goodfellow 和 Yoshua Bengio 等人在論文《Generative Adversarial Nets》中提出。這里還有 OpenAI 的研究員 Ian 在 2016 年底做的關(guān)于生成對(duì)抗網(wǎng)絡(luò) (GANS) 的總結(jié),視頻鏈接:

https://channel9.msdn.com/Events/Neural-Information-Processing-Systems-Conference/Neural-Information-Processing-Systems-Conference-NIPS-2016/Generative-Adversarial-Networks。

由 Alec Radford、 Luke Metz 以及 Soumith Chintala 等人實(shí)例化的一個(gè)被稱作 DCGAN 的生成對(duì)抗模型取得了非常好的結(jié)果。他們的研究發(fā)表在論文:

Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks。

Vincent Dumoulin 和 Ishmael Belghazi 等人對(duì)這個(gè)模型做了一個(gè)比較好的解釋(鏈接:https://ishmaelbelghazi.github.io/ALI/)。

DCGAN 鑒別器被設(shè)計(jì)來(lái)判斷一副輸入圖片是真實(shí)的(來(lái)源于某個(gè)數(shù)據(jù)集的真實(shí)圖片)或虛假的(來(lái)源于某個(gè)生成器)。生成器將隨機(jī)地噪聲向量(例如 1024 個(gè)數(shù)值)作為輸入,并生成一副圖片。

在 DCGAN 中,生成器網(wǎng)絡(luò)如下:

在 DCGAN 中,生成器網(wǎng)絡(luò)

盡管這個(gè)鑒別器是一個(gè)標(biāo)準(zhǔn)的神經(jīng)網(wǎng)絡(luò)。具體的細(xì)節(jié)可以參考下文提及的代碼。

關(guān)鍵是要并行地去訓(xùn)練這兩個(gè)網(wǎng)絡(luò),同時(shí)不要完全過(guò)擬合,因此才會(huì)復(fù)制數(shù)據(jù)集。學(xué)習(xí)到的特征需要泛化在未知的樣本上,所以學(xué)習(xí)數(shù)據(jù)集將不會(huì)有用。

在 Torch7 上訓(xùn)練 DCGAN 的代碼(https://github.com/soumith/dcgan.torch)也被提供了。這需要大量的實(shí)驗(yàn),相關(guān)內(nèi)容 Yann LeCun 在 Facebook 中也分享過(guò):

https://www.facebook.com/yann.lecun/posts/10153269667222143

當(dāng)生成器和鑒別器都被訓(xùn)練之后,你可以同時(shí)使用兩者。主要的目標(biāo)就是訓(xùn)練出一個(gè)能夠被用于其他任務(wù)的鑒別器網(wǎng)絡(luò),例如在其他數(shù)據(jù)集上可以分類。生成器可以用來(lái)從隨機(jī)向量中生成圖片。這些圖片有著非常有趣的屬性。首先,它們從輸入空間中提供了平滑的變換。如下所示的例子展示了在 9 個(gè)隨機(jī)輸入向量中移動(dòng)而生成的圖片:

9 個(gè)隨機(jī)輸入向量中移動(dòng)而生成的圖片

輸入向量空間也提供了數(shù)學(xué)屬性,證明學(xué)習(xí)到的特征是按照相似性來(lái)組織的,如下圖所示:

輸入向量空間也提供了數(shù)學(xué)屬性

生成器學(xué)習(xí)到的平滑空間啟示鑒別器也要有類似的屬性,這使得鑒別器在編碼圖像時(shí)成了一個(gè)很棒的通用特征提取器。這有助于解決 CNN 在訓(xùn)練不連續(xù)圖像的時(shí)候由于對(duì)抗噪聲而造成的失敗(詳見(jiàn) Christian Szegedy 等人的文章《Intriguing properties of neural networks》,https://arxiv.org/abs/1312.6199)。

GAN 最新的進(jìn)展,在僅有 1000 個(gè)標(biāo)簽樣本的 CIFAR-10 數(shù)據(jù)集上實(shí)現(xiàn)了 21% 的錯(cuò)誤率,參見(jiàn) OpenAI 的 Tim Salimans 等人的論文《Improved Techniques for Training GANs》,論文鏈接:https://arxiv.org/pdf/1606.03498v1.pdf。

最近關(guān)于 infoGAN 的論文《InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets》(鏈接:https://arxiv.org/abs/1606.03657)中,能夠產(chǎn)生特征非常清晰的圖像,并且這些圖像具有更加有趣的意義。然而,他們并沒(méi)有公布學(xué)習(xí)到的特征在某項(xiàng)任務(wù)或某個(gè)數(shù)據(jù)集中的性能對(duì)比。

在如下所示的博客和網(wǎng)站中也有關(guān)于生成對(duì)抗模型的總結(jié),參見(jiàn) OpenAI 的技術(shù)博客 https://blog.openai.com/generative-models/ 和網(wǎng)頁(yè)

https://code.facebook.com/posts/1587249151575490/a-path-to-unsupervised-learning-through-adversarial-networks/。

另一個(gè)非常有趣的例子如下,在例子中,作者用生成對(duì)抗訓(xùn)練去學(xué)習(xí)從文本描述中生成圖像。參見(jiàn)論文《Generative Adversarial Text to Image Synthesis》,鏈接:

https://arxiv.org/abs/1605.05396。

用生成對(duì)抗訓(xùn)練去學(xué)習(xí)從文本描述中生成圖像

我最欣賞這項(xiàng)工作的地方在于它所使用的網(wǎng)絡(luò)用文本描述作為生成器的輸入,而不是隨機(jī)向量,這樣就可以精確地控制生成器的輸出。網(wǎng)絡(luò)模型結(jié)構(gòu)如下圖所示:

網(wǎng)絡(luò)模型結(jié)構(gòu)

生成對(duì)抗模型的缺點(diǎn)和優(yōu)點(diǎn)

優(yōu)點(diǎn):

  • 對(duì)整個(gè)網(wǎng)絡(luò)的全局訓(xùn)練
  • 易于編程和實(shí)現(xiàn)

缺點(diǎn):

  • 難以訓(xùn)練和轉(zhuǎn)換問(wèn)題
  • 在某些情況下可以比得上監(jiān)督學(xué)習(xí)的性能
  • 需要提升可用性(這是所有無(wú)監(jiān)督學(xué)習(xí)算法面臨的問(wèn)題)

五、可以從數(shù)據(jù)中學(xué)習(xí)的模型

通過(guò)設(shè)計(jì)不需要標(biāo)簽的無(wú)監(jiān)督學(xué)習(xí)任務(wù)和旨在解決這些任務(wù)的學(xué)習(xí)算法,這些模型直接從無(wú)標(biāo)簽的數(shù)據(jù)中學(xué)習(xí)。

在視覺(jué)表征中通過(guò)解決拼圖問(wèn)題來(lái)進(jìn)行無(wú)監(jiān)督學(xué)習(xí)確實(shí)是一個(gè)聰明的技巧。作者將圖像分割成了拼圖,并且訓(xùn)練深度網(wǎng)絡(luò)來(lái)解決拼圖問(wèn)題。最終得到的網(wǎng)絡(luò)的表現(xiàn)足以比肩最好的預(yù)訓(xùn)練網(wǎng)絡(luò)。詳見(jiàn)論文《Unsupervised Learning of Visual Representations by Solving Jigsaw Puzzles》,鏈接:https://arxiv.org/abs/1603.09246

在視覺(jué)表征中通過(guò)圖像補(bǔ)丁和布局來(lái)進(jìn)行無(wú)監(jiān)督學(xué)習(xí)也是一個(gè)聰明的技巧。他們讓同一幅圖像上的兩個(gè)補(bǔ)丁緊密分布。這些補(bǔ)丁在統(tǒng)計(jì)上來(lái)講是同一個(gè)物體。第三個(gè)補(bǔ)丁選擇隨機(jī)的圖像,并且布局在隨機(jī)的位置,從統(tǒng)計(jì)上來(lái)講與前兩個(gè)補(bǔ)丁并不是同一類物體。然后訓(xùn)練一個(gè)深度網(wǎng)絡(luò)來(lái)區(qū)分兩個(gè)屬于同一類的補(bǔ)丁和另一個(gè)不同類別的補(bǔ)丁。最終得到的網(wǎng)絡(luò)具有和最高性能精調(diào)網(wǎng)絡(luò)之一相同的性能。詳情參見(jiàn)論文《Learning visual groups from co-occurrences in space and time》,鏈接:https://arxiv.org/abs/1511.06811。

從立體圖像重建中進(jìn)行的無(wú)監(jiān)督學(xué)習(xí)模型采用立體圖像作為輸入,例如圖像一幀的左半部分,然后重建出圖像的右半部分。雖然這項(xiàng)工作并不針對(duì)無(wú)監(jiān)督學(xué)習(xí),但是它可以用作無(wú)監(jiān)督學(xué)習(xí)。這種方法也可以用來(lái)從靜態(tài)圖片生成 3D 電影。參見(jiàn)論文《Deep3D: Fully Automatic 2D-to-3D Video Conversion with Deep Convolutional Neural Networks》,鏈接:

https://arxiv.org/abs/1604.03650,github 上的 Python 源碼:https://github.com/piiswrong/deep3d。

利用替代類別的無(wú)監(jiān)督學(xué)習(xí)視覺(jué)表征使用圖像不行來(lái)創(chuàng)建非常大的替代類。這些圖像補(bǔ)丁然后被增強(qiáng),然后被用來(lái)訓(xùn)練基于增強(qiáng)替代類的監(jiān)督網(wǎng)絡(luò)。這在無(wú)監(jiān)督特征學(xué)習(xí)中給出了最好的結(jié)果。詳情參見(jiàn)論文《Discriminative Unsupervised Feature Learning with Exemplar Convolutional Neural Networks》,鏈接:https://arxiv.org/abs/1406.6909。

使用視頻的無(wú)監(jiān)督學(xué)習(xí)視覺(jué)表征采用了基于 LSTM 的編碼器-解碼器對(duì)。編碼 LSTM 運(yùn)行在視頻幀的序列上以生成一個(gè)內(nèi)部表征。隨后這些表征通過(guò)另一個(gè) LSTM 被解碼以生成一個(gè)目標(biāo)序列。為了使這個(gè)變成無(wú)監(jiān)督的,一種方法是預(yù)測(cè)與輸入相同的序列。另一種方式是預(yù)測(cè)未來(lái)的幀。詳情參見(jiàn)論文《Unsupervised Learning of Visual Representations using Videos》,鏈接:https://arxiv.org/abs/1505.00687。

另一篇使用視頻的文章出自 MIT 的 Vondrick 和 Torralba 等人(http://arxiv.org/abs/1504.08023),有著非常惹人注目的結(jié)果。這項(xiàng)工作背后的思想是從視頻輸入中預(yù)測(cè)未來(lái)幀的表示。這是一種優(yōu)雅的方法。使用的模型如下:

從視頻輸入中預(yù)測(cè)未來(lái)幀的表示

這項(xiàng)技術(shù)的一個(gè)問(wèn)題就是:一個(gè)訓(xùn)練在靜態(tài)圖像幀上的神經(jīng)網(wǎng)絡(luò)被用來(lái)解釋視頻輸入。這種網(wǎng)絡(luò)不會(huì)學(xué)習(xí)到視頻的時(shí)間動(dòng)態(tài)變化以及在空間運(yùn)動(dòng)的物體的平滑變換。所以我們認(rèn)為這個(gè)網(wǎng)絡(luò)并不適合用來(lái)預(yù)測(cè)未來(lái)視頻中的畫(huà)面。

為了克服這個(gè)問(wèn)題,我們團(tuán)隊(duì)創(chuàng)建了一個(gè)大型的視頻數(shù)據(jù)集eVDS(https://engineering.purdue.edu/elab/eVDS/),可用來(lái)直接從視頻數(shù)據(jù)上訓(xùn)練新的(遞歸和反饋)網(wǎng)絡(luò)模型。

六、PredNet

PredNet 是被設(shè)計(jì)來(lái)預(yù)測(cè)視頻中未來(lái)幀的網(wǎng)絡(luò)。在這個(gè)博客中可以看到一些例子,博客鏈接:https://coxlab.github.io/prednet/。

PredNet 是一個(gè)非常聰明的神經(jīng)網(wǎng)絡(luò)型,在我們看來(lái),它將在將來(lái)的神經(jīng)網(wǎng)絡(luò)中起著重要的作用。PredNet 學(xué)習(xí)到了超越監(jiān)督式 CNN 中的單幀圖片的神經(jīng)表征。

PredNet 結(jié)合了生物啟發(fā)的雙向 [人腦模型](詳見(jiàn)論文《Unsupervised Pixel-prediction》,https://papers.nips.cc/paper/1083-unsupervised-pixel-prediction.pdf)。它使用了 [預(yù)測(cè)編碼和神經(jīng)模型中的反饋連接](詳見(jiàn)論文《Neural Encoding and Decoding with Deep Learning for Dynamic Natural Vision》,http://arxiv.org/abs/1608.03425)。下面是 PredNet 模型以及一個(gè)具有兩個(gè)堆疊層的例子:

PredNet 模型以及一個(gè)具有兩個(gè)堆疊層的例子

PredNet 結(jié)合了生物啟發(fā)的雙向人腦模型

這個(gè)模型有以下這幾個(gè)優(yōu)點(diǎn):

  • 可使用無(wú)標(biāo)簽的數(shù)據(jù)來(lái)訓(xùn)練
  • 在每一層嵌入了損失函數(shù)來(lái)計(jì)算誤差
  • 具有執(zhí)行在線學(xué)習(xí)的能力,通過(guò)監(jiān)控錯(cuò)誤信號(hào),當(dāng)模型不能預(yù)測(cè)輸出的時(shí)候,它會(huì)知道需要學(xué)習(xí)誤差信號(hào)

PredNet 存在的一個(gè)問(wèn)題是,對(duì)第一層的一些簡(jiǎn)單的基于運(yùn)動(dòng)的濾波器而言,預(yù)測(cè)未來(lái)輸入的幀是相對(duì)容易的。在我們所做的 PredNet 的實(shí)驗(yàn)中,PredNet 在重建輸入幀的時(shí)候?qū)W會(huì)了在重建輸入幀時(shí)達(dá)到很好的效果,但是更高層不會(huì)學(xué)到較好的表征。事實(shí)上,在實(shí)驗(yàn)中更高層連簡(jiǎn)單的分類任務(wù)都解決不了。

事實(shí)上,預(yù)測(cè)未來(lái)的幀是不必要的。我們?cè)敢庾龅木褪侨ヮA(yù)測(cè)下一幀的表征,就像 Carl Vondrick 做的一樣。詳見(jiàn)論文《Anticipating Visual Representations from Unlabeled Video》,鏈接:https://arxiv.org/abs/1504.08023。

七、通過(guò)觀察物體的運(yùn)動(dòng)來(lái)學(xué)習(xí)特征

最近的這篇論文通過(guò)觀察視頻中物體的運(yùn)動(dòng)來(lái)訓(xùn)練無(wú)監(jiān)督模型(《Learning Features by Watching Objects Move》,https://people.eecs.berkeley.edu/~pathak/unsupervised_video/)。運(yùn)動(dòng)以光流的形式被提取出來(lái),并被用作運(yùn)動(dòng)物體的分割模板。盡管光流信號(hào)并沒(méi)有提供任何一個(gè)接近良好的分割模板,但是在大規(guī)模數(shù)據(jù)集上的平均效果使得最終的網(wǎng)絡(luò)會(huì)表現(xiàn)良好。例子如下所示:

通過(guò)觀察物體的運(yùn)動(dòng)來(lái)學(xué)習(xí)特征

這項(xiàng)工作是非常激動(dòng)人心的,因?yàn)樗裱P(guān)于人類視覺(jué)皮層如何學(xué)習(xí)分割運(yùn)動(dòng)物體的神經(jīng)學(xué)理論。參見(jiàn)論文《Development of human visual function》,鏈接:

http://www.sciencedirect.com/science/article/pii/S004269891100068X。

未來(lái)

未來(lái)需要你們來(lái)創(chuàng)造。

無(wú)監(jiān)督訓(xùn)練仍然還是一個(gè)有待發(fā)展的主題,你可以通過(guò)以下方式做出較大的貢獻(xiàn):

  • 創(chuàng)建一個(gè)新的無(wú)監(jiān)督任務(wù)去訓(xùn)練網(wǎng)絡(luò),例如:解決拼圖問(wèn)題、對(duì)比圖像補(bǔ)丁、生成圖像等......
  • 想出能夠創(chuàng)造很棒的無(wú)監(jiān)督功能的任務(wù),例如:像我們?nèi)祟愐曈X(jué)系統(tǒng)的工作方式一樣,理解立體圖像和視頻中什么是物體、什么是背景。

本文作者為專注機(jī)器人與視覺(jué)研究的 e-Lab 的研究者 Eugenio Culurciello。

原文:https://medium.com/intuitionmachine/navigating-the-unsupervised-learning-landscape-951bd5842df9

【本文是51CTO專欄機(jī)構(gòu)機(jī)器之心的原創(chuàng)譯文,微信公眾號(hào)“機(jī)器之心( id: almosthuman2014)”】

戳這里,看該作者更多好文

責(zé)任編輯:趙寧寧 來(lái)源: 51CTO專欄
相關(guān)推薦

2020-04-26 11:26:02

人臉合成編碼器數(shù)據(jù)

2017-07-03 07:14:49

深度學(xué)習(xí)無(wú)監(jiān)督學(xué)習(xí)稀疏編碼

2021-03-22 10:52:13

人工智能深度學(xué)習(xí)自編碼器

2021-03-29 11:37:50

人工智能深度學(xué)習(xí)

2022-06-14 07:07:57

網(wǎng)絡(luò)威脅無(wú)監(jiān)督數(shù)據(jù)泄露

2017-06-12 14:04:45

深度學(xué)習(xí)人工智能

2021-02-20 20:57:16

深度學(xué)習(xí)編程人工智能

2024-08-09 08:12:35

深度學(xué)習(xí)VAEsGANs

2023-11-23 15:54:01

人工智能監(jiān)督學(xué)習(xí)無(wú)監(jiān)督學(xué)習(xí)

2020-04-28 17:26:04

監(jiān)督學(xué)習(xí)無(wú)監(jiān)督學(xué)習(xí)機(jī)器學(xué)習(xí)

2023-10-31 10:33:35

對(duì)抗網(wǎng)絡(luò)人工智能

2019-05-22 17:34:16

代碼開(kāi)發(fā)工具

2017-09-11 17:16:35

2024-06-18 08:52:50

LLM算法深度學(xué)習(xí)

2025-04-10 11:52:55

2017-11-10 12:45:16

TensorFlowPython神經(jīng)網(wǎng)絡(luò)

2022-04-26 10:27:52

機(jī)器算法KNN數(shù)據(jù)

2017-08-24 15:09:13

GAN神經(jīng)網(wǎng)絡(luò)無(wú)監(jiān)督學(xué)習(xí)

2022-09-20 08:00:00

暗數(shù)據(jù)機(jī)器學(xué)習(xí)數(shù)據(jù)

2025-04-25 08:00:00

點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

大胆欧美熟妇xx| 成人福利在线观看| 青青草视频成人| 美女的胸无遮挡在线观看| 久久久久久久久久美女| 91久久中文字幕| 日韩 欧美 亚洲| 999国产精品永久免费视频app| 日韩丝袜情趣美女图片| 亚洲欧洲日产国码无码久久99| 91社区在线观看| 国产1区2区3区精品美女| 日韩av免费在线| 91嫩草|国产丨精品入口| 日韩大尺度在线观看| 欧美人狂配大交3d怪物一区| 欧美老熟妇喷水| 免费网站看v片在线a| 91网上在线视频| 亚洲自拍偷拍一区| 久久久久久无码精品大片| 亚洲破处大片| 中文字幕精品视频| 中文在线永久免费观看| 看亚洲a级一级毛片| 在线免费视频一区二区| 男人的天堂狠狠干| 成人黄色网址| 国产精品伦一区| 久久婷婷开心| 亚洲黄色一级大片| 精品一区二区综合| 国产精品久久久久av免费| 日韩精品久久久久久久酒店| 一区二区在线| www亚洲精品| 网爆门在线观看| 少妇精品久久久一区二区三区| 精品国产网站在线观看| 岛国av免费在线| 欧美成人福利| 日韩欧美国产中文字幕| 日韩av高清在线看片| 国产又色又爽又黄刺激在线视频| 中文字幕视频一区二区三区久| 日本成人黄色免费看| 青青青手机在线视频观看| 成人黄色大片在线观看| 国产高清一区视频| 亚洲AV无码国产精品午夜字幕| 久久综合综合久久综合| 国产免费一区二区三区在线能观看 | 亚洲天堂久久久久久久| 亚洲日本欧美在线| 求av网址在线观看| 亚洲男人天堂av| 国产911在线观看| 在线欧美三级| 一区二区三区高清不卡| 日韩黄色短视频| 蜜桃视频动漫在线播放| 天天综合网天天综合色| 凹凸国产熟女精品视频| 国产精品专区免费| 欧美亚洲综合另类| 国产精品区在线| 成人在线视频www| 日韩亚洲欧美中文三级| 亚洲自拍偷拍精品| 欧美一级一片| 国产亚洲精品综合一区91| 国产大屁股喷水视频在线观看| 日韩精品一区二区久久| 久久在线免费视频| 久久中文字幕无码| 性xx色xx综合久久久xx| 国产精品老女人视频| 中文字幕在线观看视频一区| 国产毛片精品一区| 国产综合第一页| 国产中文字幕在线看| 中文字幕一区二区三区在线播放| 精品一区二区三区毛片| 三级在线观看视频| 欧美性淫爽ww久久久久无| 黄色片免费网址| 美女一区2区| 在线视频欧美日韩精品| 波多野结衣爱爱视频| 亚洲福利精品| 国产欧美在线播放| 丰满少妇在线观看bd| 久久久亚洲午夜电影| 手机福利在线视频| 成年人在线网站| 欧美日韩精品一区二区三区蜜桃| 又大又长粗又爽又黄少妇视频| 亚洲调教一区| 操日韩av在线电影| 综合激情网五月| 狠狠色丁香九九婷婷综合五月| 国产精品欧美久久| 成年人在线视频| 亚洲国产精品久久不卡毛片 | 久久中文字幕无码| 日韩成人免费电影| 国产亚洲精品自在久久| 欧美成人高清在线| 欧美视频一二三| 日本精品一二三| 色999日韩| 日韩av电影手机在线观看| 精品毛片在线观看| 中文字幕国产一区二区| 黄色大片在线免费看| 亚洲精品一区av| 国产亚洲精品久久久优势| 国产成人啪精品午夜在线观看| 看片的网站亚洲| 日韩欧美亚洲日产国产| 韩国精品一区| 日韩精品一区二区三区在线| 亚洲视频重口味| 日韩精品一级中文字幕精品视频免费观看| 97久久人人超碰caoprom欧美 | 亚洲欧洲av在线| 91看片就是不一样| 四虎影视精品| 91精品国产色综合| 亚洲va欧美va| 亚洲精品乱码久久久久久| 91插插插插插插插插| 一呦二呦三呦国产精品| 91精品国产99久久久久久| 开心激情综合网| 一区二区在线观看视频在线观看| 中文字幕第一页在线视频| 欧美中文一区二区| 日韩av理论片| 国产毛片av在线| 欧美艳星brazzers| 亚洲自拍偷拍图| 久久精品在线| 欧美一区二区三区四区在线观看地址| 麻豆理论在线观看| 亚洲高清久久久久久| 国产一级片久久| 成人午夜伦理影院| 国产欧美123| 草莓视频一区二区三区| 色综合天天狠天天透天天伊人 | 丁香网亚洲国际| 菠萝蜜视频在线观看入口| 久久天堂久久| 高清欧美性猛交| 五月天久久久久久| 欧美色视频日本版| 特级西西www444人体聚色| 日韩电影免费在线看| 天堂va久久久噜噜噜久久va| 久久亚洲精品人成综合网| 色悠悠久久久久| 国产麻豆91视频| 亚洲国产一区二区a毛片| 国产xxxxxxxxx| 久久精品国产清高在天天线| 婷婷五月色综合| 国产精品一区二区免费福利视频| 日韩在线精品视频| 国产草草影院ccyycom| 亚洲一区二区3| 中国美女乱淫免费看视频| 日本伊人精品一区二区三区观看方式| 亚洲精品一区二区毛豆| 96sao精品免费视频观看| 久久777国产线看观看精品| 欧美少妇bbw| 色噜噜狠狠色综合欧洲selulu| 国产亚洲精品久久久久久豆腐| 国产成人av资源| 粗暴91大变态调教| 久久国产精品成人免费观看的软件| 亚洲专区中文字幕| 国内激情视频在线观看| 日韩中文av在线| 色窝窝无码一区二区三区成人网站| 色菇凉天天综合网| 在线观看亚洲网站| 白白色 亚洲乱淫| 91香蕉视频导航| 欧美视频四区| 日本婷婷久久久久久久久一区二区| 亚洲国产91视频| 国外成人性视频| 天天影视久久综合| 亚洲激情小视频| 97超碰中文字幕| 婷婷开心激情综合| 天天鲁一鲁摸一摸爽一爽| 97精品久久久久中文字幕| 国产福利在线免费| 国产午夜久久| 日本xxxxx18| 欧美在线电影| 久久精品aaaaaa毛片| 国产va免费精品观看精品| 日本国产高清不卡| 欧美人与牲禽动交com| 深夜福利日韩在线看| 污污网站免费在线观看| 7777精品伊人久久久大香线蕉完整版 | 免费精品视频一区| 日韩在线观看中文字幕| 国产精品丝袜高跟| 欧美xoxoxo| 国模私拍视频一区| www视频在线免费观看| 亚洲性生活视频| 欧美成人免费| 亚洲大胆人体视频| 国产视频第二页| 欧美视频在线播放| 久久影视中文字幕| 黑人极品videos精品欧美裸| 国产一卡二卡在线播放| 亚洲欧洲精品天堂一级| ass极品国模人体欣赏| 久久综合久久鬼色| www.免费av| 不卡的av电影在线观看| 91人妻一区二区| 国产成人高清视频| 国产免费无码一区二区| 国产呦萝稀缺另类资源| 做a视频在线观看| 六月丁香婷婷久久| 免费看污污网站| 免费看欧美女人艹b| 国产v亚洲v天堂无码久久久| 蜜桃av一区| av天堂永久资源网| 午夜宅男久久久| 高清在线观看免费| 亚洲综合三区| 99999精品视频| 亚洲欧美日韩国产一区二区| 免费无码国产v片在线观看| 99成人精品| 虎白女粉嫩尤物福利视频| 宅男噜噜噜66国产日韩在线观看| 国产美女主播在线播放| 亚洲激情在线| 久久精品免费一区二区| 久久一区二区三区四区五区| 女人另类性混交zo| 日韩激情一区二区| 自拍偷拍一区二区三区四区| 激情综合网av| 麻豆精品国产传媒| 成人午夜在线免费| 一级性生活大片| 欧美激情一区二区三区在线| 天堂网av2018| 亚洲精品视频免费看| 国产精品16p| 欧美午夜视频一区二区| 中文字幕免费高清网站| 欧美日韩视频在线一区二区 | 亚洲国内精品视频| 日韩av免费观影| 在线不卡国产精品| 国产cdts系列另类在线观看| 欧美激情aaaa| 欧美一区久久久| 91在线视频导航| 国产精品视频3p| 日韩欧美电影一区二区| 亚洲国产老妈| 热99这里只有精品| 日本欧美一区二区| 日韩av成人网| 久久精品一区二区| 欧美三根一起进三p| 欧美日韩亚洲精品内裤| 中国女人真人一级毛片| 欧美videofree性高清杂交| 你懂的在线观看视频网站| 日韩在线观看免费网站| 国产免费拔擦拔擦8x在线播放| 国产精品久久av| 波多野结衣欧美| 亚洲福利av| 99精品热6080yy久久| 亚洲va综合va国产va中文| 成人免费三级在线| 国产精品理论在线| 亚洲成a人片在线不卡一二三区 | 在线天堂一区av电影| 亚洲国产免费| 中文字幕一区二区在线观看视频| ww亚洲ww在线观看国产| www.av视频| 欧美日韩一区二区三区在线看| 国产小视频一区| 久久精品久久久久| 中文字幕一区久| www.久久爱.cn| 欧美成免费一区二区视频| 国产精品裸体瑜伽视频| 国产一区中文字幕| 成年人在线免费看片| 亚洲成人av免费| 中文字幕在线网站| 亚洲精品电影网在线观看| av在线下载| 国产在线精品成人一区二区三区| 香蕉精品久久| 男人插女人视频在线观看| 国产美女精品在线| 色欲狠狠躁天天躁无码中文字幕| 亚洲线精品一区二区三区| 99精品久久久久久中文字幕| 中文字幕亚洲国产| 成人福利av| 久久精品国产美女| 激情五月***国产精品| 91精品视频国产| 国产精品久久久久久久久图文区| 亚洲精品男人的天堂| 精品亚洲国产成av人片传媒| 91www在线| 国产一区二区三区无遮挡| 欧美日韩亚洲一区三区| 伊人国产精品视频| 中文字幕一区二区三区蜜月| 亚洲图片中文字幕| 中文字幕欧美日韩精品| 黑人一区二区三区| 日韩中文一区| 日本欧美在线看| 亚洲AV无码成人精品区明星换面| 色噜噜狠狠一区二区三区果冻| 日韩porn| 国产成人一区三区| 区一区二视频| 天天干天天操天天玩| 国产精品久久久久久久久免费相片 | 日韩精品影音先锋| 久久一卡二卡| 国产在线资源一区| 在线亚洲欧美| 国产精品无码午夜福利| 在线欧美一区二区| 日本在线观看| 91亚洲精品一区| 好看不卡的中文字幕| aaaa黄色片| 一本到三区不卡视频| 成人在线高清视频| 国产日产久久高清欧美一区| 亚洲最新色图| www.555国产精品免费| 欧美日韩综合视频| 高清av电影在线观看| 91精品在线观看视频| 欧美人与禽猛交乱配视频| 三级男人添奶爽爽爽视频 | 欧美激情精品久久久久久| 久久久久久毛片免费看| 欧美牲交a欧美牲交aⅴ免费真| 日本一区免费视频| 国产又粗又猛又黄又爽| 欧美国产高跟鞋裸体秀xxxhd| 老司机aⅴ在线精品导航| 三级4级全黄60分钟| **性色生活片久久毛片| 后进极品白嫩翘臀在线视频| 日韩av日韩在线观看| 国产精品成人av| 少妇伦子伦精品无吗| 色呦呦网站一区| 欧美精品hd| 精品91免费| 蜜臀av一区二区在线观看| 欧美黄片一区二区三区| 亚洲老司机av| 精品国产一区二| 免费高清在线观看免费| 亚洲精品视频在线看| 青青草免费在线视频| 成人久久一区二区三区| 亚洲美女色禁图| 北条麻妃在线观看视频| 日韩经典中文字幕| 亚洲图片小说区| 日韩精品视频久久| 亚洲另类在线视频| 国产小视频在线播放| 国产精品swag| 精品一区二区三区免费视频|