O'Reilly AI峰會(huì)紐約站“游記” AI應(yīng)用加速落地，強(qiáng)化學(xué)習(xí)更受關(guān)注
2019年4月15－18日，O’Reilly AI Conference在紐約舉行，整個(gè)大會(huì)為期4天，在會(huì)上，參會(huì)嘉賓討論了人工智能學(xué)術(shù)現(xiàn)狀、公司在部署AI中遇到的問題，以及在業(yè)界的應(yīng)用情況。
作為機(jī)器學(xué)習(xí)和數(shù)據(jù)科學(xué)領(lǐng)域最有影響力的全球峰會(huì)之一，本次大會(huì)據(jù)了解有超過2000人參加。大數(shù)據(jù)文摘作為特約合作媒體，也是整場(chǎng)會(huì)議唯一的中國(guó)媒體受邀參會(huì)，在現(xiàn)場(chǎng)度過了收獲滿滿的4天。
除了現(xiàn)場(chǎng)論壇，還從各種細(xì)節(jié)安排上感受到了O’Reilly這一國(guó)際頂級(jí)AI行業(yè)論壇的誠(chéng)意，所以今天的稿子與其說是干貨，不如說是一次現(xiàn)場(chǎng)“游記”。
那么，請(qǐng)各位跟著文摘菌一起出發(fā)吧！
學(xué)術(shù)成果正加速落地
本次大會(huì)主論壇最讓文摘菌印象深刻的演講來自O(shè)’Reilly Media的首席數(shù)據(jù)科學(xué)家Ben Lorica，他介紹了現(xiàn)在行業(yè)的現(xiàn)狀和發(fā)展方向。
Ben Lorica提到，2010年AI學(xué)術(shù)論文和patent and invention的轉(zhuǎn)化率由的8：1到2016的3：1，種種數(shù)據(jù)都表明現(xiàn)在AI已經(jīng)加速進(jìn)入了落地實(shí)施階段。
在所有的學(xué)術(shù)論文轉(zhuǎn)化中，計(jì)算機(jī)視覺方面的專利申請(qǐng)最多，比2011年增長(zhǎng)24%，排在第二位和第三位的分別是自然語言處理以及語音處理。
在自然語言處理方面，涌現(xiàn)出現(xiàn)了很多開源的模型例如 ELMo, BERT, MT-DNN 和GPT-2。另外，根據(jù)O’Reilly的問卷調(diào)查，Tensorflow 和Pytorch變得十分常見，其他工具例如Nauta，Keras等等也在幫助公司進(jìn)一步優(yōu)化資源、流程以及建模自動(dòng)化方面發(fā)揮著越來越重要的作用。
強(qiáng)化學(xué)習(xí)也得到越來越多的關(guān)注。O’Reilly在一項(xiàng)對(duì)1300個(gè)公司的問卷調(diào)查中發(fā)現(xiàn)，大約有1/5的公司開始著手準(zhǔn)備或已經(jīng)在使用RL強(qiáng)化學(xué)習(xí)。原因之一是許多的開源工具及公司開發(fā)的專有軟件proprietary tools的涌現(xiàn)還有云服務(wù)的發(fā)展。
Ben Lorica還表示，不同企業(yè)的AI發(fā)展有不同的挑戰(zhàn)，對(duì)于剛開始采用AI或還在評(píng)測(cè)考慮的企業(yè)，他們最大的瓶頸是：公司文化沒有認(rèn)識(shí)到AI的需求以及難以確定適當(dāng)?shù)腁I業(yè)務(wù)案例。而對(duì)于AI應(yīng)用和使用方面比較成熟的公司來說，他們認(rèn)為缺乏足夠的數(shù)據(jù)進(jìn)行分析或者數(shù)據(jù)質(zhì)量方面的問題與缺乏合適的人才是當(dāng)前最大的瓶頸。另外，對(duì)大多數(shù)公司來說，對(duì)數(shù)據(jù)工程師和計(jì)算機(jī)基礎(chǔ)架構(gòu)人才的需求同等重要。
總的來說，公司應(yīng)該更加關(guān)注：公平和公正、安全和可靠、隱私、安全漏洞、模型的可解釋性。如果對(duì)他們排序的話，重要程度從高到低分別是：模型的可解釋性以及透明度、公平以及偏見、隱私、安全和可靠性、安全漏洞。
分論壇演講:Intel和Netflix
除了主論壇，每天下午都有5個(gè)時(shí)間段的40分鐘的分論壇，第一個(gè)從午飯后開始，每場(chǎng)有9個(gè)可以選擇，對(duì)你沒有看錯(cuò)，會(huì)議議題就是這么的豐富！
Intel的AI產(chǎn)品組的副總裁Gadi Singer也在大會(huì)發(fā)表了演講。他認(rèn)為深度學(xué)習(xí)正在改變著計(jì)算，并且改變了計(jì)算帶給人們和公司的價(jià)值。
越來越多的深度學(xué)習(xí)和機(jī)器學(xué)習(xí)被運(yùn)用到企業(yè)里面，當(dāng)前企業(yè)面對(duì)的AI應(yīng)用三個(gè)常見的問題分別是：如何應(yīng)用規(guī)模部署、如何推動(dòng)績(jī)效但保持管理成本以及如何應(yīng)對(duì)未來所需的不確定性和變化。另外他還提到，現(xiàn)階段的deep learning和AI應(yīng)用是可以用CPU實(shí)現(xiàn)完成的。
在CPU上實(shí)現(xiàn)AI模型，3年時(shí)間經(jīng)歷了3個(gè)階段的變化。
接下來Gadi分別聊到intel是如何幫助四家公司在圖像識(shí)別、推薦系統(tǒng)、NLP等領(lǐng)域基于CPU應(yīng)用人工智能和深度學(xué)習(xí)優(yōu)化企業(yè)解決方案。
Philips在醫(yī)療領(lǐng)域的圖像識(shí)別應(yīng)用案例
Taboola在內(nèi)容推薦系統(tǒng)的應(yīng)用
科大訊飛的NLP應(yīng)用
令文摘菌印象比較深刻的還有Netflix機(jī)器學(xué)習(xí)總監(jiān)Tony Jebara介紹的Netflix如何用推薦系統(tǒng)給用戶提供個(gè)性化的服務(wù)：除了眾所周知的推薦節(jié)目，到標(biāo)題的展示，到搜索功能等等。
Tony Jebara重點(diǎn)介紹了推薦系統(tǒng)是如何給用戶提供個(gè)性化封面圖片。什么意思呢？比如對(duì)于stranger things這部劇，如果用戶對(duì)青少年題材感興趣，那么推薦系統(tǒng)就會(huì)使用帶有主角的處境的圖片來推薦。而對(duì)恐怖題材感興趣的用戶就會(huì)見到留鼻血的這張圖片作為推薦的圖片。
接下來Tony進(jìn)一步指出，傳統(tǒng)機(jī)器學(xué)習(xí)batch machine learning和A/B test 的問題，還介紹了Netflix如何應(yīng)用online learning來實(shí)現(xiàn)數(shù)據(jù)收集和學(xué)習(xí)相輔相成，并優(yōu)化推薦系統(tǒng)。
他指出，傳統(tǒng)的監(jiān)督學(xué)習(xí)和contextual bandits的不同以及netflix的圖片推薦系統(tǒng)是如何利用online learning在更短時(shí)間內(nèi)找到點(diǎn)擊率最高的圖片。
來自Alibaba硅谷研發(fā)中心的人工智能專家陳三鑒博士和常劍博士介紹了時(shí)間序列模型的特點(diǎn)以及AI技術(shù)在時(shí)序預(yù)測(cè)中產(chǎn)生的巨大效果提升，受到了現(xiàn)場(chǎng)聽眾的熱烈反響。陳三鑒博士在做完演講之后，在現(xiàn)場(chǎng)被提問者團(tuán)團(tuán)圍住。
現(xiàn)場(chǎng)花絮
最近火到爆炸的BERT模型創(chuàng)始人之一Chang-Ming Wei也受邀來到現(xiàn)場(chǎng)介紹BERT模型。
Dr. Chang-Ming Wei 先簡(jiǎn)單介紹了現(xiàn)階段的幾種比較受歡迎的NLP模型包括Word embeddings, ELMO等，指出現(xiàn)階段模型的不足之處。接著詳細(xì)講解了BERT 這種雙向編碼器連接（transformer blocks）是如何打破了前幾個(gè)模型的紀(jì)錄。并著重介紹pretraining 和 fine-tuning兩個(gè)BERT的訓(xùn)練步驟，他指出這兩者的區(qū)別在于pretraining是用大量的沒有標(biāo)簽的數(shù)據(jù)（unlabel）完成的，而后者是用少量的針對(duì)特定任務(wù)的標(biāo)簽數(shù)據(jù)(task-specific label data)完成的。如果小伙伴對(duì)BERT感興趣可以參見我們前兩天發(fā)的另外一篇科普文哦。
大會(huì)從第三天開始，也開啟了現(xiàn)場(chǎng)展位。各個(gè)booth前都熱鬧非常，企業(yè)和各公司都很想借助這個(gè)機(jī)會(huì)更多了解不同的service provider和不同類型的服務(wù)，以及如何借力AI使公司進(jìn)一步發(fā)展。
H20.ai的現(xiàn)場(chǎng)展位👇熟悉kaggle競(jìng)賽的小伙伴應(yīng)該都知道H2Oai有好幾位grandmaster的加持，并且他們的xx產(chǎn)品是號(hào)稱“brings you the intelligence of a Kaggle Grandmaster in a box（擁有xx產(chǎn)品你就擁有了世界頂級(jí)的數(shù)據(jù)科學(xué)家）。”
文摘菌在參會(huì)過程中也和參會(huì)者們聊了聊，基本都是來自業(yè)內(nèi)頂級(jí)公司的技術(shù)從業(yè)者。各大公司當(dāng)然也不會(huì)放棄這么好的招人機(jī)會(huì)，現(xiàn)場(chǎng)黑板留言區(qū)滿滿的招聘信息。
大會(huì)現(xiàn)場(chǎng)文摘菌還偶遇了不少大咖，包括Deep Learning Cookbook一書的作者Douwe Osinga，并且請(qǐng)他為大數(shù)據(jù)文摘的讀者們簽了個(gè)名。
最后，這次峰會(huì)的部分精彩演講已經(jīng)被主辦方放上官網(wǎng)啦，對(duì)keynote感興趣的小伙伴可以通過下面的網(wǎng)址注冊(cè)會(huì)員觀看！
https://learning.oreilly.com/home/
另外，O’Reilly AI Conference在今年6月份也要來北京啦，不用飛到紐約就能直接體驗(yàn)這個(gè)超棒的會(huì)議，學(xué)習(xí)先進(jìn)的行業(yè)知識(shí)與頂尖的AI科技公司0距離接觸哦。
今年的北京站嘉賓也絕對(duì)是重量級(jí)的。包括加州大學(xué)伯克利分校 EECS教授Ion Stoica，Google Brain團(tuán)隊(duì)中移動(dòng)和嵌入式 TensorFlow Group的技術(shù)主管Pete Warden ，以及剛剛加入阿里巴巴達(dá)摩院的大神賈揚(yáng)清。
搶票參會(huì)：
本屆AI Conference 2019北京站早鳥票價(jià)本周五結(jié)束（5月10日），搜索AI大會(huì)或人工智能大會(huì)，進(jìn)入官網(wǎng)查看詳情。
