神譯局是36氪旗下編譯團(tuán)隊(duì)，關(guān)注科技、商業(yè)、職場(chǎng)、生活等領(lǐng)域，重點(diǎn)介紹國(guó)外的新技術(shù)、新觀點(diǎn)、新風(fēng)向。

編者按：從新興技術(shù)的應(yīng)用進(jìn)程來(lái)看，Gartner的炒作周期曲線還是挺準(zhǔn)的。人工智能經(jīng)過(guò)前幾年的炒作之后，在對(duì)大眾有關(guān)鍵影響的應(yīng)用上，這項(xiàng)技術(shù)正在被潑冷水。在無(wú)人駕駛、社交媒體內(nèi)容審核以及醫(yī)療保健上，人類還不能放心交給AI。原因是什么？AI還不夠智能，夸大其詞的炒作太多，研究人員把太多的注意力放在了模型而不是數(shù)據(jù)上。到底什么時(shí)候AI才能達(dá)到預(yù)期？不知道。本文來(lái)自編譯。

劃重點(diǎn)：

人工智能在無(wú)人駕駛、社交媒體、醫(yī)療保健等關(guān)鍵應(yīng)用上未達(dá)預(yù)期

人工智能未達(dá)預(yù)期的原因在于技術(shù)營(yíng)銷的夸大宣傳以及人工智能科學(xué)家對(duì)數(shù)據(jù)的忽視

但大量資金仍源源不斷地涌入人工智能領(lǐng)域

Facebook聯(lián)合創(chuàng)始人馬克·扎克伯格與特斯拉的首席執(zhí)行官埃隆·馬斯克，這兩個(gè)人有什么共同點(diǎn)？?jī)扇硕荚诟恍┐髥?wèn)題纏斗，而這些問(wèn)題至少部分是源于對(duì)人工智能系統(tǒng)的信任，但后者辜負(fù)了這份信任。扎克伯格要應(yīng)付沒(méi)能阻止有害內(nèi)容傳播的算法；馬斯克的軟件的駕駛技術(shù)還沒(méi)能達(dá)到他經(jīng)常許下的承諾。

從他們遇到的問(wèn)題我們可以吸取什么教訓(xùn)？人工智能還沒(méi)做好準(zhǔn)備去迎接黃金時(shí)段。而且，也很難知道什么時(shí)候能準(zhǔn)備好。公司應(yīng)該考慮把注意力放在形成高質(zhì)量的數(shù)據(jù)——而且是大量這樣的數(shù)據(jù)上——同時(shí)雇用人工來(lái)完成人工智能還沒(méi)做好準(zhǔn)備的工作。

深度學(xué)習(xí) AI 系統(tǒng)原來(lái)是想大致模擬人腦，現(xiàn)在這種系統(tǒng)已經(jīng)可以發(fā)現(xiàn)腫瘤、駕駛汽車還有寫作，在實(shí)驗(yàn)室環(huán)境下，它們展現(xiàn)出驚人的結(jié)果。但問(wèn)題就在這兒。在不可預(yù)測(cè)的現(xiàn)實(shí)世界里面應(yīng)用這種技術(shù)時(shí)，人工智能有時(shí)候會(huì)達(dá)不到預(yù)期。當(dāng)有人吹噓它可以用于醫(yī)療保健等高風(fēng)險(xiǎn)應(yīng)用時(shí)，這種情況令人擔(dān)憂。

就像最近一名舉報(bào)人披露的內(nèi)部文件所揭示的那樣，社交媒體的風(fēng)險(xiǎn)也很高，社交媒體的內(nèi)容可能會(huì)影響到選舉，并造成心理健康障礙。但 Facebook 對(duì)人工智能的信心在自家的網(wǎng)站上表露得很明顯，網(wǎng)站往往先突出介紹自己的機(jī)器學(xué)習(xí)算法，然后才會(huì)提到自己還有一支龐大的人工審核隊(duì)伍。2018 年的時(shí)候，扎克伯格還曾告訴美國(guó)國(guó)會(huì)，人工智能工具可以“大規(guī)模”地識(shí)別有害內(nèi)容。在發(fā)現(xiàn)裸體以及恐怖主義相關(guān)內(nèi)容方面，這些工具做得不錯(cuò)，但仍然難以阻止錯(cuò)誤信息的傳播。（2）

問(wèn)題在于人類的語(yǔ)言總是在變。反疫苗活動(dòng)人士用類似輸入“va((ine”）之類的技巧來(lái)避免被發(fā)現(xiàn)，而私人槍支銷售商則在 Facebook Marketplace 上發(fā)布空箱子的圖片，然后附上“PM me”（私信我）的文字。旨在阻止違規(guī)內(nèi)容的系統(tǒng)被騙了，更糟糕的是，AI 還經(jīng)常推薦這類內(nèi)容給用戶。

這也就難怪聘請(qǐng)來(lái)給 Facebook 的算法提供支持的約 15000 名內(nèi)容審核員工作會(huì)過(guò)量。去年，紐約大學(xué)斯特恩商學(xué)院曾進(jìn)行過(guò)一項(xiàng)研究。研究建議，如果 AI 不能勝任內(nèi)容審核這項(xiàng)任務(wù)的話，F(xiàn)acebook 應(yīng)該將這些員工增加一倍至 30000 人，這樣才能作為帖子的監(jiān)控。 《數(shù)學(xué)殺傷性武器》（Weapons of Math Destruction）的作者凱茜·奧尼爾（Cathy O’Neil）十分直截了當(dāng)，她說(shuō) Facebook 的人工智能“沒(méi)用”。扎克伯格也告訴國(guó)會(huì)議員，由于語(yǔ)言的微妙，人工智能很難對(duì)帖子做出正確的審核。

馬斯克對(duì)人工智能的過(guò)度承諾更是已經(jīng)變成傳奇。 2019 年，他告訴特斯拉的投資者說(shuō)，自己“很有信心”，很快就會(huì)有 100 萬(wàn)輛 Model 3 無(wú)人駕駛機(jī)器人出租車上路。什么時(shí)候：2020 年。現(xiàn)在2021年就快過(guò)去了，特斯拉客戶目前得到的只有支付 10000 美元購(gòu)買特殊軟件的特權(quán)。什么特殊軟件？有朝一日（又叫做天知道什么時(shí)候）可提供全自動(dòng)駕駛功能的特殊軟件。直到那時(shí)，汽車才可以自行停車、變道，駛上高速公路，只是偶爾才會(huì)出現(xiàn)嚴(yán)重錯(cuò)誤。馬斯克最近在一條推文中也承認(rèn)，通用自動(dòng)駕駛技術(shù)是“一個(gè)難題”。

更令人驚訝的是：人工智能在醫(yī)療保健方面也一直表現(xiàn)不佳，本來(lái)這個(gè)領(lǐng)域?qū)τ贏I技術(shù)而言是最有希望的。今年早些時(shí)候，《自然》雜志上的一項(xiàng)研究分析了數(shù)十種旨在檢測(cè) X 射線以及 CT 掃描當(dāng)中存在的 COVID-19 疾病跡象的機(jī)器學(xué)習(xí)模型。研究發(fā)現(xiàn)，由于各種缺陷，沒(méi)有一種模型可用于臨床環(huán)境。上個(gè)月發(fā)表在《英國(guó)醫(yī)學(xué)雜志》（British Medical Journal）上的另一項(xiàng)研究發(fā)現(xiàn)，94% 的人工智能系統(tǒng)在掃描乳腺癌征兆的準(zhǔn)確度上低于放射科醫(yī)生個(gè)體的分析。 該研究的負(fù)責(zé)人，華威大學(xué)人口健康教授泰勒-菲利普斯（ Sian Taylor-Phillips ）說(shuō)：“大量炒作說(shuō)[放射學(xué)人工智能掃描] 時(shí)代即將到來(lái)，但從某種程度來(lái)說(shuō)先到的是炒作而并不是結(jié)果?！?/p>

政府顧問(wèn)將根據(jù)她的研究結(jié)果來(lái)決定此類人工智能系統(tǒng)是不是利大于弊，并因此可供使用。就這方面而言，危害似乎并不明顯。畢竟，用于發(fā)現(xiàn)乳腺癌的人工智能系統(tǒng)在設(shè)計(jì)上過(guò)于謹(jǐn)慎，導(dǎo)致漏報(bào)腫瘤征兆的可能性要高于誤報(bào)。但是，即便乳腺癌篩查的召回率（美國(guó)為 9%，英國(guó)為 4%）僅增加很小的百分比，也意味著成千上萬(wàn)的女性因誤報(bào)而變得更加焦慮。泰勒-菲利普斯說(shuō)：“也就是說(shuō)，就為了實(shí)施新技術(shù)，我們接受了對(duì)被篩查女性的傷害。”

出現(xiàn)錯(cuò)誤的似乎不僅限于少數(shù)研究。 AI 市場(chǎng)情報(bào)公司 Cognilytica 的執(zhí)行合伙人凱思林·沃爾克（ Kathleen Walch ）說(shuō)：“幾年前，大家對(duì) AI 把守放射科的第一道關(guān)抱有很大希望和炒作。但現(xiàn)在我們看到，人工智能在檢測(cè)這些異常方面并沒(méi)有提供任何有用的幫助?！?/p>

盡管如此，這些危險(xiǎn)信號(hào)都沒(méi)能阻止大量資金不斷涌入人工智能領(lǐng)域。根據(jù)追蹤私人資本市場(chǎng)的 PitchBook Data的數(shù)據(jù)，在經(jīng)過(guò)一段時(shí)間的穩(wěn)步攀升之后，全球?qū)θ斯ぶ悄艹鮿?chuàng)企業(yè)的風(fēng)險(xiǎn)資本投資在過(guò)去一年出現(xiàn)了飆升。根據(jù)彭博社對(duì)文字記錄的分析，在過(guò)去十年的時(shí)間里，企業(yè)財(cái)報(bào)電話會(huì)議提到“人工智能”的次數(shù)一直在穩(wěn)步上升。

“人工智能”是最近幾年的熱詞

可是既然有這么多的投資，為什么人工智能還沒(méi)有達(dá)到我們希望的狀態(tài)？部分問(wèn)題在于技術(shù)營(yíng)銷的夸大宣傳。但人工智能科學(xué)家本身也可能難辭其咎。

人工智能投資熱也高燒不退

這些系統(tǒng)要取決于兩樣?xùn)|西：能用的模型，以及用于訓(xùn)練該模型的基礎(chǔ)數(shù)據(jù)。為了開(kāi)發(fā)出可用的人工智能，程序員需要把絕大部分的時(shí)間（可能約占 90%）都花在數(shù)據(jù)上——收集數(shù)據(jù)、對(duì)數(shù)據(jù)進(jìn)行分類，然后清洗數(shù)據(jù)。這項(xiàng)工作既枯燥又艱難?？梢哉f(shuō)，目前的機(jī)器學(xué)習(xí)社區(qū)也忽視了這一點(diǎn)，因?yàn)榭茖W(xué)家們更加重視 AI 架構(gòu)的復(fù)雜性，或者模型的復(fù)雜程度。

其中的一個(gè)結(jié)果是：根據(jù)麻省理工學(xué)院科學(xué)家最近的一項(xiàng)研究，用于開(kāi)發(fā)人工智能系統(tǒng)（比如計(jì)算機(jī)視覺(jué)和語(yǔ)言處理）的那些最流行的數(shù)據(jù)集里面到處都是錯(cuò)誤。熱衷搭建模型的文化實(shí)際上阻礙了人工智能。

但也出現(xiàn)了一些令人鼓舞的變化跡象。 谷歌的科學(xué)家最近在一篇會(huì)議論文中抱怨了模型與數(shù)據(jù)的問(wèn)題，并提出了各種辦法來(lái)制定更多的激勵(lì)措施以解決這個(gè)問(wèn)題。

企業(yè)也正在將注意力從“人工智能即服務(wù)”供應(yīng)商身上轉(zhuǎn)移。盡管這些供應(yīng)商承諾自己的服務(wù)開(kāi)箱即用，就像魔術(shù)一樣。 PitchBook 的高級(jí)分析師 布蘭登·布爾克（Brendan Burke ）表示，現(xiàn)在他們征兆把更多的資金投入到數(shù)據(jù)就緒軟件上。他表示，Palantir與C3.ai等純粹的 AI 公司“取得的成果不算出色”，而 Databricks等數(shù)據(jù)科學(xué)公司“正在取得更高的估值以及出色的成果?！?/p>

人工智能偶爾會(huì)在低風(fēng)險(xiǎn)的場(chǎng)景下搞砸，比如推薦電影不靠譜，或用你的臉解鎖不了智能手機(jī)。但在醫(yī)療保健和社交媒體內(nèi)容等領(lǐng)域，AI仍然需要更多的訓(xùn)練，更好的數(shù)據(jù)。企業(yè)不應(yīng)該現(xiàn)在就打算讓 AI 發(fā)揮作用，而應(yīng)該用數(shù)據(jù)和人員奠定基礎(chǔ)，讓AI在不遠(yuǎn)的將來(lái)（希望如此）發(fā)揮作用。

譯者：boxi。

關(guān)鍵詞： 特斯拉 缺陷 公司