隨著AI的應(yīng)用越來(lái)越廣泛，諸多問(wèn)題開(kāi)始顯現(xiàn)，首當(dāng)其沖的就是內(nèi)容真實(shí)性。AI作為工具并不具備判斷力，其生成的結(jié)果是基于數(shù)據(jù)投喂和算力養(yǎng)成的綜合產(chǎn)物，那么，這些數(shù)據(jù)是否真實(shí)合法，直接決定了AI是否能大規(guī)模應(yīng)用。

日前，國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)《征求意見(jiàn)稿》），向社會(huì)征求意見(jiàn)?！墩髑笠庖?jiàn)稿》明確“國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源”，并就生成式人工智能服務(wù)商的準(zhǔn)入，算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型、內(nèi)容，以及用戶(hù)個(gè)人隱私、商業(yè)秘密等方面提出了相關(guān)要求。

(相關(guān)資料圖)

其中，有兩條內(nèi)容強(qiáng)調(diào)了真實(shí)。一則是在第四條“提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗”中表示，“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息”。另一則是在第七條“提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)”中表示，“能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性”。

這意味著，AIGC的研發(fā)平臺(tái)不但要保證投喂的數(shù)據(jù)資源真實(shí)可靠，同樣要對(duì)生成的內(nèi)容負(fù)責(zé)，這無(wú)疑是一項(xiàng)巨大的挑戰(zhàn)。

事實(shí)上，在全球AI賽道的頂級(jí)選手中，還沒(méi)有任何一個(gè)平臺(tái)對(duì)AI生成結(jié)果的真實(shí)性進(jìn)行擔(dān)保。此前，谷歌推出的人工智能聊天機(jī)器人巴德（Bard）與ChatGPT對(duì)壘，卻因巴德犯了事實(shí)錯(cuò)誤，導(dǎo)致谷歌的股價(jià)暴跌，一夜之間市值蒸發(fā)約1056億美元。微軟則在一份免責(zé)聲明中表示：“必應(yīng)是由人工智能驅(qū)動(dòng)的，因此有可能出現(xiàn)意外和錯(cuò)誤?！?/p>

對(duì)生成式AI研發(fā)者而言，確保結(jié)果真實(shí)的難度之大可想而知。筆者認(rèn)為，在研發(fā)、實(shí)驗(yàn)階段，應(yīng)該允許AI不斷試錯(cuò)、修正、完善，但隨著生成式AI作為工具進(jìn)入生產(chǎn)領(lǐng)域，開(kāi)始進(jìn)行搜索、繪畫(huà)、問(wèn)答，甚至編程、視頻生成等工作，那么確保真實(shí)就應(yīng)該是基礎(chǔ)門(mén)檻。

換句話(huà)說(shuō)，AI要搶人類(lèi)的工作，從底層模型起就先要解決是否真實(shí)準(zhǔn)確的問(wèn)題。如果這一問(wèn)題還未有定論，那么研發(fā)平臺(tái)應(yīng)該審慎向大眾層面推出新品，更不應(yīng)草率地將AI運(yùn)用于商業(yè)環(huán)境中。

如今，全球基于AI的創(chuàng)業(yè)公司如雨后春筍般涌現(xiàn)，僅在3月份就有近10款A(yù)I視頻生成器誕生。輸入幾個(gè)關(guān)鍵字就能獲得一段文字、一張圖片甚至一個(gè)視頻，這無(wú)疑體現(xiàn)了科技的魅力。但部分企業(yè)為了追風(fēng)口就倉(cāng)促推出新品，導(dǎo)致產(chǎn)品質(zhì)量良莠不齊，一些產(chǎn)品生成的內(nèi)容滑稽可笑，更有一些產(chǎn)品生成的內(nèi)容存在虛假。這類(lèi)“深度造假”的內(nèi)容一旦傳播開(kāi)來(lái)，極易引發(fā)社會(huì)信任危機(jī)。

在筆者看來(lái)，面對(duì)新技術(shù)，我們既要抓住機(jī)會(huì)、勇于攀登，也不能回避技術(shù)發(fā)展帶來(lái)的各類(lèi)安全風(fēng)險(xiǎn)和倫理挑戰(zhàn)，需構(gòu)建合理規(guī)范的數(shù)字規(guī)則，做“負(fù)責(zé)任的”人工智能，立好規(guī)矩明確紅線，防范潛在風(fēng)險(xiǎn)，推動(dòng)科技向善。

相關(guān)報(bào)道

ChatGPT遭美國(guó)監(jiān)管盯上了：將嚴(yán)查利用AI詐騙的公司

AI真會(huì)失控嗎？DeepMind CEO：AI未來(lái)有可能擁有自我意識(shí)

馬斯克再談監(jiān)管：AI將如小行星般撞擊人類(lèi) 有可能摧毀文明

（文章來(lái)源：證券日?qǐng)?bào)）

關(guān)鍵詞：