意大利打響了人類保衛(wèi)戰(zhàn)的第一槍？

(資料圖)

意大利：即日起禁止使用ChatGPT

就在剛剛，意大利出手打擊全世界最火的人工智能ChatGPT！

據(jù)意大利數(shù)據(jù)保護(hù)局(DPA)最新發(fā)布的消息，從即日起禁止使用聊天機(jī)器人ChatGPT，并限制開(kāi)發(fā)這一平臺(tái)的OpenAI公司處理意大利用戶信息。同時(shí)個(gè)人數(shù)據(jù)保護(hù)局開(kāi)始立案調(diào)查。

個(gè)人數(shù)據(jù)保護(hù)局認(rèn)為，3月20日ChatGPT平臺(tái)出現(xiàn)了用戶對(duì)話數(shù)據(jù)和付款服務(wù)支付信息丟失情況。此外平臺(tái)沒(méi)有就收集處理用戶信息進(jìn)行告知，缺乏大量收集和存儲(chǔ)個(gè)人信息的法律依據(jù)。

意大利數(shù)據(jù)保護(hù)局宣布，OpenAI公司必須在20天內(nèi)通過(guò)其在歐洲的代表，向意大利個(gè)人數(shù)據(jù)保護(hù)局通報(bào)公司執(zhí)行保護(hù)局要求而采取的措施，否則將被處以最高2000萬(wàn)歐元(差不多是1.55億人民幣)或公司全球年?duì)I業(yè)額4%的罰款。

歐盟在數(shù)據(jù)保護(hù)方面一直是全球的先行者，在落地層面也是全球最為嚴(yán)格的監(jiān)管者。2018年5月歐盟推出的《通用數(shù)據(jù)保護(hù)條例》(簡(jiǎn)稱“GDPR”)，是目前覆蓋面最廣的個(gè)人數(shù)據(jù)隱私保護(hù)法規(guī)，甚至被稱為“懲罰性監(jiān)管”。

《歐盟營(yíng)商環(huán)境報(bào)告2019/2020》曾做過(guò)調(diào)查，統(tǒng)計(jì)數(shù)據(jù)顯示，96.1%受訪企業(yè)認(rèn)為GDPR增加了企業(yè)成本，其中90.3%受訪企業(yè)表示管理成本增加，其次是人工成本和客戶服務(wù)成本。

律師事務(wù)所DLA Piper 2021年發(fā)布的報(bào)告顯示，自歐盟GDPR生效以來(lái)，數(shù)據(jù)保護(hù)當(dāng)局已經(jīng)執(zhí)行了2.725億歐元的罰款。該律所發(fā)現(xiàn)，近三年意大利數(shù)據(jù)保護(hù)局(DPA)已經(jīng)開(kāi)出了大約6930萬(wàn)歐元的罰單，為歐盟最高；德國(guó)、法國(guó)、英國(guó)和西班牙的DPA則包攬了前五名。而2021年1月以來(lái)全球范圍內(nèi)數(shù)據(jù)隱私安全事件頻發(fā)，各國(guó)數(shù)據(jù)保護(hù)局開(kāi)出的罰單力度總體是有增無(wú)減。

圖：2018年5月至2021年1月GDPR罰款累計(jì)

而不久前，包括馬斯克在內(nèi)，多位科技公司高管和頂級(jí)AI研究人員正呼吁暫停對(duì)強(qiáng)大的新AI工具的快速開(kāi)發(fā)。

這些人士表示，六個(gè)月或更長(zhǎng)時(shí)間的暫停，將使該行業(yè)有時(shí)間制定AI設(shè)計(jì)方面的安全標(biāo)準(zhǔn)，從而防止風(fēng)險(xiǎn)最高的一些AI技術(shù)的潛在危害。

據(jù)生命未來(lái)研究所官網(wǎng)，3月22日，生命未來(lái)研究所(Future of Life)向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開(kāi)信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。

信中寫道“只有在我們確信它們的效果是積極的，風(fēng)險(xiǎn)是可控的情況下，才應(yīng)該開(kāi)發(fā)強(qiáng)大的人工智能系統(tǒng)?！瘪R斯克此前曾多次表達(dá)對(duì)人工智能的擔(dān)憂，認(rèn)為人工智能是未來(lái)人類文明最大的風(fēng)險(xiǎn)之一，威脅程度遠(yuǎn)高于車禍、飛機(jī)失事、毒品泛濫等甚至比核武器都危險(xiǎn)得多。

馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI創(chuàng)始人Emad Mostaque等上千名科技大佬和AI專家已經(jīng)簽署公開(kāi)信。

該公開(kāi)信也呼吁，AI實(shí)驗(yàn)室和獨(dú)立學(xué)者應(yīng)針對(duì)高級(jí)AI的設(shè)計(jì)和開(kāi)發(fā)共同制定實(shí)施一套共享安全協(xié)議，確保AI的安全性。

與此同時(shí)，AI開(kāi)發(fā)人員必須與決策者合作，大力推進(jìn)強(qiáng)有力的AI治理系統(tǒng)的發(fā)展，包括：針對(duì)AI的新型監(jiān)管機(jī)構(gòu)；對(duì)高級(jí)AI系統(tǒng)的監(jiān)督追蹤和大型算力池；幫助區(qū)分真實(shí)數(shù)據(jù)與AI生成的數(shù)據(jù)、并且追蹤模型泄漏的溯源和水印系統(tǒng)等。

信的末尾提及，人類可以和AI共創(chuàng)繁榮未來(lái)，只不過(guò)要做好準(zhǔn)備：“讓我們享受AI的‘長(zhǎng)夏’，而不是毫無(wú)準(zhǔn)備地進(jìn)入‘秋天’?！?/p>

OpenAI的管理人員說(shuō)他們還沒(méi)有開(kāi)始訓(xùn)練GPT-5.OpenAI首席執(zhí)行官Sam Altman在接受采訪時(shí)表示，公司長(zhǎng)期以來(lái)在開(kāi)發(fā)時(shí)將安全作為重點(diǎn)，并在GPT-4發(fā)布前花了六個(gè)多月的時(shí)間對(duì)其進(jìn)行安全測(cè)試。

“從某種意義上說(shuō)，這是多此一舉，”Altman說(shuō)?！拔艺J(rèn)為，一直以來(lái)我們對(duì)這些問(wèn)題的討論是聲音最響、力度最大且持續(xù)時(shí)間最長(zhǎng)的。”

（文章來(lái)源：中國(guó)基金報(bào)）

關(guān)鍵詞：