白宮表示,七家人工智能領(lǐng)域的領(lǐng)先公司已承諾管理該技術(shù)帶來的風(fēng)險。
這將包括測試人工智能的安全性,并將這些測試的結(jié)果公開。
來自亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI的代表與美國總統(tǒng)喬·拜登一起宣布了這一消息。
在此之前,有一些關(guān)于該技術(shù)功能的警告。
這些公司開發(fā)工具的速度引發(fā)了人們對虛假信息傳播的擔(dān)憂,尤其是在2024年美國總統(tǒng)大選臨近之際。
喬·拜登總統(tǒng)在周五的講話中表示:“我們必須對新興技術(shù)所帶來的威脅保持清醒和警惕,這些威脅可能——不一定但可能——對我們的民主和價值觀構(gòu)成?!?br />
周三,F(xiàn)acebook母公司Meta 發(fā)布了自己的人工智能工具Llama 2。
Meta全球事務(wù)總裁尼克·克萊格爵士(Sir Nick Clegg)告訴BBC,“炒作在某種程度上領(lǐng)先于技術(shù)”。
作為周五簽署的協(xié)議的一部分,兩家
平面磨床公司同意:
在發(fā)布之前,內(nèi)部和外部專家對其人工智能系統(tǒng)進(jìn)行了安全測試。
確保人們能夠通過實施水印來發(fā)現(xiàn)人工智能。
定期公開報告人工智能的能力和局限性。
研究偏見、歧視和侵犯隱私等風(fēng)險。
白宮補(bǔ)充說,目標(biāo)是讓人們能夠輕松辨別在線內(nèi)容是由人工智能創(chuàng)建的。
拜登表示:“這是一項重大責(zé)任,我們必須把它做好。” “而且還有巨大的潛力?!?br />
人工智能生成內(nèi)容的水印是歐盟委員蒂埃里·布雷頓(Thierry Breton)在6月訪問舊金山期間與OpenAI首席執(zhí)行官薩姆·奧爾特曼(Sam Altman)討論的話題之一。
“期待繼續(xù)我們的討論——特別是關(guān)于水印的討論,”布雷頓在一條推文中寫道,其中包括他和奧爾特曼先生的視頻片段。
在視頻剪輯中,Altman先生表示,他“很樂意很快”展示OpenAI使用水印所做的事情。
周五簽署的自愿保障措施是美國朝著更嚴(yán)格的人工智能監(jiān)管邁出的一步。
政府在一份聲明中表示,還在制定一項行政命令。
白宮表示,還將與盟友合作建立一個國際框架來管理人工智能的開發(fā)和使用
平面磨床。
針對這項技術(shù)的警告包括,它可能被用來產(chǎn)生錯誤信息并破壞社會穩(wěn)定,甚至可能對人類構(gòu)成生存風(fēng)險——盡管一些開創(chuàng)性的計算機(jī)科學(xué)家表示,世界末日的警告有些言過其實。