,,

環(huán)球微資訊！專家警告歐盟人工智能監(jiān)管法案或嚴(yán)重打擊開源工作的積極性

2022-09-07 18:35:04 來源：cnBeta.COM

針對歐盟擬議的開源人工智能監(jiān)管新政，無黨派智囊團(tuán) Brookings 已于本周表達(dá)了明確的反對意見。其在文章中指出 —— 新規(guī)強(qiáng)加給通用人工智能系統(tǒng)的法律責(zé)任，也將對該領(lǐng)域的技術(shù)發(fā)展造成嚴(yán)重的破壞。根據(jù)歐盟的“人工智能法案”草案，開源開發(fā)者也必須遵守風(fēng)險管理、數(shù)據(jù)治理、技術(shù)文檔和透明度、以及準(zhǔn)確性和網(wǎng)絡(luò)安全標(biāo)準(zhǔn)等方面的指導(dǎo)方針。

(資料圖)

訪問：

阿里云1核2G云服務(wù)器低至1折最高可得500元滿減優(yōu)惠券

截圖（來自：Brookings）

布魯金斯學(xué)會分析師 Alex Engler 斷言，若一家公司部署了一套導(dǎo)致某些災(zāi)難性后果的開源人工智能系統(tǒng)，那該公司將可通過起訴構(gòu)建該產(chǎn)品的開源開發(fā)人員來試圖轉(zhuǎn)移責(zé)任，而這樣的后果是不堪想象的。

這么做或進(jìn)一步導(dǎo)致未來 AI 權(quán)利被集中到大型科技企業(yè)的手中，并對公眾想要深入的至關(guān)重要的 AI 研究造成阻礙。
最終歐盟對開源領(lǐng)域的監(jiān)管嘗試，可能只會產(chǎn)生一系列危及開源 AI 貢獻(xiàn)者的復(fù)雜要求、而無法改進(jìn)通用 AI 的使用。

2021 年的時候，歐盟委員會公示了旨在促進(jìn)可信賴人工智能的監(jiān)管草案（AI Act），以期在今秋投票之前廣泛征集各行業(yè)的意見。

盡管該機(jī)構(gòu)原本想要嘗試在技術(shù)創(chuàng)新與問責(zé)之間加以平衡，但據(jù)一些專家所述 —— 紙面上的規(guī)定，對 AI 系統(tǒng)的開發(fā)工作提出了相當(dāng)繁重的要求。

據(jù)悉，該法案包含了對某些類別的開源 AI 的例外情況，比如專用于研究和控制以防止濫用的那些。
但正如 Alex Engler 所指出的那樣，想要無死角封堵這些項目進(jìn)入商業(yè)系統(tǒng)是相當(dāng)困難的，因為它們很可能被惡意行為者濫用。

以“Stable Diffusion”這款開源文本轉(zhuǎn)圖像 AI 系統(tǒng)為例，盡管其在發(fā)布許可中禁止了某些類型的內(nèi)容，但社區(qū)中還是很快冒出了利用此類工具來實施“深度色情偽造”的案例。

艾倫人工智能研究所（Allen Institute for AI）創(chuàng)始人兼首席執(zhí)行官 Oren Etzioni 也贊同了這一觀點，即當(dāng)前人工智能監(jiān)管草案存在多方面的問題。

規(guī)則帶來的沉重負(fù)擔(dān)，或?qū)﹂_源文本生成系統(tǒng)等開發(fā)等領(lǐng)域產(chǎn)生寒蟬效應(yīng)。畢竟單打獨斗的開發(fā)人員，很難趕上 Google 和 Meta 之類科技巨頭的水平。
歐盟不曾想到這一點 —— 通向監(jiān)管地獄的道路，竟是該機(jī)構(gòu)在善意驅(qū)使下鋪就的。盡管對于開源開發(fā)者來說，他們本不該承受與商業(yè)軟件開發(fā)商同等的負(fù)擔(dān)。
以學(xué)生開發(fā)者為例，他們可能出于無力遵守歐盟 AI Act 的考慮，而被迫選擇不分發(fā)其辛苦打造的軟件，結(jié)果對科研成果和學(xué)術(shù)進(jìn)步都造成了可重復(fù)性的寒蟬效應(yīng)。

有鑒于此，Etzioni 認(rèn)為歐盟監(jiān)管機(jī)構(gòu)不應(yīng)尋求廣泛監(jiān)管的人工智能技術(shù)、而應(yīng)專注于 AI 的特定應(yīng)用。

理由是 AI 存在快速變化和太多的不確定性，以至于遲緩的監(jiān)管過程無法發(fā)揮作用。

相比之下，自動駕駛汽車、機(jī)器人或玩具等 AI 應(yīng)用，更應(yīng)成為被監(jiān)管的對象。

關(guān)鍵詞： Europe 專家警告歐盟人工智能監(jiān)管法案或嚴(yán)重打擊開