您的位置:首頁 >公共 >

歐盟立法者制定生成式AI透明度規(guī)則,同意禁止公共場面面部識別

2023-05-12 17:52:52 來源:澎湃新聞

·更新后的草案引入了旨在監(jiān)管“通用人工智能”的新措施,適用于由微軟、谷歌和OpenAI等科技巨頭構(gòu)建的資源密集型人工智能系統(tǒng)。大模型的創(chuàng)建者必須公開訓(xùn)練人工智能使用的數(shù)據(jù),以確保其使用受版權(quán)法保護(hù)的數(shù)據(jù)訓(xùn)練。


(資料圖)

·“鑒于人工智能將對我們的社會和經(jīng)濟(jì)產(chǎn)生深遠(yuǎn)影響,《人工智能法》很可能是這項任務(wù)中最重要的立法。這是全球第一項此類立法。”

歐洲議會兩個委員會當(dāng)?shù)貢r間5月11日通過《人工智能法(The AI Act)》提案的談判授權(quán)草案。草案就對ChatGPT等生成式人工智能大模型的一系列要求達(dá)成一致,標(biāo)志著歐盟對人工智能實施強(qiáng)監(jiān)管方面又邁出了一步。

新文本將嚴(yán)格禁止“對人類安全造成不可接受風(fēng)險的人工智能系統(tǒng)”,包括有目的地操縱技術(shù)、利用人性弱點或根據(jù)行為、社會地位和個人特征等進(jìn)行評價的系統(tǒng)等。

草案提出了新的保障措施,并禁止各種危險用例,包括禁止在公共場所進(jìn)行大規(guī)模面部識別程序,以及禁止使用預(yù)測性警務(wù)系統(tǒng)(即AI犯罪預(yù)測系統(tǒng))。草案還要求建立一個公共數(shù)據(jù)庫,記錄政府部門部署的“高風(fēng)險”人工智能系統(tǒng),公開數(shù)據(jù),以便公民能夠了解他們將何時以及如何受到這項技術(shù)的影響。

這一草案將于6月中旬提交歐洲議會全會表決,之后歐洲議會將與歐盟理事會就法律的最終形式進(jìn)行談判。歐洲議會的聲明說,一旦獲得批準(zhǔn),這將成為全世界首部有關(guān)人工智能的法規(guī)。

要求ChatGPT等承擔(dān)新的義務(wù)

該草案由兩個關(guān)鍵委員會批準(zhǔn):內(nèi)部市場委員會(Internal Market Committee)和公民自由委員會(Civil Liberties Committee)。這些委員會由負(fù)責(zé)監(jiān)督立法制定的歐洲議會議員組成。他們最終以84票贊成、7票反對、12票棄權(quán)批準(zhǔn)了完成的草案。

“在草案中,歐洲議會議員旨在確保人工智能系統(tǒng)由人監(jiān)督,且確保其安全、透明、可追溯、非歧視和環(huán)保。他們還希望對人工智能有一個統(tǒng)一的定義,旨在保持技術(shù)中立,以便其可以適用于現(xiàn)在和以后出現(xiàn)的人工智能系統(tǒng)?!睔W洲議會在一份新聞稿中說。

修正案包括擴(kuò)大禁止行為清單,以禁止對人工智能系統(tǒng)的“侵入性”和“歧視性”使用,禁止行為包括:在公共可訪問空間建立實時遠(yuǎn)程生物特征識別系統(tǒng);使用遠(yuǎn)程生物特征識別系統(tǒng),唯一的例外是執(zhí)法部門起訴嚴(yán)重犯罪,并且只有在司法授權(quán)后;使用敏感特征(例如性別、種族、民族、公民身份、宗教、政治取向)的生物識別分類系統(tǒng);預(yù)測性警務(wù)系統(tǒng)(基于貌相、地點或過去的犯罪行為預(yù)測犯罪);執(zhí)法、邊境管理、工作場所和教育機(jī)構(gòu)中的情感識別系統(tǒng);從社交媒體或監(jiān)控攝像頭中抓取生物特征數(shù)據(jù)以創(chuàng)建面部識別數(shù)據(jù)庫(侵犯人權(quán)和隱私權(quán))。

除了禁令之外,更新后的草案還引入了旨在監(jiān)管“通用人工智能”的新措施,適用于由微軟、谷歌和OpenAI等科技巨頭構(gòu)建的資源密集型人工智能系統(tǒng),其中包括GPT-4和ChatGPT等語言模型,以及Stable Diffusion、Midjourney和DALL-E等人工智能圖像生成器。

根據(jù)擬議的立法,人工智能大模型的創(chuàng)建者需要在人工智能使用之前進(jìn)行評估并減輕各種風(fēng)險,包括評估訓(xùn)練人工智能系統(tǒng)可能造成的環(huán)境損害。相關(guān)公司必須公開訓(xùn)練人工智能使用的數(shù)據(jù),以確保其使用受版權(quán)法保護(hù)的數(shù)據(jù)訓(xùn)練。

有業(yè)內(nèi)人士認(rèn)為,版權(quán)問題可能會在美國產(chǎn)生重大影響。在美國,版權(quán)所有者已經(jīng)對未經(jīng)同意使用其數(shù)據(jù)的人工智能圖像生成器提起了一系列訴訟,許多科技公司,如谷歌和OpenAI,都通過拒絕披露訓(xùn)練系統(tǒng)的數(shù)據(jù)(通常聲稱這些信息是商業(yè)機(jī)密)來避免這類法律挑戰(zhàn),若歐盟要求公開訓(xùn)練數(shù)據(jù),則可能會產(chǎn)生新的訴訟。

《人工智能法》草案的另一個關(guān)鍵條款是創(chuàng)建一個“高風(fēng)險”人工智能系統(tǒng)的數(shù)據(jù)庫,以公開人工智能系統(tǒng)在歐盟的部署地點、時間和方式?!斑@個數(shù)據(jù)庫應(yīng)該是自由、公開且易于理解的。”草案中提到,“數(shù)據(jù)庫還應(yīng)方便用戶使用,易于導(dǎo)航,至少具有搜索功能,允許公眾在數(shù)據(jù)庫中搜索特定的高風(fēng)險系統(tǒng)以及相關(guān)的位置、風(fēng)險類別等?!?/p>

創(chuàng)建這樣一個數(shù)據(jù)庫一直是數(shù)字權(quán)利活動人士的長期需求,他們表示,公眾經(jīng)常在不知不覺中被大規(guī)模監(jiān)控系統(tǒng)進(jìn)行實驗,或在未經(jīng)同意的情況下被收集數(shù)據(jù)來訓(xùn)練人工智能。

“其中一個大問題是,在傷害事件發(fā)生之前,我們對正在使用的人工智能系統(tǒng)一無所知?!狈菭I利組織Access的高級政策分析師丹尼爾·盧弗(Daniel Leufer)說。他舉了荷蘭福利丑聞的例子,荷蘭政府使用的一種算法錯誤地就數(shù)千張未支付稅單發(fā)起訴訟。他表示,該數(shù)據(jù)庫將幫助歐盟公民用信息武裝自己,并使個人和團(tuán)體更容易使用法律手段保護(hù)自身合法權(quán)益。

歐盟成員國還有重大分歧

對于人工智能監(jiān)管的一系列想法已經(jīng)在歐盟醞釀多年,投票結(jié)束后,聯(lián)合報告員兼歐洲議會議員德拉戈斯·圖多拉奇(Dragos Tudorache)在一份聲明中評論說:“鑒于人工智能將對我們的社會和經(jīng)濟(jì)產(chǎn)生深遠(yuǎn)影響,《人工智能法》很可能是這項任務(wù)中最重要的立法。這是全球第一項此類立法,這意味著歐盟可以引領(lǐng)人工智能以以人為本、值得信賴和安全的方式發(fā)展。我們一直致力于支持歐洲的人工智能技術(shù)發(fā)展,為初創(chuàng)企業(yè)、中小企業(yè)和行業(yè)提供成長和創(chuàng)新的空間,同時保護(hù)基本權(quán)利,加強(qiáng)民主監(jiān)督,確保成熟的人工智能治理和執(zhí)法體系?!?/p>

“該草案具有全球意義?!睌?shù)字倡導(dǎo)組織歐洲數(shù)字權(quán)利(European Digital Rights)的高級政策顧問薩拉·錢德(Sarah Chander)告訴科技媒體The Verge。正如錢德所說,這些法律很可能會影響世界各國。歐盟是一個十分重要的市場,許多科技公司經(jīng)常在全球范圍內(nèi)遵守歐盟特定的法規(guī),以減少同時遵守多套法規(guī)帶來的損耗。

不過,該草案仍可能發(fā)生變化,在5月12日獲得歐盟議會委員會的批準(zhǔn)后,草案將在下個月面臨全體會議投票,然后進(jìn)入三方會談,涉及歐盟成員國和歐盟政府機(jī)構(gòu)的閉門談判。

歐洲數(shù)字權(quán)利組織的高級政策顧問艾拉·雅庫伯斯卡(Ella Jakubowska)說:“許多成員國政府熱衷于保留進(jìn)行生物識別大規(guī)模監(jiān)控的能力。但我們也看到了奧地利和德國的不同意見,他們都贊成在《人工智能法》中加強(qiáng)對生物識別數(shù)據(jù)的保護(hù)。我們聽說有傳言說,其他幾個國家愿意在生物識別條款的方向上做出妥協(xié)。這給了我們希望,三方會談將取得積極成果,盡管我們當(dāng)然希望幾個會員國作出強(qiáng)有力的反擊。”

錢德表示,數(shù)字權(quán)利活動人士最看重的是對生物識別監(jiān)控和預(yù)測性警務(wù)系統(tǒng)的禁令,將在三方會談中引起“重大分歧”?!俺蓡T國認(rèn)為,人工智能的這些用途對于打擊犯罪和維護(hù)安全是必要的。”錢德說。

標(biāo)簽:

相關(guān)文章

編輯推薦