導讀:據(jù)媒體報道,歐盟日前提議一些限制或禁止在其境內(nèi)使用人工智能技術(shù)的規(guī)則,其針對的組織其中包括美國和中國的科技巨頭。
歐盟提議的規(guī)則將成為迄今為止國際上制定監(jiān)管人工智能技術(shù)最嚴苛的規(guī)則之一,其中包括面部識別、自動汽車駕駛以及驅(qū)動在線廣告、自動招聘和信用評分的算法。擬議的規(guī)則將圍繞面向未來但具有爭議的人工智能技術(shù)制定全球性法規(guī)和規(guī)范。
歐洲數(shù)字版權(quán)非營利組織Access Now公司歐洲政策分析師Daniel Leufer 說,“這將向全球傳達一個非常重要的信息,即在建立在民主、法治、基本權(quán)利基礎上的社會中,不允許應用某些人工智能技術(shù)。”
他指出,歐盟擬議的規(guī)則是含糊不清的,但這是檢查潛在有害技術(shù)使用的重要一步。該規(guī)則很可能受到國際方面的密切關(guān)注,該規(guī)則適用于在歐盟銷售產(chǎn)品或服務的任何一家公司。
其他倡導者表示,歐盟保護公民免受許多濫用人工智能的規(guī)則存在太多漏洞。總部位于布魯塞爾的歐洲數(shù)字版權(quán)組織(EDRi)政策和競選官員Ella Jakubowska說:“有一些規(guī)則是積極的。而某些條款將允許政府部門和組織繼續(xù)以懷疑的方式使用人工智能技術(shù)?!?/p>
例如,擬議的法規(guī)建議禁止使用人工智能的“高風險”應用程序,其中包括執(zhí)法部門使用人工智能進行面部識別,但只有當該技術(shù)用于在公共場所實時查尋人員時才可以使用。該規(guī)則還將為警方在調(diào)查可能判處至少三年徒刑的犯罪時可能出現(xiàn)的例外情況提供建議。
Jakubowska指出,人工智能仍用于學校、企業(yè)或購物中心,并用于一系列警方調(diào)查中。她說:“在基本數(shù)字版權(quán)方面,還有很多地方遠遠不夠。我們希望他們采取更大膽的立場?!?/p>
由于人工智能的最新發(fā)展,面部識別技術(shù)已變得更加有效,這引起了極大的爭議。它通過Clearview AI等商業(yè)工具在一些國家的執(zhí)法部門中得到廣泛應用;美國一些城市已經(jīng)禁止警方使用這項技術(shù)來回應公眾的抗議。
歐盟擬議的人工智能規(guī)則還將禁止由政府機構(gòu)為一般目的進行基于人工智能的社會評分,以及禁止使用人工智能針對“特定群體”進行監(jiān)控,這種方式可能對他們造成心理或身體上的傷害。此外,還可能會限制使用人工智能進行信用評分、招聘或某種形式的監(jiān)控廣告,例如,人工智能算法可能將賭博網(wǎng)站的廣告推薦給人們。
歐盟擬議的人工智能法規(guī)要求使用高風險人工智能應用程序的組織向監(jiān)管機構(gòu)提供風險評估報告,以證明其安全性。那些不遵守規(guī)定的組織,可能會被處以其全球銷售額6%的罰款。
擬議的規(guī)則要求組織在嘗試使用人工智能來檢測用戶情緒,或者根據(jù)生物特征(例如性別、年齡、種族、政治取向)進行分類時必須告知用戶。
數(shù)字版權(quán)分析師Leufer表示,歐盟擬議的這些規(guī)則可能會阻礙行業(yè)組織在某些領(lǐng)域的投資,從而影響人工智能行業(yè)在歐盟和其他國家和地區(qū)的發(fā)展步伐。
今年1月制定的這份條例草案的內(nèi)容日前被曝光。其最終版本包含了一些顯著的更改,例如刪除了禁止使用高風險的人工智能系統(tǒng)的條款。