歐盟已成為世界上第一個透過立法監管人工智慧的國家,但有些人表示這還不夠,而另一些人則認為「額外的限制」可能會損害企業。
自ChatGPT推出以來,歐洲政策制定者紛紛為科技公司製定規則和警告,本週標誌著歐盟人工智慧(AI)規則制定過程中的一個里程碑。
週三在歐洲議會 得到正式認可的 《人工智慧法案》採取基於風險的方法,確保公司在向公眾提供之前發布合法合規的產品。
第二天,歐盟委員會要求 Bing、Facebook、Google Search、Instagram、Snapchat、TikTok、YouTube 和 X 詳細說明它們如何根據各自的法律限制生成式人工智慧的風險。
歐盟的主要擔憂包括人工智慧錯覺(當模型犯錯並編造事實時)、深度假貨的病毒式傳播,以及可能在選舉中誤導選民的人工智慧自動化操縱。社區對該法案也有自己的不滿。另一方面,一些研究人員表示,它還不夠有效。
技術壟斷
開放市場研究所歐洲主任馬克斯表示,布魯塞爾作為世界上第一個通過降低人工智慧風險的法規的司法管轄區值得“真正的讚揚”,但最終協議存在一些問題。馮圖恩說。
他告訴歐洲新聞台,“公共機構存在重大漏洞”,“對造成最大傷害的最大基金會模型的監管相對薄弱”。
底層模型是一個基於資料訓練的機器學習模型,可用於執行各種任務,例如寫詩。 ChatGPT 是基本模型。
但馮·圖恩最擔心的是技術壟斷。
「《人工智慧法案》解決了人工智慧目前構成的最大威脅:它在加強和鞏固少數占主導地位的科技公司對我們的個人生活、經濟和民主已經擁有的極端權力方面發揮著作用。「你無法應對一些人工智慧,」他說。
同樣,歐盟委員會表示應警惕人工智慧生態系統中壟斷的濫用行為。
「歐盟需要明白,人工智慧帶來的風險規模與開發和部署這些技術的主導公司的規模和實力密切相關。就我們而言,我們無法成功應對前者,」馮圖恩說。
上個月,法國新創公司 Mistral AI 被曝將與微軟合作,人工智慧壟斷的威脅成為人們關注的焦點。
這令歐盟的一些人感到震驚,因為法國曾為 Mistral 等開源公司尋求人工智慧法律方面的讓步。
“歷史性時刻”
然而,一些新創公司對新規定帶來的明確性表示歡迎。
法國開源人工智慧公司 Giskard 聯合創始人兼執行長 Alex Combesy 表示:「歐盟議會最終通過歐盟人工智慧法,既是一個歷史性時刻,也是一種解脫。」他說。
他告訴歐洲新聞台:“該法律對高風險人工智慧系統和底層模型的開發者施加了額外的限制和規則,這些被視為‘系統性風險’。我相信制衡能夠有效實施。”
他說:“這一歷史性時刻為未來鋪平了道路,未來將負責任地使用人工智慧來培養信任並確保每個人的安全。”
該法律的工作原理是根據訓練底層模型的計算能力來區分底層模型所帶來的風險。超過算力門檻的人工智慧產品將受到更嚴格的監管。
這種分類被認為是一個起點,委員會可以像其他定義一樣考慮。
“公共物品”
然而,並不是所有人都同意這種分類。
「在我看來,資訊領域使用的人工智慧系統應被歸類為高風險,並應遵守更嚴格的規則,這在已通過的歐盟人工智慧法中明確存在。但事實並非如此,」政策經理Katharina Tügel 表示。在資訊與民主論壇上。
「考慮到對基本權利的影響,有權修改高風險系統使用案例的委員會可以明確將資訊部門使用的人工智慧系統稱為高風險。是的,」她告訴歐洲新聞下一步。
「推動我們共同未來的不僅僅是私人公司。人工智慧必須成為公共產品,」她補充道。
但其他人認為,企業也需要有發言權並能夠與歐盟合作。
「歐盟利用私營部門的活力至關重要,這將為人工智慧的未來提供動力。做好這一點將使歐洲更具競爭力,對投資者更有吸引力。」這對我們的成功很重要, 」朱莉說。Lynn Teigland,安永歐洲、中東、印度和非洲 (EMEIA) 執行合夥人。
不過,她表示,歐盟內外的企業需要積極為該法律的生效做好準備。這意味著採取措施確保您正在開發或部署的人工智慧系統的庫存是最新的,並確定您的公司在人工智慧價值鏈中的位置,以了解您的法律責任。Masu。”
「苦甜的味道」
對於新創公司和小型企業來說,這可能意味著更多的工作。
France Digital 通訊主管 Marianne Trudeau-Bittker 表示:“這一決定是苦樂參半的。”
「《人工智慧法案》解決了透明度和道德方面的重大挑戰,但儘管計劃對新創公司和小型企業進行一些調整,特別是透過監管沙箱,但還是對所有開發該法案的公司施加了重大義務。
「我們擔心這份文件只會造成額外的監管障礙,有利於美國和中國之間的競爭,並減少歐洲人工智慧冠軍出現的機會。」她補充道。
“有效實施”
然而,即使《人工智慧法案》獲得通過,執行也是下一個挑戰。
非營利未來生命研究所的歐盟研究負責人李斯特·沃克(Liszt Wouk)告訴《歐洲新聞台》:“現在的重點已經轉移到其有效實施和執行上。這需要重新關注補充立法。”
此類補充立法包括旨在支援人工智慧產品和服務造成的損害索賠的人工智慧責任指令,以及旨在簡化法規執行的歐盟人工智慧責任指令,其中包括車站。
「確保法律物有所值的一個關鍵點是,人工智慧局擁有執行其既定任務的資源,而《通用人工智慧實踐守則》是關於正確起草法律,包括社會法,」他說。