December 1, 2021

聯合國敦促暫停使用危害人權的人工智能

聯合國人權事務負責人呼籲暫停使用對人權構成嚴重威脅的人工智能技術,包括在公共場所跟踪人員的面部掃描系統。

聯合國人權事務高級專員米歇爾·巴切萊特 (Michelle Bachelet) 週三也表示,各國應明確禁止不符合國際人權法的人工智能應用。

應該被禁止的應用包括政府“社會評分”系統,它根據人們的行為來判斷人們,以及某些基於人工智能的工具,這些工具根據種族或性別將人們分類。

巴切萊特在一份聲明中說,基於人工智能的技術可以成為一股向善的力量,但如果在使用時沒有充分考慮它們如何影響人們的人權,它們也可能“產生負面甚至災難性的影響”。

她的評論伴隨著一份新的聯合國報告而來,該報告審查了國家和企業如何在沒有建立適當的保護措施來防止歧視和其他傷害的情況下匆忙應用影響人們生活和生計的人工智能係統。

“這不是沒有人工智能,”權利辦公室主題參與主任佩吉希克斯在日內瓦介紹報告時告訴記者。 “這是關於認識到,如果人工智能要用於這些人權——非常關鍵的——功能領域,它必須以正確的方式完成。 我們只是還沒有建立一個框架來確保這種情況發生。”

巴切萊特沒有呼籲徹底禁止面部識別技術,但表示政府應該停止實時掃描人們的特徵,直到他們能夠證明該技術是準確的、不會歧視並符合某些隱私和數據保護標準。

儘管報告中沒有點名國家,但中國一直是推出面部識別技術的國家之一——尤其是在新疆西部地區進行監控,那裡有許多少數民族維吾爾人。 該報告的主要作者表示,命名特定國家不是他們任務的一部分,這樣做甚至可能適得其反。

“在中國背景下,與在其他背景下一樣,我們擔心針對特定社區的透明度和歧視性應用,”希克斯說。

她引用了美國和澳大利亞的幾個法庭案例,其中錯誤地應用了人工智能。

該報告還對試圖通過分析人們的面部表情或身體動作來推斷人們的情緒和精神狀態的工具持謹慎態度,稱此類技術容易產生偏見、誤解並且缺乏科學依據。

“公共當局使用情緒識別系統,例如為警察攔截或逮捕單獨挑選個人或評估審訊期間陳述的真實性,有可能損害人權,例如隱私權、自由權和公平權審判,”報告說。

該報告的建議呼應了西方民主國家許多政治領導人的想法,他們希望利用人工智能的經濟和社會潛力,同時解決人們對可以跟踪和描述個人並就誰可以獲得工作、貸款提出建議的工具可靠性的日益擔憂和教育機會。

歐洲監管機構已經採取措施控制風險最高的人工智能應用程序。 歐盟官員今年提出的擬議法規將禁止人工智能的某些用途,例如實時掃描面部特徵,並嚴格控制可能威脅人們安全或權利的其他用途。

拜登總統的政府也表達了類似的擔憂,但尚未概述遏制這些擔憂的詳細方法。 由美國和歐洲官員共同領導的新成立的貿易和技術委員會尋求合作制定人工智能和其他技術政策的共享規則。

限制人工智能最危險用途的努力得到了微軟和其他希望指導影響該技術的規則的美國科技巨頭的支持。 希克斯說,微軟已經與聯合國權利辦公室合作並為其提供資金,以幫助改善其對技術的使用,但該報告的資金來自權利辦公室的常規預算。

西方國家一直站在對歧視性使用人工智能表示擔憂的最前沿。

美國商務部長吉娜·雷蒙多 (Gina Raimondo) 在 6 月份的一次虛擬會議上說:“如果你考慮一下人工智能可能以歧視性方式被使用,或者進一步加強歧視性傾向的方式,那就太可怕了。” “我們必須確保不會讓這種情況發生。”

她正在與歐盟委員會數字時代執行副總裁瑪格麗特·維斯塔格 (Margrethe Vestager) 交談,後者建議在“像我們這樣的民主國家”應該完全禁止使用某些人工智能。 她引用了社會評分,它可以關閉某人在社會中的特權,以及“在公共場所廣泛、全面地使用遠程生物識別”。

Leave a Reply

Your email address will not be published. Required fields are marked *