英國正式頒布機器人道德標準:不許傷害、欺騙人類和令人成癮

評論
New recruit "Pepper" the robot, a humanoid robot designed to welcome and take care of visitors and patients, holds the hand of a new born baby at AZ Damiaan hospital in Ostend, Belgium June 16, 2016. REUTERS/Francois Lenoir      TPX IMAGES OF THE DAY      - RTX2GKG4
New recruit "Pepper" the robot, a humanoid robot designed to welcome and take care of visitors and patients, holds the hand of a new born baby at AZ Damiaan hospital in Ostend, Belgium June 16, 2016. REUTERS/Francois Lenoir TPX IMAGES OF THE DAY - RTX2GKG4
評論

本文獲合作媒體 雷鋒網 授權轉載。

New recruit
REUTERS/Francois Lenoir

艾薩克·阿西莫夫(Isaac Asimov)曾在他的科幻小說裡描述了規範機器人行為的三定律,包括:不能傷害人類、要服從人類命令和保護自己。

現在,英國標準協會正式發布了一套機器人倫理指南,比阿西莫夫三定律更加複雜和成熟。我們的社會已經到了要給機器人制定行為規範的時候了,這不禁讓人產生一種科幻與現實交織的奇妙感覺。

英國標準協會(British Standards Institute,簡稱 BSI),是有著 100 多年曆史的英國國家標準機構,在世界範圍內具有很高的權威性。這個倫理指南的全稱是 《機器人和機器系統的倫理設計和應用指南》(以下簡稱《指南》),主要針對的人群就是機器人設計研究者和製造商,指導他們 如何對一個機器人做出道德風險評估 。最終的目的,是保證人類生產出來的智慧機器人,能夠融入人類社會現有的道德規範裡。

這個標準的文件代號為 BS8611,發佈於 9 月 15 日在英國牛津郡舉行的「社會機器人和人工智慧」(Social Robotics and AI)大會上。西英格蘭大學機器人教授 Alan Winfield 表示,這是業界第一個關於機器人倫理設計的公開標準。

文件內容雖然用詞枯燥,但是裡面所描繪的場景,簡直像是從科幻小說裡蹦出來的一樣。機器人欺騙、令人成癮、具有超越現有能力範圍的自學能力,這些都被列為危害因素,是設計人員和製造商需要謹慎考慮的。《指南》開頭給出了一個廣泛的原則:

機器人的設計目的不應是專門或主要用來殺死或傷害人類;人類是負責任的主體,而不是機器人;要確保能找出某個機器人的行為負責人之可能性

《指南》也聚焦了一些有爭議性的話題。例如,人類與機器人產生情感聯繫是可以的嗎?尤其是當這個機器人本身設計目的,就是為了與小孩和老人互動。

謝菲爾德大學教授 Noel Sharkey 認為,這就是機器人在無意的情況下欺騙人類的例子。機器人是沒有感情的,但是人類有時候並不這麼認為。他指出,最近有一項研究,把小機器人放到一所幼兒園裡,孩子們很是喜愛,並且認為這些機器人比家裡的寵物具有更高的感知能力。

《指南》建議設計者更應關注機器人的透明性,但是科學家們表示這在現實裡很難應用。因為人們無法確切了解人工智慧系統(尤其是深度學習系統)是如何做出決定的。

一個人工智慧系統並沒有用固定的程序來指導它完成任務,它是通過數百萬次的學習和嘗試,才找出成功的解決方法。這種學習和做出決策的過程,有時候是連它的人類設計者都無法理解的。

《指南》裡也提到了機器人的性別和種族歧視問題。這是因為深度學習系統很多都是使用網路上的資料進行訓練,而這些資料本身就帶著偏見。機器人的偏見是會直接影響技術應用的。它會對某些群體的學習更深入,而對另一些群體有所忽視,這在以後的應用中,意味著機器人會「看人說話」。

現在已有的例子就是,聲音識別系統對於女性的理解要弱一些,再比如機器識別白種人的臉更容易,識別黑人的臉更難。長遠來看,在未來的醫療應用中,機器人在診斷女性和少數族群的時候,其專業程度會降低。

Sharkey 教授說:「我們也需要一個機器人黑盒子,可以打開來仔細審查。如果一個機器人表現出種族主義的傾向,我們可以把它關掉,從街上帶回來。」

兩週前,路透社有文章指出,有科學家表示性愛機器人會使人成癮,因為機器人不會拒絕。《指南》也提到了這種「過度依賴機器人」的現象,然而並沒有給設計者一個確切的可遵循的準則,這也是在未來的工作中,需要繼續補充的。


精選熱門好工作

行政工讀生 (Part-time Intern)

Wanted
臺北市.台灣

獎勵 NT$4,000

Full-stack (Frontend most) Senior Software Engineer

ShopBack 回饋網股份有限公司
臺北市.台灣

獎勵 NT$20,000

行銷協理

數字銀河股份有限公司
臺北市.台灣

獎勵 NT$20,000

評論