英國正式頒布機器人道德標準:不許傷害、欺騙人類和令人成癮

英國標準協會發表《機器人和機器系統的倫理設計和應用指南》,主要針對的人群就是機器人設計研究者和製造商,指導他們如何對一個機器人做出道德風險評估。
評論
New recruit "Pepper" the robot, a humanoid robot designed to welcome and take care of visitors and patients, holds the hand of a new born baby at AZ Damiaan hospital in Ostend, Belgium June 16, 2016. REUTERS/Francois Lenoir TPX IMAGES OF THE DAY - RTX2GKG4
評論

本文獲合作媒體 雷鋒網 授權轉載。

New recruit "Pepper" the robot, a humanoid robot designed to welcome and take care of visitors and patients, holds the hand of a new born baby at AZ Damiaan hospital in Ostend, Belgium June 16, 2016. REUTERS/Francois Lenoir TPX IMAGES OF THE DAY - RTX2GKG4
REUTERS/Francois Lenoir

艾薩克·阿西莫夫(Isaac Asimov)曾在他的科幻小說裡描述了規範機器人行為的三定律,包括:不能傷害人類、要服從人類命令和保護自己。

現在,英國標準協會正式發布了一套機器人倫理指南,比阿西莫夫三定律更加複雜和成熟。我們的社會已經到了要給機器人制定行為規範的時候了,這不禁讓人產生一種科幻與現實交織的奇妙感覺。

英國標準協會(British Standards Institute,簡稱 BSI),是有著 100 多年曆史的英國國家標準機構,在世界範圍內具有很高的權威性。這個倫理指南的全稱是 《機器人和機器系統的倫理設計和應用指南》(以下簡稱《指南》),主要針對的人群就是機器人設計研究者和製造商,指導他們 如何對一個機器人做出道德風險評估 。最終的目的,是保證人類生產出來的智慧機器人,能夠融入人類社會現有的道德規範裡。

這個標準的文件代號為 BS8611,發佈於 9 月 15 日在英國牛津郡舉行的「社會機器人和人工智慧」(Social Robotics and AI)大會上。西英格蘭大學機器人教授 Alan Winfield 表示,這是業界第一個關於機器人倫理設計的公開標準。

文件內容雖然用詞枯燥,但是裡面所描繪的場景,簡直像是從科幻小說裡蹦出來的一樣。機器人欺騙、令人成癮、具有超越現有能力範圍的自學能力,這些都被列為危害因素,是設計人員和製造商需要謹慎考慮的。《指南》開頭給出了一個廣泛的原則:

機器人的設計目的不應是專門或主要用來殺死或傷害人類;人類是負責任的主體,而不是機器人;要確保能找出某個機器人的行為負責人之可能性

《指南》也聚焦了一些有爭議性的話題。例如,人類與機器人產生情感聯繫是可以的嗎?尤其是當這個機器人本身設計目的,就是為了與小孩和老人互動。

謝菲爾德大學教授 Noel Sharkey 認為,這就是機器人在無意的情況下欺騙人類的例子。機器人是沒有感情的,但是人類有時候並不這麼認為。他指出,最近有一項研究,把小機器人放到一所幼兒園裡,孩子們很是喜愛,並且認為這些機器人比家裡的寵物具有更高的感知能力。

《指南》建議設計者更應關注機器人的透明性,但是科學家們表示這在現實裡很難應用。因為人們無法確切了解人工智慧系統(尤其是深度學習系統)是如何做出決定的。

一個人工智慧系統並沒有用固定的程序來指導它完成任務,它是通過數百萬次的學習和嘗試,才找出成功的解決方法。這種學習和做出決策的過程,有時候是連它的人類設計者都無法理解的。

《指南》裡也提到了機器人的性別和種族歧視問題。這是因為深度學習系統很多都是使用網路上的資料進行訓練,而這些資料本身就帶著偏見。機器人的偏見是會直接影響技術應用的。它會對某些群體的學習更深入,而對另一些群體有所忽視,這在以後的應用中,意味著機器人會「看人說話」。

現在已有的例子就是,聲音識別系統對於女性的理解要弱一些,再比如機器識別白種人的臉更容易,識別黑人的臉更難。長遠來看,在未來的醫療應用中,機器人在診斷女性和少數族群的時候,其專業程度會降低。

Sharkey 教授說:「我們也需要一個機器人黑盒子,可以打開來仔細審查。如果一個機器人表現出種族主義的傾向,我們可以把它關掉,從街上帶回來。」

兩週前,路透社有文章指出,有科學家表示性愛機器人會使人成癮,因為機器人不會拒絕。《指南》也提到了這種「過度依賴機器人」的現象,然而並沒有給設計者一個確切的可遵循的準則,這也是在未來的工作中,需要繼續補充的。


科技賦能創新突圍——愛酷智能科技舉辦 MarTech Salon,為企業創造數據驅動新價值

自 2018 年成立以來,愛酷智能科技深耕 AI 與 MarTech 領域,在行銷科技應用上擁有專業並豐富的實務經驗。MarTech Salon 系列活動旨在創造一個行銷科技交流平台,透過各領域講師及產業先行者的分享,協助企業掌握 MarTech 新趨勢,在數位新浪潮中搶得先機。
評論
圖片來源:愛酷智能科技
評論

愛酷智能科技於 9/29 (三) 舉辦今年第一場 MarTech Salon「用聊天機器人,輕鬆培養忠誠用戶!」,吸引數百位參與者共襄盛舉,包含中小企業主、品牌行銷人、行銷代理商等經理人。活動分享最新 ChatBot 對話式商務趨勢、顧客數據整合技術、會員標籤應用,並解析 AI 與 MarTech 的策略性思維。

圖片來源:愛酷智能科技

行銷 5.0 時代,One ID 科技賦能

行銷 5.0 的時代注重「技術」與「人性」融合的全方位戰略,打造更完善的顧客體驗 (CX, Customer Experience),加上面對資訊的爆炸,企業的痛點在於多渠道破碎資料整合的困難。

透過 One ID 整合消費者與品牌的互動歷程,企業能夠將匿名資料,即網路上的任何瀏覽行為,納入行銷決策的參考依據。愛酷商務解決方案暨夥伴關係經理 Perry Wang 在分享中提到:「One ID 技術追蹤本我、自我、超我外的第四個我,也就是『匿名我』。」

Perry Wang 舉房仲產業應用做進一步解釋,房仲市場成交的關鍵,在於業務服務的精準度,仔細發掘顧客真正的需求,推薦適合的物件。然而,過往消費者經常心口不一,難以取得真正的需求,透過愛酷 One ID 追蹤技術,能將顧客在網頁瀏覽的物件類型、地段、價格數據一次收整,隨著預約賞屋的名單,派送到業務手中,洞察顧客的行為,進而做到房產智慧推薦,提升成交機會。

運用聊天機器人,打造多元運用情境

「對話式商務」之所以能成為現今極具潛力與商機的行銷模式,原因在於品牌透過通訊軟體主動出擊,能創造與消費者間更多元的接觸點及對話機會。愛酷顧客成功經理 Wayne Chen 在講座中分享使用聊天機器人的六大目的:「聰明運用 ChatBot,將能夠提升行銷溝通效率,滿足『會員募集』、『增加品牌知名度』、『協助客服』、『搜集顧客意見』、『推播再行銷』、『引導購物』。」

活動中,來賓針對聊天機器人服務也萌生許多問題,包含如何評估 ChatBot 需求、需做哪些前置準備等。Wayne Chen 建議企業首先應思考創建聊天機器人的目的,例如:提高來客率、會員系統服務建置、業務轉型等;接著分析企業想搜集的資訊、提供給顧客的服務、用科技解決的行銷問題,進而透過創意活動培養忠誠用戶。

會員精準貼標,創造有效互動

投資對話式商務工具、透過創意增粉操作與用戶互動後,分群分眾與需求深度挖掘則是企業下一步應掌握的重點。愛酷行銷經理 Eason Huang 說明:「透過標籤系統,能逐層剖析顧客的行為輪廓,提升溝通內容的精準性。」愛酷智能科技協助顧客從命名規則著手,將標籤分成靜態、動態類型,並加入標籤層級的關係架構,以達到在對的時間,與對的人,溝通對的內容。

Eason Huang 進一步建議,企業在運用標籤系統與用戶互動時,應至少都包含「完善用戶輪廓」、「探勘用戶興趣」、「引導用戶行為」其一目的,「提升營收」僅是結果。不論是透過靜動標籤調查用戶喜好、推進用戶成為會員或是為了下一次的活動佈局,企業都應制定明確的目標以創造真正有效的互動。

從數據整合技術、聊天機器人應用到標籤深度規劃,愛酷智能科技分享 MarTech 最新趨勢,也透過成功案例說明企業如何在疫情下逆勢成長,培養忠誠會員,並達到會員導流,帶動營業額提升。

未來,愛酷智能科技將持續舉辦 MarTech Salon 系列活動,協助企業掌握 AI 與 MarTech 最新趨勢與應用。歡迎追蹤以下渠道,掌握最新資訊:

本文章內容由「愛酷智能科技」提供,經關鍵評論網媒體集團廣編企劃編審。