力防 AI 危害人類,霍金、馬斯克力推 23 條人工智慧原則

特斯拉執行長 Elon Musk:「人類正走向超級人工智慧時代,但也或許是人類文明的結束。」
評論
Photo Credit: Reuters
評論

本文來自合作媒體 雷鋒網 ,INSIDE 授權轉載

「一個好的未來是什麼樣子?」特斯拉執行長伊隆·馬斯克(Elon Musk)在加州阿西羅瑪的 Beneficial AI 會議上表示。「我們正走向超級人工智慧,但也或許是人類文明的結束。」全球 2000 多人,包括 844 名人工智慧和機器人領域的專家聯合簽署了 23 條 AI 發展原則,呼籲全世界的人工智慧領域在發展 AI 的同時嚴格遵守這些原則,共同保障人類未來的利益和安全。

物理學家史帝芬·霍金和特斯拉執行長伊隆·馬斯克本週公開力挺一系列原則,用以確保擁有自主思考能力的機器保持安全發展,並符合人類權益運作。

機器正逐年變得更加智慧,研究人員相信他們在未來幾十年內可以擁有人類智慧水準。 一旦他們達到這個程度,他們就可以開始改善自己,並創造其他智慧,甚至更強大的 AI,牛津哲學家尼克·博斯特羅姆和其他幾個專家認為,應當稱其為超級智慧。

2014 年,馬斯克警告說,人工智慧有可能「比核武器更危險」,而霍金在 2014 年 12 月說,人工智慧可能會終結人類。 但它也是雙刃劍。 AI 也可以幫助治癒癌症及減緩全球暖化。

2017 年 1 月舉行的 「Beneficial AI」會議 為基礎上建立起來的「阿西羅瑪人工智慧原則」,名稱來自這次會議的地點 – 美國加州的阿西羅瑪(Asilomar)市,確保 AI 為人類利益服務。

本次會議參加者大多是業界最富盛名的領袖,如 DeepMind 執行長 Demis Hassabis 和 Facebook AI 負責人 Yann LeCun 等。全球 2000 多人,包括 844 名人工智慧和機器人領域的專家已聯合簽署該原則,呼籲全世界的人工智慧領域在發展 AI 的同時嚴格遵守這些原則,共同保障人類未來的利益和安全。完整名單可以見 futureoflife.org

這系列原則目前共 23 項,分為三大類:

1、科研問題

AI 研究的目標應該是「有益的智慧」。 它應該防止 AI 系統被駭客入侵。 它還應該解決「維護人類的資源和理想」。法律應該「跟上 AI 的步伐」,應該考慮人工智慧「價值觀」的問題。 此外,應該努力使研究人員和法律/政策制定者合作,並且應該「在 AI 的研究人員和開發人員之間培養整體的信任和尊重文化」。

2、倫理和價值觀

應根據原則以一種安全和透明的方式開發 AI。 自主系統應必須可以解釋它的行為。 創建 AI 系統的人必須對這些系統的使用方式承擔責任。 自主系統的設計應反映人類的價值觀。 人們應該有機會控制這些系統共享和使用數據的方式。AI 應該盡可能使更多多的人受益,並應該為人類做出貢獻,而不是僅僅得益於某些組織或個人。有的國家在競爭建立智慧的自主武器 ,這是很大的潛在危害,應該主動積極避免。

3、長期問題

我們不知道 AI 會有什麼能力,應該針對「災難或風險」提前規劃。

「人工智慧已經為世界各地的人們提供了日常使用的有益工具,」生命未來 (Future of Life) 網站上聲明,「它的持續發展,須以後文原則為指導,在未來幾十年甚至幾個世紀,為幫助人類更加強大。」

會議上,馬斯克坐在 Hassabis、Bostrom、Tallinn 和其他 AI 領域領導人組成的專家組中。 他們每個人都輪流回答他們所認為的超級智慧,Bostrom 在一篇學術論文中把它定義為「一種比每個領域最優秀的人類智慧還要優秀的智慧,這包括科學創造力、一般智力和社會技能」。

當小組被問到超級智慧是否可能,每個人都表示了十分的肯定,除了馬斯克,當他說「不」的時候應該也是在開玩笑。可見,這些大佬都認為超級智慧的發生是遲早的事情。有趣的是,當小組被問到是否期待超級智慧出現時,回答開始出現矛盾了,有四個人思慮再三覺得「這很難說」,而馬斯克說,這「取決於它到底是什麼類型的智慧了。」

「阿西羅瑪人工智慧原則」是開發安全 AI 的重要指南,它們獲得 AI 社群和廣大從業者的廣泛支持。路易斯維爾大學網路安全實驗室主任 Roman Yampolskiy 說:「從簽署名單數量可以看出,這些原則為人工智慧安全這個年輕的領域提供了可信度,但它仍然需要面對許多對否認 AI 風險的人,他們仍舊拒絕相信設計不當或惡意的 AI /超級智慧可能給人類帶來巨大風險」。

阿西羅瑪人工智慧 23 原則原文

科研問題

1. 研究目標:人工智慧研究的目標不是為了創造不受指揮的智慧,而是有益的智慧。

2. 研究經費:對人工智慧進行投資的同時,要保證有經費用於研究如何有益地使用人工智慧,研究包括電腦科學、經濟學、法律、倫理以及社會研究中的棘手問題,例如:

  • 如何使未來的人工智慧系統變得高度穩健,即系統會執行我們所想的而不會發生故障或被入侵?
  • 如何通過自動化提升人類繁榮程度,並同時確保大眾的資源和意志?
  • 如何升級我們的法制體系使其更公平高效,能夠跟得上人工智慧的發展速度,並且能控制人工智慧帶來的風險?
  • 人工智慧該與什麼樣的價值體系保持一致?它該有怎樣的法律和倫理地位?

3. 科學與政策的連結:在人工智慧研究員和政策制定者之間應該要有富有建設性的和健康的交流。

4. 科研文化:在人工智慧研究員和開發者中應該要培養起一種以合作、信任與透明為基礎的文化。

5. 避免不必要的競爭:人工智慧開發團隊之間應該積極合作,避免有人鑽空檔導致安全標準降低。

倫理和價值

6. 安全性:人工智慧系統在它們整個的運轉週期內應該是安全可靠的,並且能在可應用的和可行的地方被驗證。

7. 失敗透明性:如果一個人工智慧系統造成了損害,那麼造成損害的原因要能被確定。

8. 審判透明性:任何自動系統參與的司法決策都應提供令人滿意的解釋,可被有能力的人類監管機構審核。

9. 負責:高級人工智慧系統的設計者和建造者,在道德影響上,是人工智慧使用、誤用和動作的利益相關者,並有責任和機會去塑造那些影響。

10. 價值觀一致:高度自主的人工智慧系統應該被設計,確保它們的目標和行為在整個運行過程與人類的價值觀一致。

11. 人類價值觀:人工智慧系統應該被設計和操作,以使其和人類尊嚴、權力、自由和文化多樣性的理想一致。

12. 個人隱私:人們應該擁有權力去瀏覽、管理和控制他們產生的數據,考慮到人工智慧系統有分析和使用那些數據的能力。

13. 自由和隱私:人工智慧在個人數據上的應用,必須不能不當剝奪人們真實或主觀的自由。

14. 分享利益:人工智慧科技應該惠及並賦權最大可能的多數人。

15. 共同繁榮:由人工智慧創造的經濟繁榮應該被廣泛地分享,惠及全人類。

16. 人類控制:人類應該來選擇如何委派人工智慧系統去完成人類選擇的目標。

17. 非顛覆:高級人工智慧被授予的權力應該尊重和改進健康的社會所依賴的社會和公民秩序,而不是顛覆。

18. 人工智慧裝備競賽:致命的自動化武器的裝備競賽應該被禁止。

更長期的問題

19. 能力警惕:我們應該避免關於未來人工智慧能力上限的假設,但這一點還沒有共識。

20. 重要性:高級人工智慧能夠代表地球生命歷史的一個重大變化,我們應該用相稱的警覺心和資源來管理。

21. 風險:人工智慧系統造成的風險,特別是災難性的或有關人類存亡的風險,必須能用相應的努力所管理和減輕。

22. 遞迴的自我提升:人工智慧系統被設計成能夠以一種可以快速提升品質和數量的方式進行自我升級或自我替代,但這種方式必須受制於嚴格的安全和控制標準。

23. 公共利益:超級智慧的開發是為了服務廣泛認可的倫理理想,並且是為了全人類的利益而不是一個國家和組織的利益。


運動科技新革命: IoT 結合數據分析,奧運跆拳銅牌羅嘉翎國手養成之路揭秘

運動科技為近年運動產業顯學,現在賽場上,不僅較勁各選手的體力及技術,更考驗各國科學技術導入,輔佐選手的程度。有效運用運動科技,不僅可避免傷害外,更能提升訓練品質,提升選手佳績。
評論
Photo Credit: INSIDE
評論

今年 8 月剛落幕的 2020 東京奧運,台灣選手獲得 2 金 4 銀 6 銅的 12 面獎牌,不僅寫下史上最佳參賽成績,且分別在 10 種不同項目奪牌,令各界大為驚艷。近年健康意識抬頭,下班後會自發去運動的人越來越多,種種現象顯示著台灣的運動風氣已逐漸成熟,而運動科技正是背後的隱形推手。

科技部致力推動產學界合作,結合運動科學、智慧科技與數據分析,輔助選手精準練習,用最有效率的方式提升表現,讓運動訓練不再是土法煉鋼。運動科技的應用也能幫助一般人,在日常生活中更聰明更健康的做運動。由於商機龐大,運動科技早已成為各國在運動競技賽事與產業發展積極佈局的新型態競爭場域,一起來看看它為台灣體育帶來了什麼樣的改變吧!

透過科技幫助運動選手了解自身狀態,穩扎穩打求進步

年僅 19 歲的跆拳道選手羅嘉翎,首戰奧運便打敗多國好手,一舉拿下銅牌。從小在道館長大,幼稚園就跟著爸爸、哥哥練習跆拳道,小學開始在國內比賽嶄露頭角,國二首次參加青少年國際賽事後更不斷奪金。然而,初生之犢的她,卻是好不容易才站上奧運這個舞台。

「小時候的確身高有優勢,但剛轉去成人組時還滿挫折的」,帶著青少年時期的亮眼成績,羅嘉翎在高一下加入跆拳道國家隊,被延攬至國家運動訓練中心(以下簡稱:國訓中心)接受國手培訓,「裡面都是大學的學長姐,訓練強度很高,剛進去時很不適應,那段時間比賽成績也不理想,晚上都會打電話給媽媽哭訴。」

Photo Credit: 行政院科技會報辦公室
Photo Credit: INSIDE

羅嘉翎分享,國訓中心的訓練方式很有系統,除了完備的訓練器材,還會透過科學儀器評估選手的運動表現,也定期使用生化檢測儀器,每月至少1次檢測疲勞度與血氧量,維護選手的身體健康。

「運動科技可以幫助我了解自己現在的狀態,還有需要加強哪些地方」,羅嘉翎表示,選手的日常就是不斷練習、調整好狀態,透過數據分析可以清楚知道自己的強弱項,「像我需要加強肌力,這樣訓練有方向,進步也會比較穩。」

沒有因挫折放棄跆拳道,羅嘉翎持續在國訓中心自我精進,再加上慢慢調整心態,她逐漸適應了高強度的訓練,也找回了享受比賽的初衷。

事實上,台灣自 2012 倫敦奧運以來,就沒有在跆拳道項目拿過獎牌,羅嘉翎也坦承因此感受到不小的壓力,「拿到奧運資格時我爆哭,但我不是被看好奪牌的選手,就想說放鬆去打。」沒想到放下得失心,反而幫助自己贏得了銅牌的好成績。

國立體育大學技擊運動技術學系副教授王翔星分享,針對跆拳道選手的檢測主要有3方面,包括以「線性位移偵測器」檢測選手連續 3 次跳躍的爆發力與穩定度,評估賽場上攻擊動作的力量輸出率;以及透過「測力板」檢測 50 毫秒發力率( RFD,Rate  of Force Development ),以觀察選手腳蹬地出發與踢擊到對手瞬間的力量表現;還有「慣性感應器」則是用來檢測選手的反應能力與速度。

Photo Credit: 王翔星

「現在的訓練方式跟以前差很多,得分的方式不同,教練的觀念也需要調整。」過去也曾是跆拳道選手的王翔星說,以往求勝心切的選手容易練到渾身是傷,現在藉由運動科技的輔助,能精準掌握練習進度,避免過度訓練、減少運動傷害,是更有效率的訓練方式。

Photo Credit: INSIDE

王翔星也表示,培育一名優秀的選手相當不容易,這幾年開始將運動科技帶進國、高中,就是希望能讓年輕選手儘早接觸到運動科技的專業訓練觀念,避免選手在早期生涯就受到嚴重的運動傷害而留下遺憾,未來能夠更上一層樓。

產業跨界結合,讓運動科技深入全民健康生活

目前 5G 正式邁入商業化,宅經濟當道,運動科技的應用也有了更多可能性。「台灣科技業的研發能量強大,運動產業也很有國際競爭力,我認為應該能結合兩者的強項來解決許多問題,例如居家健身沒人指導,該怎樣才不會受傷。」國立臺灣師範大學運動競技學系研究講座教授相子元表示。

相子元主修生物力學出身,被譽為台灣運動科技教父,同時擔任國訓中心運動科學小組總召集人。他很早就投入運動科技與產業結合的研究,作為科技部「精準運動科學研究專案計畫」的執行團隊之一,目前團隊已開發出將壓力感測科技應用於智慧鞋、科技運動襪、機能衣、自行車功率表等產品。

Photo Credit: INSIDE

相子元認為,運動科技商品在亞洲市場很有潛力,目前台灣主要發展在 3 大面向:競技運動,如跆拳道、舉重、射箭;職業運動,如棒球、籃球;全民運動,如自行車、慢跑等。舉例來說, LPS(Local Positioning System ,局部定位系統)運用在團隊運動的訓練上,能讓教練、選手清楚知道跑位陣式,取代傳統手寫戰術,目前 NBA 美國職籃、國際足總FIFA的隊伍也都採用此技術。

Photo Credit: 相子元

台灣選手在東奧打出亮眼成績值得喝采,相子元期待未來運動科技能協助更多選手精準運動、達到更好的表現,放眼 2024 巴黎奧運,並幫助更多人養成規律運動的習慣。接下來行政院主辦的「台灣運動x科技產業策略( SRB )會議」也即將登場,希望加深運動與科技產業的對話交流,讓運動科技越來越深入全民的生活。

SRB策略會議暫擬4大議題:

  1. 運動×科技產業升級創造新價值
  2. 智慧育樂創新服務建立營運新模式
  3. 融合科研成果與創新科技發展智慧新應用
  4. 台灣智慧育樂跨域環境整備

行政院科技會報辦公室 廣告