危險性不容小覷!Sam Altman 出席聽證會:AI 應像核能一樣被監管

OpenAI 執行長 Sam Altman 於星期二出席了美國國會的聽證會,表示支持 AI 受獨立政府機構的監管,並對 AI 被用來傳播假資訊進而影響 2024 美國大選的可能性表擔憂。
評論
WASHINGTON, DC - MAY 16: Samuel Altman, CEO of OpenAI, testifies before the Senate Judiciary Subcommittee on Privacy, Technology, and the Law May 16, 2023 in Washington, DC. The committee held an oversight hearing to examine A.I., focusing on rules for artificial intelligence. (Photo by Win McNamee/Getty Images)
Photo Credit: Getty Images
評論

OpenAI 執行長 Sam Altman 於星期二首次出席美國國會的聽證會,與美議員一同探討政府該如何監管快速發展的 AI 技術。Altman 認為 AI 的影響力可能與印刷機的發明一樣重要,但他也指出技術潛在的危險性。這次聽證會中議員提出了需思考的許多 AI 相關議題,多間外媒也整理了以下幾點重點:

設立獨立政府機構監管 AI 

首先美議員提出政府需要特別設立一專門監管 AI 發展的新機構,且可能須是國際性的,另一名議員則認為獨立的 AI 監管機構可負責發放執照給 AI 公司,設新機構的提議也獲兩黨支持。

Altman 也表示支持並給出三大建議。首先,OpenAI 等公司應該接受獨立於開發者的第三方人員或政府的審查;再者,他也認同在 AI 公司開發能力強大的語言模型前先發放執照的提議;最後,政府應為 AI 設安全規範以及能力測試,像確保 AI 提出正確資訊的能力。

Altman 認為 AI 的規範應是跨國性的的而非僅限在美國國內,看待 AI 的方式應如同國際原子能機構(IAEA)對待原子能一樣嚴肅謹慎。

AI 技術與著作權

第二個議題是 AI 生成內容的著作權該歸誰,以及大型語言模型是否侵害到訓練資料原創作者的權益,Altman 對此表示,使用者應該要有權選擇不讓自己的數據被用於訓練 AI 模型。

AI 對 2024 美總統大選的潛在影響

另一個議員關注的問題是 AI 對 2024 年美國總統大選可能產生的影響力,他指出 AI 恐具備改變選民觀點的能力,甚至可能提供有關於選舉本身的錯誤資訊。Altman 也認同這項隱憂,他表示 AI 操縱和說服人類想法,並能提供一對一的假訊息的能力是他最擔心的問題之一。他也呼籲在 AI 生成圖像這一領域,創作者應清楚表明圖像為生成的,而不是真實拍攝的。

社群平台的演算法曾對 2016 年美總統大選造成很大的衝擊,不過另一位參與聽證會的 AI 學者 Gary Marcus 則指出在討論科技政策時,應將生成式 AI 與社群媒體平台的演算法分開討論,Altman 也強調 OpenAI 的 AI 模型與社群平台不同,其所追求的並非要最大化用戶的互動率。

OpenAI 產品營利模式、對人類工作的影響

聽證會其他討論的內容包括,Altman 表示他對 AI 產品加入廣告的想法並不完全排斥,但更偏好採用訂閱模式;而 AI 對人類工作的衝擊,他表示自己確信 AI 會對經濟造成影響,包括取代工作和導致部分領域的裁員。

資料來源:POLITICOBBC路透社CNBCTimes

責任編輯:Jocelyn
核稿編輯:Sisley

加入 INSIDE 會員,獨享 INSIDE 最精采每日趨勢電子報,未來還有會員專屬內容。 點擊立刻成為會員

延伸閱讀:

 

本文初稿為 INSIDE 使用 AI 編撰。

最新發展:


2023 資安產業日:新秀育成、跨域合作,資安培育基地在沙崙

11 月 24 日,數位發展部數位產業署於沙崙資安服務基地舉辦「2023 資安產業日」,結合產業研討、資安講堂、企業攤位展示以及互動遊戲等形式,創造資安產業與產業資安交流媒合的舞台,匯聚產官學研等領域,打開臺灣資安新氣象。
評論
Photo Credit:數位發展部數位產業署
Photo Credit:數位發展部數位產業署
評論

疫情後,全球數位化的腳步更加迅速,網路惡意攻擊形式也不斷翻新,對臺灣造成許多資安威脅。因此,政府將資安產業列為國家重要產業之一,2021 年底於臺南沙崙啟用的「ACW SOUTH 數位產業署沙崙資安服務基地」(下稱沙崙基地),就以推動資安產業發展、提升產業資安防護能量、推動產業資安、創造資安跨域合作為核心使命,積極推動人才育成、驗測實證產業技術、跨域合作等計畫,打造臺灣指標性的資安場域。

啟用至今,沙崙基地已培育超過 2300 人次的資安人才、已開發 23 套攻防演練劇本,並協助 23 家次廠商完成 33 項次資安產品驗測。為進一步凝聚臺灣資安產業,上週五(11/24)數位發展部數位產業署於沙崙基地舉辦「2023 資安產業日」,結合產業研討、資安講堂、企業攤位展示以及互動遊戲等形式,創造資安產業與產業資安交流媒合的舞台,匯聚產官學研等領域,打開臺灣資安新氣象。

2023 資安產業日盛大開幕:臺廠深耕、國際肯定,見證臺灣資安領先全球

今年資安產業日聚焦於臺灣IT(資訊科技)、OT(營運技術)領域的資安研發、供應鏈聯防、產品驗測及人才培訓等亮點成果。數產署也在開幕儀式中加入巧思,展現各界深耕資安技術、提升產業資安韌性的歷程,並透過授贈資安新秀榮譽獎狀,凸顯沙崙基地攜手產業共育新秀的不遺餘力。此外,為了促進資安產業與產業資安進一步的交流與對話,也邀集資安領域專家,分享 AI 協防、公私協力及 CMMC 等最新資安趨勢;並於主會場中透過 23 家攤位展示,構築產官學研之間的交流平台,促進研發技術及創新服務的產業能量流動。

開幕式的成果短講中,榮獲 2023 年全球百大科技研發獎 R&D 100 Awards 的代表黃鼎傑組長表示「工控資安近年來逐漸受到產業重視,ICSentry 工控資安威脅分析平台榮獲 R&D 100 Awards 的肯定,代表臺灣資安創新研發能量受到國際的注目與肯定。」對所有為資安產業奉獻心力的人來說,這座獎項是國際對臺灣資安研發能量的肯定,也鼓舞了在資安道路上持續努力前行的產業夥伴。綜觀今年臺灣資安的成果,數位發展署林俊秀副署長讚嘆,「臺灣資安真的是十年磨一劍。如今能夠收穫如此亮眼的成果,都是奠基於許多人多年來的共同努力,才終於走到今日這一步,真正把臺灣資安發揚光大。」

為產業注入新活力:業師領銜、接軌產業,從理論到實務的新秀實戰

不過,資安產業若要持續發展,帶來更多的創新技術及服務,後進的人才培育絕對是不可或缺的關鍵。因此,今年沙崙基地也延續去年沙崙資安新秀大賽「育才」的核心精神,辦理「2023 沙崙資安新秀媒合培育計畫」,攜手產業師資,幫助對資安領域有熱忱、有興趣的新秀們找到學習的環境與資源,更上一層樓。

開幕式中,數位發展部唐鳳部長也蒞臨現場,親自頒贈今年度入選參與資安新秀媒合培育計畫的企業與同學們榮譽獎狀。授贈前,唐鳳部長也在致詞中肯定「企業出專題,學生來解題」的媒合模式。資安新秀代表陳躍心同學表示,計畫過程最特別的是接受業界導師的專業指導,不僅加深他們對資安理解,也在過程中體會到理論學習和產業實務的差異,對未來的課業學習及職涯發展都影響深遠。下午時段的新秀快講活動中,新秀們更充分展現對於資安領域的熱情、以及對業師輔導的感謝與肯定。

開幕式結束後,新秀們在「Testbed 資安應用多元展區」展出此次的專題成果,同時亦將想傳達給大眾的計畫成果資訊,透過有趣的闖關遊戲進行推廣;除此之外,現場還有「新秀成果導覽活動」,由專人詳盡地介紹沙崙計畫的發展脈絡與成果亮點,並帶領觀眾逐關導覽,深入認識不同新秀隊伍在培訓過程的點點滴滴:例如來自長庚大學資管系的「什麼時候要吃藏壽司」隊,運用叡揚資訊提供的培訓平台及漏洞檢測工具,開發出具備安全框架的「智慧安全會議室管理系統」;以及跨校組隊的「吃飯皇帝大_白飯北科大」隊,透過菱鏡提供的硬體設備進行實作,進行資安攻擊的觀測與分析,並且在專題期間偵測到一起真實的 DDos 攻擊。

Photo Credit:數位發展部數位產業署

有趣的是,分享過程中新秀們不約而同的表示,參與計畫最大的收穫是他們從一次次的挫折與困難中,領悟到實作與理論的差距。而當自己從單純解題、答題的「解題者」,進階為找到問題、解決問題的「出題者」後,他們對資安領域也產生更多熱情。另一方面,參與育才的企業導師也相當肯定新秀們的認真,他們學習過程的衝勁和態度,就是成功解題的關鍵,也期待未來沙崙基地的人才培育計畫能夠更大、更廣,為臺灣資安產業注入更多活水。

新秀人培 x 產業對話:臺灣資安的關鍵節點

開幕式時,唐鳳部長曾提到,「數位部為了彌平『資安產業』和『產業資安』的距離,長期致力於推動各項資安計畫,以期未來新的服務或需求出現時,雙方能在毫無知識隔閡的狀態下連結,最大化技術迭代的速度。」而 ACW SOUTH 數位產業署沙崙資安服務基地就是兩者交會的關鍵節點,不只培訓更多產業資安人才,同時挖掘更多潛在的新秀投入資安產業,也促成臺灣各界企業的相互交流,啟發越來越多的正向循環。也期許未來在數位發展部數位產業署的帶領下,沙崙基地能匯聚更多資安人才,凝聚產業資安能量,攜手產官學研朝更靈活、多元的資安未來邁進。

(數位發展部數位產業署廣告)