路透社:Google 審查 AI 論文,要求作者不得負面描述

Google 高階主管曾審查一項關於 AI 個人化內容推薦的研究報告,並告知作者要盡量用「積極語氣」(a positive tone)來寫。等報告刊出後,原本內文提及的種種擔憂都不見了。
評論
▲Photo Credit: Shutterstock/ 達志影像
▲Photo Credit: Shutterstock/ 達志影像
評論

12 月初 Google 因不當解雇 AI 倫理學家 Timnit Gebru 而引發爭議,沒想到近日卻又被外媒爆出今年 6 月早就通過「敏感主題」審查方案,要求研究報告作者不得用負面字眼描述他們的技術應用或產品。

Google 建議作者用「積極語氣」撰寫

根據《路透社》報導,有 8 名現任、已離職員工表示,Google 今年就對論文審查再新增一道關卡,Google 官方甚至會干預論文審查。例如, 今天夏天一位 Google 高階主管審查一項關於 AI 個人化內容推薦的研究報告後,卻特地告知作者要盡量用「積極語氣」(a positive tone)來寫。

外媒取得該篇研究報告的初稿,當時內文提到這樣的 AI 可能會促進假資訊、歧視性語言,也容易因內容多元化不足導致出現政治兩極化(political polarization)等等擔憂。

但等到該篇研究報告正式出刊後,內文卻變成該系統能促進「準確的資訊、平等以及多元化的內容」(accurate information, fairness, and diversity of content),而原本提及的種種擔憂通通不見。

學術界:擔憂論文審查干預

據了解,類似這樣的「官方審查要求」今年已經發生至少三次。而科學家 Margaret Mitchell 則擔憂,如果科學家依據專業知識來研究特定主題後,卻因為 Google 官方因素而無法發表論文研究成果,就代表科學研究面臨嚴峻的審查干預。

本月初,Google 就因為不當解雇 AI 倫理學家 Timnit Gebru,而引發內部員工和 AI 科學家連署抗議。那時 Timnit Gebru 的研究報告指出 AI 可能因為模仿人類偏見而產出仇恨言論或偏見語言;但 Google 官方卻不接受這樣「負面描述」的論文內容,雙方談判不成後導致 Timnit Gebru「被離職」。

當時雖然執行長 Sundar Pichai 有發給全體員工內部信件,但信中並沒有針對 Timnit Gebru 事件道歉,只針對「這件事在公司內部埋下不信任的種子」而道歉,顯然是一封「不道歉的道歉信」。

而 Google 官方至今拒絕針對此事回應。

核稿編輯:Anny

延伸閱讀: