許多矽谷 AI 新創被爆:他們請了人類來假裝人工智慧

華爾街日報曝光了 Google 的 Gmail 事件,但也暴露了不少科技創業公司的醜事:聘請人類員工來假裝人工智慧/演算法。
評論
評論

本文來自合作媒體 iFanr,INSIDE 授權轉載

如何創建一家人工智慧創業公司?

  • 請一群領最低工資的人來假裝人工智慧;
  • 等待真正的人工智慧被創造出來。

Readme.io 創辦人 Gregory Koberger 曾在推特上這麼說。雖然這個評論是在 2016 年發佈的,但如今仍有不少公司這樣做。

上周,《華爾街日報》曝光了 Google 的 Gmail 事件,指出 Google 允許部分合作方閱讀用戶 Gmail 中的郵件內容。在披露郵件安全問題的同時,這篇報導也暴露了不少科技創業公司的醜事——聘請人類員工來假裝人工智慧/演算法。

報導指出,加州聖荷西的創業公司 Edison Software 承諾為消費者提供一項「智慧回覆」功能,主要基於用戶原有郵件內容,通過演算法生成建議回覆。問題是,由於用來訓練演算法的數據不足,演算法表現不佳。

於是,這家公司讓兩位 AI 工程師開始大量閱讀用戶郵件(用戶個人資訊經過編輯),並對演算法生成的回覆進行手動調整修改。

《衛報》指出,Edison Software 遠非第一家被曝出用人工替代機器 / 人工智慧的公司。

2008 年,名為 SpinVox 的公司被 BBC 曝出用人類員工來聆聽語音留言,並轉錄為文字資訊,並沒有像他們宣傳那樣,用機器和技術來進行識別。

2016 年,彭博社報導指出,每天,一大群人都會花費 12 個小時假扮成 X.ai 和 Clara 公司的聊天機器人,通過和用戶聊天,為他們提供行程安排等服務。

據報導,由於工作無聊至極,這些假裝成聊天機器人的員工說,他們真希望機器能夠取代他們。

你能模擬出特定產品的終極體驗。很多時候,當你遇到一個聲稱是 AI 的產品時,背後其實都坐著真正的人類員工,而不是演算法。

Alison Darcy 說,她是心理健康輔助聊天機器人公司 Woebot 的創辦人。在她看來,要訓練出一個可用度高的人工智慧,往往需要超大量的數據。但在投入資本前,設計師會想知道這產品到底有沒有市場,所以就用人類來代替了。

用 Gregory Koberger 的話來說,這就是「用人類建造的人工智慧原型」。

不過,Darcy 堅持自己公司並沒有像其它公司一般隱瞞客戶,因為他們作為心理咨詢師,有對病人坦誠的職業原則。

對於大部分人來說,科技公司用人類替代原本承諾的機器服務,最大隱患在於個人隱私安全問題。

2017 年,一家為用戶提供業務支出管理的公司 Expensify 承認,他們的確聘請了人類員工來幫忙識別並轉錄一些收據上的內容,即便他們一直聲稱這是公司「智慧識別技術(smartscan technology)」的功勞。

據了解,Expensify 通過亞馬遜 AWS 的眾包平台 Amazon Mechanical Turk 把這些工作外包出去。

不知道 Expensify SmartScan 的用戶知不知道是我們在轉錄他們的收據呢?我現在正在看著某人的 Uber 收據,上面寫著他的全名,起始和終點地址。

Rochelle LaPlante 在推特上曝光。他是「零工經濟(gig economy)」的倡導者,同時,也是接到 Expensify 工作的其中一人。

LaPlante 認為這對零工來說,也會有情緒上的抵觸:「我們感覺自己被推到幕後,而且我們的勞動還被用來欺騙其他消費者。」他對於這種欺騙消費者的公司很反感,認為它們「不誠實和滿口謊言,我可不想要這種公司的服務。」

畢竟,誰會願意找一家騙你的公司來用?