裁掉數十名人工編輯後，微軟的新聞 AI 翻車了

前段時間，微軟解僱了約 50 名 MSN 新聞編輯，同時打算用日漸成熟的 AI 系統取而代之的訊息引發廣泛討論，不少編輯同事都擔心自己的飯碗將來也會被人工智慧搶走。然而事情才過去沒幾天，微軟的 AI 就翻車了。

據外媒報道，近日，微軟新的人工智慧釋出軟體推送了一篇文章，文中內容談到種族主義對一位英國混血女歌手 Jade Thrilwall 的個人影響，但文中的配圖卻是 Jade 的隊友 —— 另一位混血女歌手 Leigh Anne Pinnock 的照片。顯然，該 AI 系統在人臉識別方面犯下了錯誤。

（右 1 為 Jade Thirlwall，右 2 為 Leigh Anne Pinnock）

Jade Thirlwall 是英國女子組合 Little Mix 的一員，近期在一檔與“Black Lives Matter”相關的 BBC 訪談節目中，Jade 分享了自己在英格蘭東北部南希爾茲一個以白人為主的社群環境下成長遭遇的不平等對待。她的外祖父母來自埃及和葉門，而她因為阿拉伯血統而受到同齡人的欺負。

（Jade Thirlwall）

Jade 的這篇採訪稿由《獨立報》報道，並被微軟旗下的 MSN.com 網站轉載。該網站收錄了來自全球各地的優質內容，內容原本由 AI 系統輔助數十名人工編輯混合校審，然後發表。MSN.com 網站過去有數十名人工編輯策劃，他們負責挑選故事、新聞和圖片在網站上發表，直到上個月微軟宣佈裁掉約 50 名人工編輯。微軟認為，原本輔助編輯們完成這一系列工作的 AI 釋出系統完全有能力單獨勝任這項工作。

外界將 MSN 的這一錯誤歸咎於微軟的 AI 演算法不可靠。值得一提的是，《衛報》媒體編輯吉姆·沃特森（Jim Waterson）聲稱，MSN 正試圖阻止 AI 編輯選擇《衛報》上這篇出現配圖錯誤的文章，MSN 的工作人員也被告知等待《衛報》這篇文章的發表，並嘗試從網站上手動刪除它，因為微軟的 AI 機器人編輯很有可能會認為這是 MSN 讀者感興趣的內容。

而微軟方面則否認這一錯誤是由於「不可靠」的人工智慧造成的，稱其是自動釋出軟體的一項新功能的邏輯出了問題。“雖然消除偏見和提高準確性仍然是人工智慧研究的一個重點領域，但這一錯誤並不是這些問題造成的。”微軟的一位發言人在週二的一次採訪中解釋說，“只是我們在測試中的一個圖片替換功能出了一些問題，但我們很快關閉了這一功能，並修正了圖片的錯誤。”

然而，這個小小的誤會並沒有被忽視。Jade Thirlwall 本人在社交平臺上發帖指責了 MSN 的錯誤：“這件事發生在 Leigh Anne Pinnock 和我身上已經很多次了，一直以來都有媒體把我們弄混，這幾乎成了一個惡作劇。你們不能在一個團體的四個成員中區分出兩個有色人種的女人，這讓我很生氣！”

事實上，目前的 AI 人臉識別技術確實在膚色、性別方面存在一定的偏見。有研究表明，微軟的 AI 人臉識別技術雖然準確率已經接近 100%（僅限於白人男性），但在識別膚色較深的人種時準確率仍只有 79.2% ~ 94%。而就在兩天前，另一 IT 巨頭 IBM 宣佈放棄所有人臉識別相關技術業務，指出人臉識別技術存在膚色、性別偏見，旨在聲援日漸加深的種族歧視問題。值得一提的是，IBM 的 AI 人臉識別技術在識別膚色較深的人種時準確率只有 65.3% ~ 88%。

近期，隨著 “Black Lives Matter” 運動在歐美地區的迅速發酵，其影響力也輻射到了包括 AI 在內的技術領域。比如有國外專家認為程式語言中的主-從（master-slave) 關係是一種壓迫性的比喻，Blacklist 等類似名詞包含對黑人的歧意等。包括谷歌在內的一些網際網路公司已經開始著手處理這些問題，主動更改專案程式碼中的一些歧義描述，儘管這些程式碼語句已經被人們沿用了數十年。