質疑AI再製仇恨語言 非裔科學家被Google解僱 - Plataforma Media

質疑AI再製仇恨語言 非裔科學家被Google解僱

非裔人工智能科學家格布魯(Timnit Gebru)因不肯撤回一份質疑AI技術可能複製人類種族偏見的研究而被Google解僱,近3000名員工、學者及支持者網上聯署聲援,要求Google解釋事件並收回解僱決定。

 埃塞俄比亞裔美籍研究員格布呂,是Google Ethical AI 人工智能倫理道德研究團隊的主管。她上周在Twitter上發文透露收到解僱通知,早前她曾在公司內部電郵群組批評Google高層打壓其研究,又無視女性員工比例太低的意見,令邊緣群體被噤聲。

綜合美國媒體報道,格布魯與其他學者合著的論文,旨在探討Google及其他科技公司開發的AI語言模型可能存在的風險。AI是學習人類行為的一種工具,在模仿過程中有可能複製仇恨語言和社會偏見,加深既有的歧視結構。在內部審查過程中,Google管理層曾要求格布魯撤回論文的署名。

AI部門主管Jeff Dean否認指控,指格布魯的研究報告不夠嚴謹,未有達到公開發表的標準,而且當初是她威脅要辭職,所以Google並沒有開除她。

Google員工隨即發起網上聯署聲援布格魯,痛批Google的做法充滿種族歧視,要求解釋高層審查獨立研究的理據,撤回不合理解僱的決定。目前有1400名員工、1500名學者及支持者參與聯署。Google公司內部亦組成了一群罷工團隊,控訴資方對性騷擾和性別歧視處理不當。

在加入Google之前,布魯格已經是業界著名的科學家,同時也是非牟利組織「Black in AI」的聯合創始人。該組織旨在增加有色人種在AI研發領域的影響力和話語權,扭轉科技研發過程中可能再製的種族偏見。

2018年她有份參與的一項研究顯示,AI人面識別技術對膚色較深的女性辨識錯誤率比其他人更高,因為參與研發和採集數據的多數是白人。論文被學界廣泛引用。 

Este artigo está disponível em: Português

Related posts
巴西生活

巴西調查顯示58%受訪者反對合法墮胎

巴西社會

疫下巴西女性更難重返職場

國際巴西

議事大堂公然伸狼爪 巴西議員提告

國際社會

體育還體育?美國奧委會不再禁止和平抗議活動

Assine nossa Newsletter