如何減少人工智能中的性別偏見？

人工智能（AI）正以前所未有的速度重塑世界，然而，在推動進步的同時，這份強大的科技力量卻可能成為固化甚至加劇社會性別偏見的“隱形推手”。如果人工智能的數據來源帶有刻板印象和性別偏見，而開發者對此視而不見，那么算法將進一步擴大數字領域的不公平鴻溝。

2021年，加州大學伯克利分校性別與領導力平等中心（Berkeley Haas Center for Equity, Gender and Leadership）對不同行業的 133 個人工智能系統進行了分析，發現約 44% 存在性別偏見，25% 同時存在性別與種族偏見。

那么，我們該如何在人工智能產品開發和應用過程中，最大程度地減少性別偏見呢？

什么是人工智能帶來的性別偏見？

我們為什么需要重視它？

人工智能模型通過算法處理海量數據，使計算機能夠比人類更高效地完成復雜任務。人工智能性別偏見可以理解為：人工智能學習了帶有偏見、不全面的數據，按照性別給人“貼標簽”，做出缺乏客觀性的決策。

想象一下，人們用過去的招聘案例訓練人工智能系統。如果這些案例帶有有意或無意的偏見，比如總是呈現男性科學家或女性護士，那么系統很可能會推斷出男性和女性“更適合”某些特定角色，并在篩選簡歷時帶有傾向性。

當應用于醫療領域的人工智能系統只由男性開發，并且使用的訓練數據主要來自男性時，如果女性使用這類系統診斷疾病，就有概率會得到不準確的結果，因為人工智能并不了解女性可能呈現的不同癥狀。

2018年，亞馬遜下架了一款AI招聘工具，因為它偏好男性的簡歷，對包含“女性”一詞的簡歷進行降分。多家企業的圖像識別系統也被發現難以準確識別女性，尤其是有色人種女性，這種誤識別不僅會限制機會和多樣性，還可能在執法和公共安全領域引發嚴重后果。

難以準確識別女性的人工智能系統 ?UN Women

當訓練數據和模型設計固化性別刻板印象時，“生成式AI”更易輸出歧視性內容。如果偏見驅動的技術被濫用于深度偽造、換臉、網絡跟蹤或操縱輿論，不僅侵犯女性的隱私與安全，也削弱她們在公共空間的參與權。

那么，我們如何減少人工智能系統中的性別偏見，確保其倫理性和包容性？

盡管全球女性的互聯網接入率逐年提升，但直到2024年，低收入國家僅20%的女性能夠使用網絡。這種數字鴻溝不僅造成數據缺口，更在人工智能系統中形成了明顯的性別偏見烙印。

根據2024年全球性別差距報告，全球 STEM（科學、技術、工程和數學）領域僅有28.2%的女性工作人員，女性高管的比例更是不足13%。

缺乏女性數據和女性視角，是導致人工智能系統存在性別偏見的關鍵原因。創造更加包容的人工智能系統，我們或許可以采取以下措施：

1?

訓練人工智能的數據具有多樣性

用于訓練人工智能的數據必須能夠代表所有性別、種族和群體，這意味著要有意識地選擇能夠反映不同社會背景、文化和社會身份的數據，同時剔除那些將特定職業或特質與某一性別掛鉤的歷史偏見。

人工智能系統的開發應由多元化的團隊完成，團隊成員應來自不同的性別、種族和文化背景。這樣可以在開發過程中引入不同視角，減少偏見產生的盲區。

2?

使女性公平充分地參與人工智能行業

人工智能領域需要更多女性視角，這要求為女性在 STEM及信息通信技術教育與職業中提供更多機會，并鼓勵她們爭取擔任領導角色。

在阿爾巴尼亞舉辦的“性別數據馬拉松”（Gender Datathon)中，一支名為“賦權”的團隊獲得第一名，他們的項目助力消除該國對女司機的性別刻板印象 ?UN Women

3?

提升人工智能系統算法透明度

科技公司等開發主體應通過技術手段和制度設計，讓算法的決策邏輯、數據來源和運行過程變得可追溯、可解釋、可審查，識別潛在偏見并建立問責機制。

4?

提高公眾認知和開展教育

提高公眾認知和開展教育，幫助人們了解人工智能的工作原理及其偏見風險，能夠使他們更有能力識別并防范偏見系統，并確保關鍵決策始終由人類進行監督與把關。

5?

在人工智能開發中融入性別響應型政策

目前，沒有任何機制能夠阻止開發者在人工智能系統尚未準備就緒、未能確保安全性的情況下就將其發布。我們需要在人工智能系統開發中融入性別響應型政策，還應制定強有力的倫理框架。

6?

建立全球多方參與的治理框架

國際社會在數字技術領域的合作長期側重于技術和基礎設施問題以及數字經濟，針對人工智能帶來的挑戰與風險，亟需建立一個全球多方參與的治理框架，在系統出現性別或種族偏見、強化有害刻板印象或未能達到隱私與安全標準時，能夠及時采取預防和補救措施。

推動面向所有婦女和女童的數字改革，是聯合國婦女署“北京+30行動議程”的重要工作之一，我們必須確保平等獲得技術，使婦女和女童能夠在人工智能和數字創新方面發揮領導作用，并保證她們的網絡安全和隱私。

當下，人工智能技術迅猛發展，既帶來了社會進步的機遇，也潛藏著加劇性別不平等的風險。警惕并消除人工智能中的性別偏見，我們才能實現真正公平、包容的數字未來。