Blog
Nvidia員工對公司AI策略擔憂，引發對少數族群安全的關注
Nvidia員工對公司AI策略擔憂，引發對少數族群安全的關注
December 20, 2023
重點摘要：
新聞內文：
根據彭博社報導，兩名Nvidia員工向執行長黃仁勳警告，人工智慧可能對少數族群造成危害，其中一名員工對他的回應感到極度不滿，隨後便離開了公司。
這兩名Nvidia員工，「Masheika Allgood」和「Alexander Tsado」向媒體表示，他們於2020年與黃仁勳會面，提出公司員工對AI的危險性，特別是對少數族群的潛在威脅。
彭博社報導，兩人對會後的結果感到不滿，不久後便離開了公司。Allgood表示，她離開的原因是因為Nvidia「不願在對我來說非常重要的領域中領導」。
Tsado，Nvidia的前產品行銷經理，他表示希望黃仁勳能理解這個問題的重要性。
他說：「我們正在構建這些工具，我在思考，對我來說這是行不通的，因為我是黑人」。
Allgood在LinkedIn上的一篇文章中描述這次會議是「我職業生涯中最令人沮喪的45分鐘」，她和Tsado是公司黑人員工團體的前任主席，他們警告說，新技術的不可預見影響將不成比例地影響少數族群。報導指出，這對搭檔花了一年的時間收集員工對AI的憂慮。
Allgood告訴媒體，她提出了對於自駕車技術中使用的AI臉部識別系統可能對少數族群構成威脅的擔憂，有研究表明某些臉部識別技術在識別有色人種方面存在更多困難。
她表示，黃仁勳對此表示反對，回應說自駕車可以在高速公路上進行測試，在那裡它們對行人的威脅較小。
自駕技術在最近幾個月受到了更多的關注，這是由於在舊金山發生了一起涉及Cruise機器人計程車的嚴重事故。
在這次事故發生後的幾週內，有報導稱該自駕車公司的技術過去在識別兒童和大洞方面存在困難。
圍繞AI和少數族群的類似擔憂也被提出。由於許多巨大數據集的偏見性，這些數據集是AI模型受訓的基礎，導致一些模型表現出歧視行為。
2015年，Google因其圖像識別系統將黑人分類為「大猩猩」而面臨反彈，該公司透過阻止其識別大猩猩來解決這個問題。
最近，如OpenAI的DALL-E等AI圖像生成器被發現在被提示生成「非洲工人」圖像時，會延續有害的刻板印象。
Nvidia在AI競賽中佔據了重要地位
隨著AI革命的到來，Nvidia的股價飆升，科技公司爭相購買其圖形處理單元（GPU），這對於訓練AI模型至關重要。
一位公司發言人告訴彭博社，自Allgood和Tsado離開後，這家晶片製造商在使其AI產品安全和包容方面進行了大量工作。
黃仁勳似乎對Allgood提出的一些建議表示認同，彭博社瀏覽的內部郵件顯示，該公司現已建立了一個AI和法律倫理計劃。
但這家晶片製造商在多樣性方面仍落後於其他科技公司。根據彭博社匯編的數據，其美國員工中有7.8%是黑人、西班牙裔或美洲原住民，而其競爭對手Intel則為18%。
Nvidia並未立即回應彭博社在正常工作時間以外提出的評論請求。
新聞原址： https://www.businessinsider.com/nvidia-workers-quit-warned-ceo-jensen-huang-ai-harmful-minorities-2023-12
- 兩名前Nvidia員工，Masheika Allgood和Alexander Tsado，警告執行長黃仁勳，AI可能對少數族群造成危害，但對會後的結果感到不滿，隨後離開了公司。
- Allgood提出對自駕車中使用的AI臉部識別系統可能對少數族群構成威脅的擔憂，黃仁勳對此表示反對，導致她對公司的領導方向感到失望。
- Nvidia在AI領域佔有重要地位，但在多樣性方面落後於其他科技公司，且面臨關於AI對少數族群不利影響的擔憂。
新聞內文：
根據彭博社報導，兩名Nvidia員工向執行長黃仁勳警告，人工智慧可能對少數族群造成危害，其中一名員工對他的回應感到極度不滿，隨後便離開了公司。
這兩名Nvidia員工，「Masheika Allgood」和「Alexander Tsado」向媒體表示，他們於2020年與黃仁勳會面，提出公司員工對AI的危險性，特別是對少數族群的潛在威脅。
彭博社報導，兩人對會後的結果感到不滿，不久後便離開了公司。Allgood表示，她離開的原因是因為Nvidia「不願在對我來說非常重要的領域中領導」。
Tsado，Nvidia的前產品行銷經理，他表示希望黃仁勳能理解這個問題的重要性。
他說：「我們正在構建這些工具，我在思考，對我來說這是行不通的，因為我是黑人」。
Allgood在LinkedIn上的一篇文章中描述這次會議是「我職業生涯中最令人沮喪的45分鐘」，她和Tsado是公司黑人員工團體的前任主席，他們警告說，新技術的不可預見影響將不成比例地影響少數族群。報導指出，這對搭檔花了一年的時間收集員工對AI的憂慮。
Allgood告訴媒體，她提出了對於自駕車技術中使用的AI臉部識別系統可能對少數族群構成威脅的擔憂，有研究表明某些臉部識別技術在識別有色人種方面存在更多困難。
她表示，黃仁勳對此表示反對，回應說自駕車可以在高速公路上進行測試，在那裡它們對行人的威脅較小。
自駕技術在最近幾個月受到了更多的關注，這是由於在舊金山發生了一起涉及Cruise機器人計程車的嚴重事故。
在這次事故發生後的幾週內，有報導稱該自駕車公司的技術過去在識別兒童和大洞方面存在困難。
圍繞AI和少數族群的類似擔憂也被提出。由於許多巨大數據集的偏見性，這些數據集是AI模型受訓的基礎，導致一些模型表現出歧視行為。
2015年，Google因其圖像識別系統將黑人分類為「大猩猩」而面臨反彈，該公司透過阻止其識別大猩猩來解決這個問題。
最近，如OpenAI的DALL-E等AI圖像生成器被發現在被提示生成「非洲工人」圖像時，會延續有害的刻板印象。
Nvidia在AI競賽中佔據了重要地位
隨著AI革命的到來，Nvidia的股價飆升，科技公司爭相購買其圖形處理單元（GPU），這對於訓練AI模型至關重要。
一位公司發言人告訴彭博社，自Allgood和Tsado離開後，這家晶片製造商在使其AI產品安全和包容方面進行了大量工作。
黃仁勳似乎對Allgood提出的一些建議表示認同，彭博社瀏覽的內部郵件顯示，該公司現已建立了一個AI和法律倫理計劃。
但這家晶片製造商在多樣性方面仍落後於其他科技公司。根據彭博社匯編的數據，其美國員工中有7.8%是黑人、西班牙裔或美洲原住民，而其競爭對手Intel則為18%。
Nvidia並未立即回應彭博社在正常工作時間以外提出的評論請求。
新聞原址： https://www.businessinsider.com/nvidia-workers-quit-warned-ceo-jensen-huang-ai-harmful-minorities-2023-12