Blog
Workday推出生成式AI功能以提升業務效率，但引發對偏見的擔憂
Workday推出生成式AI功能以提升業務效率，但引發對偏見的擔憂
September 28, 2023
重點摘要：
新聞內文：
Workday發布了一系列新的生成式人工智慧功能，旨在「提高生產力」和「簡化業務流程」。不久之後，Workday的客戶將能夠自動比較已簽署的合約與Workday中的合約，以顯示差異性，創建個性化的知識管理文章，並為服務採購生成工作聲明。
這些公告是在「Workday Rising」上宣布的，這是Workday每年的客戶大會，今年在舊金山舉行。
而其中一些新增功能似乎是真正有用，或者「至少無害」。但對這位記者來說，有一點令人擔憂：「由AI生成的員工工作計劃」。
Workday在新聞稿中寫道：「經理們將能夠快速總結員工的優點和成長領域，從儲存的數據中提取，包括績效評估、員工反饋、貢獻目標、技能、員工情感等」。
對此，我看到了一些問題。
研究已經表明，文本分析AI可能對使用落在「正常」範圍之外的表達方式和用語的人表現出偏見（即多數人不使用的方式）。
例如，一些訓練用於檢測有害內容的AI模型將一些非裔美國人使用的非正式語法「African-American Vernacular English（AAVE）」的短語視為不成比例的「有害」。而黑人不是唯一受影響的少數民族。賓夕法尼亞州立大學的一個團隊在最近的一項研究中發現，社群媒體上關於殘疾人的貼文可能被普遍使用的公共情感和有害性檢測模型標記為「更負面或有害」。
那麼，如果Workday的模型因為寫作方式而無法理解績效評估或員工反饋的細微差別，導致模型對某人評論產生錯誤結論，該怎麼辦？這是個好問題。
然後，還有「員工情感」的部分。
偏見可能再次出現在訓練用於從句子中檢測情感的AI模型中。研究表明，基於文本的情感分析系統可能在種族、族裔和性別方面表現出偏見。例如，將黑人與更多的負面情感，如「憤怒、恐懼和悲傷」聯繫在一起。
針對這些擔憂，Workday表示，它「透明地展示了其AI模型的設計方式」（儘管不願透露用於訓練其模型的確切數據），並建立了工作計劃功能，以向經理們顯示「數據輸入如何有助於優點或成長領域」。
Shane Luke，Workday的AI和機器學習負責人，在電子郵件中告訴TechCrunch：「與其他Workday生成式AI用例及我們的人機協同方法一樣，鼓勵使用者將結果視為強大的初稿，他們應該在此基礎上進行編輯、反覆修改並最終確定」。希望使用Workday的經理們聽從這些建議。
至於Workday的其他新生成式AI功能，它們在表面上則不那麼有問題。
Workday中的AI生成職位描述利用已儲存在平台中的資訊，包括職位所需的技能和工作地點詳細訊息，以簡化編寫工作列表的過程。起初，這位記者擔心Workday可能正在未經HR允許或知識的情況下訓練其生成描述的模型，但Luke向我保證這不是事實。
他說「我們不會對專門的職位描述數據進行培訓」。「Workday的客戶控制並配置他們的數據用於AI和機器學習目的的方式，包括數據是否用於培訓目的...我們從產品字段中清楚地顯示哪些數據用於生成，並鼓勵使用者將回應視為初稿，並適時加入自己的判斷」。
此外，Workday將很快能夠根據客戶晚繳款的情況或經常繳款的情況自動製作「過期」通知，並提供建議。（Luke說，財務團隊將能夠使用此功能批量自動化信函。）。採購負責人將能夠根據項目類型、項目地點和可交付項目的類型獲得有關採購合約中應包括的相關條款建議。
使用生成式AI驅動的合約分析功能，Workday的客戶將被警告合約中潛在的錯誤，並收到建議的更正。而具有知識文章生成功能的使用者將能夠撰寫文章，如經理的討論要點和公司影片的重點，並提供語調和長度建議。（Workday也強調，使用者完全可以忽略這些建議。）
Developer Copilot標誌著Workday首次涉足生成性編碼，將文本轉換為代碼功能引入Workday Extent，這是用於創造在Workday上運行的自定義應用程式的平台。 Developer Copilot嵌入在Workday的應用程式生成器中，為Workday應用程序提供「上下文感知」的代碼建議，包括經過精心策劃的內容和搜尋結果，類似於代碼生成服務，例如「GitHub Copilot」和「Amazon CodeWhisperer」。
此外，借鑒ChatGPT的流行，Workday正在試驗多種對話式人工智慧體驗。Luke表示，它們將「增強用使用者與訊息和任務互動的能力」，自然地利用生成式AI功能，例如總結、搜索和保持上下文。
Luke說：「我們認為，如果負責任地使用，生成式AI可以實現有影響的業務結果」。「從根本上說，我們的AI方法著重於人機協作。使用者始終是最終的決策者和調解者」。
Workday預計新的生成式AI功能將在接下來的6到12個月內推出。而不幸的是，它並沒有提供更具體的時間表。
新聞原址： https://techcrunch.com/2023/09/27/workday-unveils-new-hr-focused-generative-ai-features/
- Workday推出一系列新的生成式AI功能，包括自動比較合約、創建個性化的知識管理文章，以及為服務採購生成工作聲明。
- 這些新功能引發了一些擔憂，特別是在AI生成的員工工作計劃方面，可能存在對特定群體的偏見。
- Workday的AI和機器學習負責人Shane Luke強調，這些AI生成的結果應被視為「初稿」，並應由使用者進行最終確定。
新聞內文：
Workday發布了一系列新的生成式人工智慧功能，旨在「提高生產力」和「簡化業務流程」。不久之後，Workday的客戶將能夠自動比較已簽署的合約與Workday中的合約，以顯示差異性，創建個性化的知識管理文章，並為服務採購生成工作聲明。
這些公告是在「Workday Rising」上宣布的，這是Workday每年的客戶大會，今年在舊金山舉行。
而其中一些新增功能似乎是真正有用，或者「至少無害」。但對這位記者來說，有一點令人擔憂：「由AI生成的員工工作計劃」。
Workday在新聞稿中寫道：「經理們將能夠快速總結員工的優點和成長領域，從儲存的數據中提取，包括績效評估、員工反饋、貢獻目標、技能、員工情感等」。
對此，我看到了一些問題。
研究已經表明，文本分析AI可能對使用落在「正常」範圍之外的表達方式和用語的人表現出偏見（即多數人不使用的方式）。
例如，一些訓練用於檢測有害內容的AI模型將一些非裔美國人使用的非正式語法「African-American Vernacular English（AAVE）」的短語視為不成比例的「有害」。而黑人不是唯一受影響的少數民族。賓夕法尼亞州立大學的一個團隊在最近的一項研究中發現，社群媒體上關於殘疾人的貼文可能被普遍使用的公共情感和有害性檢測模型標記為「更負面或有害」。
那麼，如果Workday的模型因為寫作方式而無法理解績效評估或員工反饋的細微差別，導致模型對某人評論產生錯誤結論，該怎麼辦？這是個好問題。
然後，還有「員工情感」的部分。
偏見可能再次出現在訓練用於從句子中檢測情感的AI模型中。研究表明，基於文本的情感分析系統可能在種族、族裔和性別方面表現出偏見。例如，將黑人與更多的負面情感，如「憤怒、恐懼和悲傷」聯繫在一起。
針對這些擔憂，Workday表示，它「透明地展示了其AI模型的設計方式」（儘管不願透露用於訓練其模型的確切數據），並建立了工作計劃功能，以向經理們顯示「數據輸入如何有助於優點或成長領域」。
Shane Luke，Workday的AI和機器學習負責人，在電子郵件中告訴TechCrunch：「與其他Workday生成式AI用例及我們的人機協同方法一樣，鼓勵使用者將結果視為強大的初稿，他們應該在此基礎上進行編輯、反覆修改並最終確定」。希望使用Workday的經理們聽從這些建議。
至於Workday的其他新生成式AI功能，它們在表面上則不那麼有問題。
Workday中的AI生成職位描述利用已儲存在平台中的資訊，包括職位所需的技能和工作地點詳細訊息，以簡化編寫工作列表的過程。起初，這位記者擔心Workday可能正在未經HR允許或知識的情況下訓練其生成描述的模型，但Luke向我保證這不是事實。
他說「我們不會對專門的職位描述數據進行培訓」。「Workday的客戶控制並配置他們的數據用於AI和機器學習目的的方式，包括數據是否用於培訓目的...我們從產品字段中清楚地顯示哪些數據用於生成，並鼓勵使用者將回應視為初稿，並適時加入自己的判斷」。
此外，Workday將很快能夠根據客戶晚繳款的情況或經常繳款的情況自動製作「過期」通知，並提供建議。（Luke說，財務團隊將能夠使用此功能批量自動化信函。）。採購負責人將能夠根據項目類型、項目地點和可交付項目的類型獲得有關採購合約中應包括的相關條款建議。
使用生成式AI驅動的合約分析功能，Workday的客戶將被警告合約中潛在的錯誤，並收到建議的更正。而具有知識文章生成功能的使用者將能夠撰寫文章，如經理的討論要點和公司影片的重點，並提供語調和長度建議。（Workday也強調，使用者完全可以忽略這些建議。）
Developer Copilot標誌著Workday首次涉足生成性編碼，將文本轉換為代碼功能引入Workday Extent，這是用於創造在Workday上運行的自定義應用程式的平台。 Developer Copilot嵌入在Workday的應用程式生成器中，為Workday應用程序提供「上下文感知」的代碼建議，包括經過精心策劃的內容和搜尋結果，類似於代碼生成服務，例如「GitHub Copilot」和「Amazon CodeWhisperer」。
此外，借鑒ChatGPT的流行，Workday正在試驗多種對話式人工智慧體驗。Luke表示，它們將「增強用使用者與訊息和任務互動的能力」，自然地利用生成式AI功能，例如總結、搜索和保持上下文。
Luke說：「我們認為，如果負責任地使用，生成式AI可以實現有影響的業務結果」。「從根本上說，我們的AI方法著重於人機協作。使用者始終是最終的決策者和調解者」。
Workday預計新的生成式AI功能將在接下來的6到12個月內推出。而不幸的是，它並沒有提供更具體的時間表。
新聞原址： https://techcrunch.com/2023/09/27/workday-unveils-new-hr-focused-generative-ai-features/