Blog
醫療保健龍頭響應拜登政府號召，承諾安全使用AI技術
醫療保健龍頭響應拜登政府號召，承諾安全使用AI技術
December 17, 2023
重點摘要：
新聞內文：
追隨著Google、OpenAI和其他13家人工智慧公司的腳步，領先的醫療保健實體已同意簽署拜登-哈里斯政府就安全且值得信賴地開發和使用人工智慧的自願承諾。
這項承諾於12/14宣布，反映了一系列行動，旨在追求大規模模型的「千載難逢」的好處，這些模型可以在醫療環境中執行各種任務，同時降低風險並保護病人的敏感健康訊息。
共有28個組織在醫療保健運營的需求方面簽署了這些承諾。這些提供者和付款方開發、購買並在其工作流程中實施AI支持技術。名單上的一些名字包括CVS健康、斯坦福健康、波士頓兒童醫院、加州大學聖地牙哥健康、加州大學戴維斯健康和WellSpan健康。
構建人工智慧以優化醫療服務和支付
即使在ChatGPT和普遍的生成人工智慧興起之前，人工智慧在醫療保健中的作用已被廣泛討論，包括早期診斷疾病和發現新的治療方法。然而，儘管所有這些好處，許多人對人工智慧系統在醫療保健環境中的安全性和可靠性提出了質疑。在GE Healthcare最近的一項調查中，該公司並非簽署實體之一，55%的臨床醫生表示人工智慧技術尚未準備好用於醫療用途，58%的人暗示他們不信任人工智慧數據。
對於有超過16年經驗的臨床醫生來說，懷疑程度更高，有67%的人對人工智慧缺乏信任。
透過向拜登政府做出這些自願承諾，這28家醫療保健提供者和付款方希望結束這種懷疑，並開發人工智慧以提供更協調的護理、改善患者體驗和減輕臨床醫生的疲勞。
這些組織在其承諾文件中指出：「我們相信人工智慧是加速改善醫療系統的千載難逢機會，正如拜登政府呼籲邊界模型為早期癌症檢測和預防努力所指出的」。
為了建立下游用戶（如臨床醫生和醫療工作者）對這些人工智慧系統的信心，這些組織承諾確保其項目符合美國衛生與公共服務部（HHS）概述的公平、適當、有效、有效和安全（FAVES）人工智慧原則。這將幫助他們確保他們的解決方案在目標現實世界用例中達到標準，不包括任何偏見和已知風險。
然後，他們將以透明度和風險管理框架為重點建立信任。前者將通知使用者他們看到的內容是否主要或完全由人工智慧生成，並未經人類編輯或審查。與此同時，後者將包括對由模型驅動的應用程式的全面追蹤，並同步考慮不同醫療應用或設置中可能造成的潛在傷害及緩解它們的步驟。
公司寫道：「我們將建立政策並實施控制措施，以應對邊界模型的應用，包括如何獲得、管理和使用數據。我們的治理實踐應包括維護使用邊界模型的所有應用程式列表，並設定風險管理和治理的有效框架，明確規定批准使用邊界模型和人工智慧應用程式的角色和職責」。
負責任的研究與創新
在關注現有實施的同時，這些組織還表示，他們將繼續在具有保護措施的情況下進行以健康為中心的人工智慧創新研究。
為此，他們計劃利用非生產環境、測試數據和內部面向應用程式來原型化新應用程式，並確認其隱私合規性。然後，他們將持續監控這些應用程式的結果，確保它們在各自的用例中提供公平和準確的響應。這可以通過人工干預或專門的人工智慧評估和可觀察性工具來實現。
最後，這些公司還將專注於緩解與使用開源技術相關的問題，並培訓其員工以安全有效地開發和使用由邊界模型驅動的應用程式。
新聞原址： https://venturebeat.com/ai/safe-ai-for-healthcare-providers-pursue-once-in-a-generation-benefits-of-large-scale-models/
- 28家醫療保健組織同意簽署拜登-哈里斯政府的自願承諾，確保人工智慧在醫療環境中的安全且值得信賴的開發和使用。
- 此承諾反映了一系列行動，旨在追求大規模模型的好處，同時減少風險並保護病人敏感健康資訊。
- 組織承諾確保其項目符合HHS的FAVES原則，並透過透明度和風險管理框架建立信任。
新聞內文：
追隨著Google、OpenAI和其他13家人工智慧公司的腳步，領先的醫療保健實體已同意簽署拜登-哈里斯政府就安全且值得信賴地開發和使用人工智慧的自願承諾。
這項承諾於12/14宣布，反映了一系列行動，旨在追求大規模模型的「千載難逢」的好處，這些模型可以在醫療環境中執行各種任務，同時降低風險並保護病人的敏感健康訊息。
共有28個組織在醫療保健運營的需求方面簽署了這些承諾。這些提供者和付款方開發、購買並在其工作流程中實施AI支持技術。名單上的一些名字包括CVS健康、斯坦福健康、波士頓兒童醫院、加州大學聖地牙哥健康、加州大學戴維斯健康和WellSpan健康。
Large-scale AI models are a once-in-a-generation opportunity to improve healthcare. 28 of the most forward-thinking payers and providers got together to figure out how we leverage frontier AI models to drive the change we want to see in healthcare. Here are our commitments:… pic.twitter.com/Wg2LvdyOKC
— Mario Schlosser (@mariots) December 14, 2023
構建人工智慧以優化醫療服務和支付
即使在ChatGPT和普遍的生成人工智慧興起之前，人工智慧在醫療保健中的作用已被廣泛討論，包括早期診斷疾病和發現新的治療方法。然而，儘管所有這些好處，許多人對人工智慧系統在醫療保健環境中的安全性和可靠性提出了質疑。在GE Healthcare最近的一項調查中，該公司並非簽署實體之一，55%的臨床醫生表示人工智慧技術尚未準備好用於醫療用途，58%的人暗示他們不信任人工智慧數據。
對於有超過16年經驗的臨床醫生來說，懷疑程度更高，有67%的人對人工智慧缺乏信任。
透過向拜登政府做出這些自願承諾，這28家醫療保健提供者和付款方希望結束這種懷疑，並開發人工智慧以提供更協調的護理、改善患者體驗和減輕臨床醫生的疲勞。
這些組織在其承諾文件中指出：「我們相信人工智慧是加速改善醫療系統的千載難逢機會，正如拜登政府呼籲邊界模型為早期癌症檢測和預防努力所指出的」。
為了建立下游用戶（如臨床醫生和醫療工作者）對這些人工智慧系統的信心，這些組織承諾確保其項目符合美國衛生與公共服務部（HHS）概述的公平、適當、有效、有效和安全（FAVES）人工智慧原則。這將幫助他們確保他們的解決方案在目標現實世界用例中達到標準，不包括任何偏見和已知風險。
然後，他們將以透明度和風險管理框架為重點建立信任。前者將通知使用者他們看到的內容是否主要或完全由人工智慧生成，並未經人類編輯或審查。與此同時，後者將包括對由模型驅動的應用程式的全面追蹤，並同步考慮不同醫療應用或設置中可能造成的潛在傷害及緩解它們的步驟。
公司寫道：「我們將建立政策並實施控制措施，以應對邊界模型的應用，包括如何獲得、管理和使用數據。我們的治理實踐應包括維護使用邊界模型的所有應用程式列表，並設定風險管理和治理的有效框架，明確規定批准使用邊界模型和人工智慧應用程式的角色和職責」。
負責任的研究與創新
在關注現有實施的同時，這些組織還表示，他們將繼續在具有保護措施的情況下進行以健康為中心的人工智慧創新研究。
為此，他們計劃利用非生產環境、測試數據和內部面向應用程式來原型化新應用程式，並確認其隱私合規性。然後，他們將持續監控這些應用程式的結果，確保它們在各自的用例中提供公平和準確的響應。這可以通過人工干預或專門的人工智慧評估和可觀察性工具來實現。
最後，這些公司還將專注於緩解與使用開源技術相關的問題，並培訓其員工以安全有效地開發和使用由邊界模型驅動的應用程式。
新聞原址： https://venturebeat.com/ai/safe-ai-for-healthcare-providers-pursue-once-in-a-generation-benefits-of-large-scale-models/