Blog
英國社會照護面臨人工智慧倫理挑戰：生成式AI機器人是否宜於照顧？
英國社會照護面臨人工智慧倫理挑戰：生成式AI機器人是否宜於照顧？
March 11, 2024
重點摘要：
- 牛津大學研究發現，部分照護機構使用生成式人工智慧聊天機器人建立護理計劃，但對病人的保密性構成潛在風險。
- 人工智慧生成的護理計劃可能因資料的錯誤或偏見而品質不高，對照護者採取不當行動可能造成意外損害。
- 儘管存在倫理挑戰，人工智慧在社會照護領域也有潛在好處，可幫助減輕行政負擔並提升護理計劃的頻率。
新聞內文：
英國手忙腳亂的照顧者需要盡可能多的幫助。但根據研究人員的說法，這不應該包括使用未受規管的人工智慧機器人，他們表示，社會照護領域的人工智慧革命需要嚴格的倫理邊界。牛津大學的學者進行的一項試點研究發現，一些照護提供者一直在使用生成式人工智慧聊天機器人，如ChatGPT和Bard，為接受照護的人建立護理計劃。
根據牛津大學人工智慧倫理研究所的初級研究員卡羅琳·格林博士對該研究中的照護機構進行的調查，這對病人的保密性構成了潛在風險。
格林表示：「如果你將任何類型的個人數據輸入到（生成式人工智慧聊天機器人）中，該數據將用於訓練語言模型」。「這些個人數據可能會被生成並向他人透露」。
她說，照護者可能會根據錯誤或有偏見的信息採取行動，並無意中造成損害，而由人工智慧生成的護理計劃可能會品質不高。
但格林補充說，人工智慧也有潛在的好處。「它可以幫助減輕這種行政性工作的負擔，並允許人們更頻繁地重新審視護理計劃。目前，我不鼓勵任何人這樣做，但有一些組織正在努力創造確切可以這樣做的應用程式和網站」。
基於大型語言模型的技術已被健康和照護機構使用。「PainChek」是一款手機應用程式，利用人工智慧訓練的面部識別來識別無法言語的人是否因偵測到微小的肌肉抽動而感到疼痛。Oxevision是半數NHS心理健康信託使用的系統，該系統使用設置在隔離室內的紅外線攝影鏡頭，監控潛在暴力患者和有嚴重癡呆症或急性精神需求的患者是否有跌倒的風險、他們的睡眠時間以及其他活動水平。
在較早階段的項目包括Sentai，一個使用Amazon的Alexa喇叭的護理監測系統，用於沒有24小時照護者的人提醒他們服藥，並允許遠處的親屬查看他們的情況。
布里斯托爾機器人實驗室正在研發一種設備，用於患有記憶問題的人，如果煤氣灶被忘記開啟，它會關閉煤氣供應器。英國創新局健康老化挑戰主任喬治·馬克金尼斯表示：「從歷史上看，這意味著要求一名煤氣工程師出門檢查一下，確保一切安全。布里斯托爾正在與殘疾慈善機構合作開發一個系統，該系統使人們可以安全地自行進行檢查」。
「我們還資助了一個可以適應人們並幫助他們恢復自己的生理節奏的循環照明系統，這是在癡呆症中失去的事物之一」。
儘管創意產業的人擔心可能被人工智慧取代，在社會照護領域有大約160萬名工作人員和15.2萬個空缺，有570萬無報酬的照護者照顧親戚、朋友或鄰居。
牛津大學魯本學院工程科學教授、魯本學院院長萊奧內爾·塔拉森科表示：「人們以二元方式看待人工智慧。不是它取代了工作人員，就是繼續像現在一樣」。「實際上並非如此，它正在將經驗水平較低的人提升到與具有豐富專業知識的人同一水平」。
「我參與了我父親的照顧工作，他在四個月前去世，享年88歲。我們有一位住家保姆。當我們在周末輪班照顧時，我和我的姐姐實際上正在照顧一個我們深愛且深知其患有癡呆症的人，但我們的技能水平不如住家保姆。因此，這些工具將使我們能夠達到與經過訓練、有經驗的保姆相似的水平」。
然而，一些照護經理擔心使用人工智慧技術會造成他們意外違反規則並失去許可證。社會照護工作人員馬克·托普斯，他是社會照護的工作人員並且是《The Caring View》語音節目的聯合主持人，表示，社會照護行業的人擔心通過使用技術，他們可能會意外地違反Care Quality Commission的規定並失去登記。
他說：「在監控機構發布指導之前，很多組織不會採取任何行動，因為如果出錯就會引起強烈反彈」。
上個月，包括國家照護協會、Skills for Care、Adass和蘇格蘭照護在內的30家社會照護機構在魯本學院開會，討論如何負責任地使用生成式人工智慧。召開會議的格林表示，他們打算在六個月內建立一個良好的實踐指南，並希望與CQC和衛生和社會保健部合作。
她說：「我們希望有一份良好的實踐指南，由DHSC負責強制執行，該指南定義了生成式人工智慧在社會照護中的負責任使用是什麼意思」。
新聞原址： https://www.theguardian.com/technology/2024/mar/10/warning-over-use-in-uk-of-unregulated-ai-chatbots-to-create-social-care-plans