Blog
英國部分地區法官獲准使用AI，但須警惕潛在風險
英國部分地區法官獲准使用AI，但須警惕潛在風險
December 13, 2023
重點摘要：
- 英格蘭和威爾士的法官獲准在部分工作領域使用人工智慧，儘管存在對法律系統中使用AI可能帶來糟糕結果的擔憂。
- 英國司法辦公室發布的指南指出，AI工具可以幫助總結文本和撰寫報告，但警告不宜用於法律研究和分析，特別是在存在創造假證據的風險。
- 此指南是對之前幾起使用AI工具（如ChatGPT）在法律文檔中引用假案例的事件作出的回應，旨在提醒法官警覺AI潛在的風險。
新聞內文：
英格蘭和威爾士的法官們獲准在其工作的部分領域使用人工智慧。
儘管在法律系統中使用人工智慧的情況預料中會帶來糟糕的結果，但此決定仍然得到了批准。
負責監控法官的英國司法辦公室於週二發布了指南，闡明人工智慧在某些任務中可能有所幫助。該指南還強調了不建議使用人工智慧的領域。
對於人工智慧工具在任務中可能有幫助的方式，指南指出它可以幫助總結大量文本並撰寫報告、電子郵件和法庭對案件的決定。然而，它似乎警告不要將其用於法律研究和分析。
這可能是因為今年早些時候一名律師試圖在法庭上使用人工智慧，結果「幻覺」引用了假案例，讓反應不佳。
一名律師使用ChatGPT撰寫了一份法庭摘要，最終提及了六個假案例。他所在的律師事務所在法院找不到引用的案例後被罰款5,000美元。
在今年的另一個案例中，一名婦女使用人工智慧代替聘請律師來代表自己。根據《電訊報》12月的報導，她使用AI聊天機器人提交案例法律以就她收到的稅務處罰提出上訴。
報告稱，儘管她事先並不知道這一事實，這名婦女在發現她辯護時引用的九個案例都是虛構的後，上訴失敗。
司法辦公室的指南試圖提醒法官們這樣的風險，並表示他們「必須警覺潛在風險」。它警告說，人工智慧可能被公眾用於案件中，更糟的是「創造假證據」。
該指南說：「AI聊天機器人現在被未受代表的訴訟人使用。它們可能是某些訴訟人唯一接受的建議或協助。訴訟人很少有獨立驗證AI聊天機器人提供的法律訊息的技能，並且可能不知道它們容易出錯」。
新聞原址： https://www.businessinsider.com/uk-judges-ai-legal-rulings-despite-risk-hallucinations-2023-12