Blog
英國郵政會計軟體災難：大規模司法錯誤揭露技術盲目信仰的危險
英國郵政會計軟體災難：大規模司法錯誤揭露技術盲目信仰的危險
January 15, 2024
重點摘要：
新聞內文：
當一家大公司在16年的時間裡，因為自己強加給分支機構的會計軟體漏洞，卻惡意地起訴900名分店郵局長進行盜竊、虛假會計和欺詐，這可以被稱為我們國家歷史上最大的司法錯誤之一。
然而，英國首相里希·薩納克可不是最有想像力的人。另一方面，美國海軍陸戰隊對於這個Horizon（地平線）系統的災難有一個非常經濟的術語：它是一個「clusterfuck」（混亂的一團糟），劍橋詞典精確地定義為「一個非常粗魯的詞，指一個完全的失敗或非常嚴重的問題，其中許多錯誤或問題同時發生」。
Horizon是一個由英國郵政從日本富士通的子公司購買的系統，它是一個充滿電腦漏洞的龐大怪物。這個系統的目的是取代郵局中的紙本會計系統。但自1999年開始的部署過程中，13,000名忙碌且非技術性的分店郵局長並沒有獲得足夠的培訓，對工作流程的改變感到手足無措。使用者迅速發現系統中的漏洞和缺陷，但發現郵政管理層對技術有著近乎宗教般的信仰，導致分店郵局局長被起訴、生活被毀，甚至有些人選擇自殺。
Horizon是一個電子銷售系統，取代了紙本收銀機。它也是連網路的，理論上使得英國郵政能夠在全國範圍內掌握現金流。但從一開始，正如《衛報》的Alex Hern所指出的，系統「根本無法勝任它所面臨的任務」。
早在2001年，一個由系統開發者領導的團隊就發現了「數百個」漏洞。雖然從未產生完整的漏洞清單，但一些例子在法庭程序中浮出水面。例如，所謂的「Dalmellington Bug」（以蘇格蘭小鎮Dalmellington命名，因為第一位受害的分店郵局長來自這裡），當操作員試圖確認收到現金時，螢幕會凍結。每次使用者在凍結的螢幕上按下確認鍵，它都會悄無聲息地更新記錄。結果分店郵局局長必須對此承擔責任。您可以想像這會帶來什麼後果。
最奇怪的是，政治體系了解真相花了這麼長時間。記者們自從《電腦周刊》於2009年首次報導此事以來，就一直在堅持不懈地講述Horizon受害者的故事。《新聞記者公報》估計該雜誌自2009年以來已發表了約350篇關於Horizon的報導，其中大部分由Karl Flinders撰寫。其中70篇在2018年底之前發表，其餘則在2018年郵局對抗郵局工會聯盟提起集體訴訟並於2020年開始公開調查後發表。
儘管有這些值得稱讚的新聞工作（和少數議員的優秀工作），這個問題卻一直未能成為一個熱門的政治議題，直到ITV播放了《貝茨先生對抗郵局》。然後，情況突然改變。正如BBC的政治編輯Chris Mason所說，「這裡我們是，七天後，首相站在擁擠的國會大廳前，並表示政府將提出一項新法律……多麼不尋常。戲劇的力量。它所產生的動力，它所轉變的公眾輿論，它所激勵的政府」。
從這場混亂中可以得到一個重要教訓：問題的根源是一家大公司對它昂貴購買的技術的盲目信仰。英國郵政押注於一個傳統軟體系統，其缺陷本可由任何稱職的調查員發現，因為它是人類可讀的。
但現在，組織部署新型技術（人工智慧）的動力不可阻擋，這種技術完全是不透明且無法解釋的。因此，當不可避免地部署人工智慧而造成的不公正時，要糾正這些不公正將變得更加困難。畢竟，Horizon僅僅無法進行會計。另一方面，人工智慧有時可能產生的錯誤幻想則需要親眼目睹，人們才能相信。
新聞原址： https://www.theguardian.com/uk-news/2024/jan/13/horrified-by-horizon-then-get-ready-to-be-totally-appalled-by-ai
- 英國郵政在16年間因會計軟體漏洞起訴了900名分店郵局局長，導致了英國歷史上最大的司法錯誤之一。
- 「Horizon」系統充滿漏洞，分店郵局長因系統錯誤被錯誤指控，導致生活破碎，甚至有些人選擇自殺。
- 雖有持續的媒體報導和調查，但該問題直到《貝茨先生對抗郵局》的播出後才成為政治議題，突顯了媒體和公眾輿論的影響力。
新聞內文：
當一家大公司在16年的時間裡，因為自己強加給分支機構的會計軟體漏洞，卻惡意地起訴900名分店郵局長進行盜竊、虛假會計和欺詐，這可以被稱為我們國家歷史上最大的司法錯誤之一。
然而，英國首相里希·薩納克可不是最有想像力的人。另一方面，美國海軍陸戰隊對於這個Horizon（地平線）系統的災難有一個非常經濟的術語：它是一個「clusterfuck」（混亂的一團糟），劍橋詞典精確地定義為「一個非常粗魯的詞，指一個完全的失敗或非常嚴重的問題，其中許多錯誤或問題同時發生」。
Horizon是一個由英國郵政從日本富士通的子公司購買的系統，它是一個充滿電腦漏洞的龐大怪物。這個系統的目的是取代郵局中的紙本會計系統。但自1999年開始的部署過程中，13,000名忙碌且非技術性的分店郵局長並沒有獲得足夠的培訓，對工作流程的改變感到手足無措。使用者迅速發現系統中的漏洞和缺陷，但發現郵政管理層對技術有著近乎宗教般的信仰，導致分店郵局局長被起訴、生活被毀，甚至有些人選擇自殺。
Horizon是一個電子銷售系統，取代了紙本收銀機。它也是連網路的，理論上使得英國郵政能夠在全國範圍內掌握現金流。但從一開始，正如《衛報》的Alex Hern所指出的，系統「根本無法勝任它所面臨的任務」。
早在2001年，一個由系統開發者領導的團隊就發現了「數百個」漏洞。雖然從未產生完整的漏洞清單，但一些例子在法庭程序中浮出水面。例如，所謂的「Dalmellington Bug」（以蘇格蘭小鎮Dalmellington命名，因為第一位受害的分店郵局長來自這裡），當操作員試圖確認收到現金時，螢幕會凍結。每次使用者在凍結的螢幕上按下確認鍵，它都會悄無聲息地更新記錄。結果分店郵局局長必須對此承擔責任。您可以想像這會帶來什麼後果。
最奇怪的是，政治體系了解真相花了這麼長時間。記者們自從《電腦周刊》於2009年首次報導此事以來，就一直在堅持不懈地講述Horizon受害者的故事。《新聞記者公報》估計該雜誌自2009年以來已發表了約350篇關於Horizon的報導，其中大部分由Karl Flinders撰寫。其中70篇在2018年底之前發表，其餘則在2018年郵局對抗郵局工會聯盟提起集體訴訟並於2020年開始公開調查後發表。
儘管有這些值得稱讚的新聞工作（和少數議員的優秀工作），這個問題卻一直未能成為一個熱門的政治議題，直到ITV播放了《貝茨先生對抗郵局》。然後，情況突然改變。正如BBC的政治編輯Chris Mason所說，「這裡我們是，七天後，首相站在擁擠的國會大廳前，並表示政府將提出一項新法律……多麼不尋常。戲劇的力量。它所產生的動力，它所轉變的公眾輿論，它所激勵的政府」。
從這場混亂中可以得到一個重要教訓：問題的根源是一家大公司對它昂貴購買的技術的盲目信仰。英國郵政押注於一個傳統軟體系統，其缺陷本可由任何稱職的調查員發現，因為它是人類可讀的。
但現在，組織部署新型技術（人工智慧）的動力不可阻擋，這種技術完全是不透明且無法解釋的。因此，當不可避免地部署人工智慧而造成的不公正時，要糾正這些不公正將變得更加困難。畢竟，Horizon僅僅無法進行會計。另一方面，人工智慧有時可能產生的錯誤幻想則需要親眼目睹，人們才能相信。
新聞原址： https://www.theguardian.com/uk-news/2024/jan/13/horrified-by-horizon-then-get-ready-to-be-totally-appalled-by-ai