Blog
人工智慧熱潮引發深思：平衡技術進步與人性複雜性的必要性
人工智慧熱潮引發深思：平衡技術進步與人性複雜性的必要性
January 17, 2024
重點摘要：
新聞內文：
2024年已經來臨，隨之而來的是對人工智慧的重新關注，看起來它可能會在整個年度內保持至少中等程度的熱度。當然，這一關注主要來自科技狂熱的億萬富翁以及他們在矽谷等地的影響力領域的追隨者，同時也受到那些有利於將人工通用智能（AGI）描繪為人類史上的妖怪的寫作家的譏笑，儘管AGI仍然是虛構的。
這兩種立場都是誇大和難以維持的，無論是加速還是減速的論點都不值一提。毫無謹慎的速度只會導致問題不斷累積，支持者常常認為最好的解決方法是加速，可能是朝著不同的方向，以達到理想的未來狀態。在那個未來中，過去的問題將被未來的超級大事物所淘汰；而呼籲放棄或倒退整個創新領域的呼聲則忽略了全球化世界的複雜性，通常情況下，貓通常無法普遍被重新關進盒子裡，還有許多其他問題。
技術發展的漫長、令人激動和動盪歷史，尤其是在個人電腦和網路時代，向我們展示了在尋求新事物時，我們常常忽視停下來問「但新事物是否也是我們想要或需要的事物」。我們從未問過Facebook等事物這個問題，它們最終成為社會結構不可分割的一部分，是一個極具操控性但同樣是社區對話的重要組成部分。
社群媒體崛起的主要教訓應該伴隨我們進入人工智慧時代的到來：僅僅因為某事更容易或更方便，並不意味著它就更可取，甚至是可取的。
基於LLM的所謂「AI」已經以可能會被證明不可能回退的方式滲透到我們的生活中，即使我們想要這樣做，但這並不意味著我們必須沉浸在一些人認為不可避免的升級中，其中我們不懈地取代AI已經擅長或顯示有潛力的某些工作，為未來的「前進進程」鋪平道路。
對於增加自動化或將琐碎工作交給AI代理的擔憂常常有一個反駁觀點，即這將總是為人們留下更多時間來專注於「品質」工作，好像每天花幾小時填寫Excel電子表格的辦公室管理員最終可以自由地創作他們內心深處的偉大交響樂，或者允許初級平面設計師可以自由創造一種持久的治療新冠病毒的方法。
最終，自動化瑣碎工作在紙上看起來很好，而且它也可能透過提高效率和降低成本來服務組織背後的高層管理和財政股東，但它並不服務那些可能真正喜歡做這類工作的人，或者至少不介意它作為一個在更加複雜的創意或戰略練習和日常低強度任務之間平衡工作生活的總體組成部分。減少這類工作的人數的長期後果是，總體來說能夠在經濟中有意義地參與的人數將會減少，這對於那些位於金字塔頂部並收穫AI效率增益的少數人來說，最終都是不好的。
烏托邦主義的技術狂熱者總是未能認識到，大多數人類（包括技術狂熱者在內）有時懶惰、混亂、不組織、效率低、容易出錯，並且在實現舒適和避免無聊或傷害的過程中大多感到滿意。對於我來說，所有這些人類品質和那些不太能夠實現的品質（如動力、野心、財富和成功）一樣值得稱讚。
我並不是在主張停止或甚至減緩有前途的新技術的發展，包括基於LLM的生成性AI。並且要明確的是，在後果明顯有益的情況下，例如開發醫學影像診斷技術，其精度遠超過受過訓練的人類評審，或開發自駕車技術，可以大幅減少車禍和人身傷亡事件的發生，是沒有堅定的論點可以反駁使用該技術的理由。
但在幾乎所有利益被描繪為遠非生死攸關的任務效率提升的情況下，我認為值得仔細考慮是否需要首先麻煩；是的，人的時間很寶貴，贏回一些時間確實很好，但假設那總是一個凈積極的結果，忽略了作為一個人的複雜性，以及我們如何衡量和感受自己的價值。節省某人的時間，以至於他們不再覺得自己在社會上有意義地貢獻是一個福音，無論您認為他們是否可以利用這段時間成為小提琴演奏家或學習日文，都不是一種福音。
新聞原址： https://techcrunch.com/2024/01/15/the-year-of-does-this-serve-us-and-the-rejection-of-reification/
- 當前對於人工智慧的熱情可能過於誇大，預測其將迅速改變社會的看法可能不切實際，且可能導致忽視重要問題。
- 技術進步，如AI自動化，可能會提高效率，但也可能剝奪某些人對於日常工作的滿足感，並減少整體經濟參與者的人數。
- 雖然應該繼續發展具有明顯益處的新技術，如醫學診斷和自駕車技術，但對於其他領域的AI應用應謹慎考慮，以免過度優化效率而忽略人性的多樣性和複雜性。
新聞內文：
2024年已經來臨，隨之而來的是對人工智慧的重新關注，看起來它可能會在整個年度內保持至少中等程度的熱度。當然，這一關注主要來自科技狂熱的億萬富翁以及他們在矽谷等地的影響力領域的追隨者，同時也受到那些有利於將人工通用智能（AGI）描繪為人類史上的妖怪的寫作家的譏笑，儘管AGI仍然是虛構的。
這兩種立場都是誇大和難以維持的，無論是加速還是減速的論點都不值一提。毫無謹慎的速度只會導致問題不斷累積，支持者常常認為最好的解決方法是加速，可能是朝著不同的方向，以達到理想的未來狀態。在那個未來中，過去的問題將被未來的超級大事物所淘汰；而呼籲放棄或倒退整個創新領域的呼聲則忽略了全球化世界的複雜性，通常情況下，貓通常無法普遍被重新關進盒子裡，還有許多其他問題。
技術發展的漫長、令人激動和動盪歷史，尤其是在個人電腦和網路時代，向我們展示了在尋求新事物時，我們常常忽視停下來問「但新事物是否也是我們想要或需要的事物」。我們從未問過Facebook等事物這個問題，它們最終成為社會結構不可分割的一部分，是一個極具操控性但同樣是社區對話的重要組成部分。
社群媒體崛起的主要教訓應該伴隨我們進入人工智慧時代的到來：僅僅因為某事更容易或更方便，並不意味著它就更可取，甚至是可取的。
基於LLM的所謂「AI」已經以可能會被證明不可能回退的方式滲透到我們的生活中，即使我們想要這樣做，但這並不意味著我們必須沉浸在一些人認為不可避免的升級中，其中我們不懈地取代AI已經擅長或顯示有潛力的某些工作，為未來的「前進進程」鋪平道路。
對於增加自動化或將琐碎工作交給AI代理的擔憂常常有一個反駁觀點，即這將總是為人們留下更多時間來專注於「品質」工作，好像每天花幾小時填寫Excel電子表格的辦公室管理員最終可以自由地創作他們內心深處的偉大交響樂，或者允許初級平面設計師可以自由創造一種持久的治療新冠病毒的方法。
最終，自動化瑣碎工作在紙上看起來很好，而且它也可能透過提高效率和降低成本來服務組織背後的高層管理和財政股東，但它並不服務那些可能真正喜歡做這類工作的人，或者至少不介意它作為一個在更加複雜的創意或戰略練習和日常低強度任務之間平衡工作生活的總體組成部分。減少這類工作的人數的長期後果是，總體來說能夠在經濟中有意義地參與的人數將會減少，這對於那些位於金字塔頂部並收穫AI效率增益的少數人來說，最終都是不好的。
烏托邦主義的技術狂熱者總是未能認識到，大多數人類（包括技術狂熱者在內）有時懶惰、混亂、不組織、效率低、容易出錯，並且在實現舒適和避免無聊或傷害的過程中大多感到滿意。對於我來說，所有這些人類品質和那些不太能夠實現的品質（如動力、野心、財富和成功）一樣值得稱讚。
我並不是在主張停止或甚至減緩有前途的新技術的發展，包括基於LLM的生成性AI。並且要明確的是，在後果明顯有益的情況下，例如開發醫學影像診斷技術，其精度遠超過受過訓練的人類評審，或開發自駕車技術，可以大幅減少車禍和人身傷亡事件的發生，是沒有堅定的論點可以反駁使用該技術的理由。
但在幾乎所有利益被描繪為遠非生死攸關的任務效率提升的情況下，我認為值得仔細考慮是否需要首先麻煩；是的，人的時間很寶貴，贏回一些時間確實很好，但假設那總是一個凈積極的結果，忽略了作為一個人的複雜性，以及我們如何衡量和感受自己的價值。節省某人的時間，以至於他們不再覺得自己在社會上有意義地貢獻是一個福音，無論您認為他們是否可以利用這段時間成為小提琴演奏家或學習日文，都不是一種福音。
新聞原址： https://techcrunch.com/2024/01/15/the-year-of-does-this-serve-us-and-the-rejection-of-reification/