Blog
科技界新詞「p(doom)」：衡量AI末日機率，反映人類對未來的信心與擔憂
科技界新詞「p(doom)」：衡量AI末日機率，反映人類對未來的信心與擔憂
December 8, 2023
重點摘要：
新聞內文：
將俚語融入英文語言豐富了我們的生活。如果不是牛津英語詞典的年度新詞「rizz」，我們怎麼能夠表達「Baby Gronk rizzed up Livy」呢？
很顯然地，一個新詞彙正在科技界風行，它就是「p(doom)」。
它代表的是一個數學公式中的「末日機率」，詢問某人的「p(doom)」意味著詢問他們對於人工智慧是否會導致我們的末日的看法。
紐約時報寫道：
「這已經成為舊金山科技圈的一個常見話題，也是人工智慧文化中無法回避的一部分。今年我參加了兩個科技活動，有陌生人向我詢問我的「p(doom)」，就像詢問去洗手間的方向一樣自然。」
（我完全不能排除這些人實際上是在問「pee room」，只是被聽錯了。）
這是一個介於0到100之間的分數，所以：較高的「p(doom)」，如80，意味著你是一個「末日主義者」，相信我們已經越過了人工智慧安全的不可逆轉點，將我們的命運封印為人類滅亡。較低的「p(doom)」，比如5，表示只有5%的末日機會。
例如，前OpenAI研究員Paul Christiano在一個語音節目中表示，他相信人工智慧接管並殺害大多數人的機會是10%到20%。
儘管AI的末日主義最終並不是OpenAI爭端的確切原因（事實證明那只是純粹的人際糾紛），但在那些希望推動AI發展的人和像伊隆·馬斯克那樣認為我們應該減速AI發展之間存在著真實的緊張關係。
就我個人而言，我的「p(doom)」非常低，也許只有0.05。
我認為我們人類有很大的機會。人類有一種神奇和持久的特質，是人工智慧永遠無法實現的。我是說，我們發明了White Claw，然後還有一個無酒精版本！
這種天才思維只有人類的大腦才能有。
新聞原址： https://www.businessinsider.com/will-ai-destroy-humanity-pdoom-ai-number-doomer-2023-12
- 「p(doom)」是科技界新興的俚語，代表「末日機率」，用於評估人工智慧可能導致人類末日的機率。
- 「p(doom)」的數值介於0到100之間，高值表示對AI導致人類末日的強烈擔憂，低值則表示相對樂觀的看法。
- 儘管對AI的末日主義存在爭議，但人類的創造力和適應性被視為AI無法實現的特質，反映出對人工智慧未來的樂觀態度。
新聞內文：
將俚語融入英文語言豐富了我們的生活。如果不是牛津英語詞典的年度新詞「rizz」，我們怎麼能夠表達「Baby Gronk rizzed up Livy」呢？
很顯然地，一個新詞彙正在科技界風行，它就是「p(doom)」。
它代表的是一個數學公式中的「末日機率」，詢問某人的「p(doom)」意味著詢問他們對於人工智慧是否會導致我們的末日的看法。
紐約時報寫道：
「這已經成為舊金山科技圈的一個常見話題，也是人工智慧文化中無法回避的一部分。今年我參加了兩個科技活動，有陌生人向我詢問我的「p(doom)」，就像詢問去洗手間的方向一樣自然。」
（我完全不能排除這些人實際上是在問「pee room」，只是被聽錯了。）
這是一個介於0到100之間的分數，所以：較高的「p(doom)」，如80，意味著你是一個「末日主義者」，相信我們已經越過了人工智慧安全的不可逆轉點，將我們的命運封印為人類滅亡。較低的「p(doom)」，比如5，表示只有5%的末日機會。
例如，前OpenAI研究員Paul Christiano在一個語音節目中表示，他相信人工智慧接管並殺害大多數人的機會是10%到20%。
儘管AI的末日主義最終並不是OpenAI爭端的確切原因（事實證明那只是純粹的人際糾紛），但在那些希望推動AI發展的人和像伊隆·馬斯克那樣認為我們應該減速AI發展之間存在著真實的緊張關係。
就我個人而言，我的「p(doom)」非常低，也許只有0.05。
我認為我們人類有很大的機會。人類有一種神奇和持久的特質，是人工智慧永遠無法實現的。我是說，我們發明了White Claw，然後還有一個無酒精版本！
這種天才思維只有人類的大腦才能有。
新聞原址： https://www.businessinsider.com/will-ai-destroy-humanity-pdoom-ai-number-doomer-2023-12