Blog
Paytm創辦人Vijay Shekhar Sharma在OpenAI的部落格表示，超級智慧AI可能導致人類滅絕，並對此表示「擔憂」。
Paytm創辦人Vijay Shekhar Sharma在OpenAI的部落格表示，超級智慧AI可能導致人類滅絕，並對此表示「擔憂」。
July 10, 2023
依照OpenAI的說法，一種假設的智慧體，其擁有的智慧超過所有最聰明和最有才華的人，可能會在這十年內出現。
Paytm的執行長Vijay Shekhar Sharma在閱讀了ChatGPT創建者OpenAI的一篇部落格文章後提出了擔憂，該文指出超級智慧人工智慧（AI）所擁有的巨大力量可能導致人類失去力量，甚至可能導致人類滅絕。
根據OpenAI的說法，一種假設的智慧體，其擁有的智慧超過所有最聰明和最有才華的人，可能會在這十年內出現。
Sharma在一條推文中說：“這裡有一篇本周完成的OpenAI部落格文章：不到7年的時間，我們可能會有一個系統導致人類失去力量，甚至可能會導致人類滅絕。我真的對某些人群和選擇的國家已經累積起來的權力感到擔憂。”
OpenAI在7月5日發表的一篇部落格文章中說：“超級智慧將是人類發明的最具影響力的技術，並可能幫助我們解決世界上許多最重要的問題。但是超級智慧的巨大力量也可能非常危險，可能導致人類失去權力，甚至可能導致人類滅絕。”
OpenAI還補充說，“儘管超級智慧現在似乎遙不可及，但我們相信它可能在本十年內到來。”
OpenAI說：“管理這些風險將需要新的治理機構和解決超級智慧對齊問題等措施。”
OpenAI表示，該公司正在計劃投入大量資源並創建一個新的研究團隊，該團隊將尋求確保其人工智慧對人類保持安全 - 最終使用AI來監督自身。
“目前，我們還沒有解決方案來引導或控制可能的超級智慧AI，並防止它背離規範。我們目前對齊AI的技術，如從人類反饋中的強化學習，都依賴於人類對AI的監督能力。但是，人類將無法可靠地監督比我們更聰明的AI系統，因此我們目前的對齊技術將無法擴展到超級智慧。我們需要新的科學和技術突破，"該OpenAI部落格說。
Paytm的執行長Vijay Shekhar Sharma在閱讀了ChatGPT創建者OpenAI的一篇部落格文章後提出了擔憂，該文指出超級智慧人工智慧（AI）所擁有的巨大力量可能導致人類失去力量，甚至可能導致人類滅絕。
根據OpenAI的說法，一種假設的智慧體，其擁有的智慧超過所有最聰明和最有才華的人，可能會在這十年內出現。
Sharma在一條推文中說：“這裡有一篇本周完成的OpenAI部落格文章：不到7年的時間，我們可能會有一個系統導致人類失去力量，甚至可能會導致人類滅絕。我真的對某些人群和選擇的國家已經累積起來的權力感到擔憂。”
OpenAI在7月5日發表的一篇部落格文章中說：“超級智慧將是人類發明的最具影響力的技術，並可能幫助我們解決世界上許多最重要的問題。但是超級智慧的巨大力量也可能非常危險，可能導致人類失去權力，甚至可能導致人類滅絕。”
OpenAI還補充說，“儘管超級智慧現在似乎遙不可及，但我們相信它可能在本十年內到來。”
OpenAI說：“管理這些風險將需要新的治理機構和解決超級智慧對齊問題等措施。”
OpenAI表示，該公司正在計劃投入大量資源並創建一個新的研究團隊，該團隊將尋求確保其人工智慧對人類保持安全 - 最終使用AI來監督自身。
“目前，我們還沒有解決方案來引導或控制可能的超級智慧AI，並防止它背離規範。我們目前對齊AI的技術，如從人類反饋中的強化學習，都依賴於人類對AI的監督能力。但是，人類將無法可靠地監督比我們更聰明的AI系統，因此我們目前的對齊技術將無法擴展到超級智慧。我們需要新的科學和技術突破，"該OpenAI部落格說。