Blog
OpenAI與Common Sense Media合作，共同塑造兒童友好的AI環境，為家庭和青少年提供更安全的數位體驗。
OpenAI與Common Sense Media合作，共同塑造兒童友好的AI環境，為家庭和青少年提供更安全的數位體驗。
January 31, 2024
重點摘要：
- OpenAI宣布與Common Sense Media合作，共同制定針對兒童和青少年的AI指南和教育材料，以確保AI工具對他們有積極影響。
- 合作包括在GPT Store中製作「家庭友好型」的GPTs，這些聊天機器人基於Common Sense的評級和評估標準，旨在提供更安全的使用體驗。
- OpenAI面臨壓力，要向監管機構證明其基於GenAI的應用程式對社會有益，並努力教育家庭和教育工作者關於安全使用AI工具的知識。
新聞內文：
OpenAI正在努力贏得父母和政策制定者的信任，通過與致力於減少兒童、青少年和青少年科技和媒體危害的組織合作。作為一個案例，OpenAI今天宣布與Common Sense Media合作，這是一個非營利組織，該組織審查和評估各種媒體和科技對兒童的適用性，以便共同制定針對父母、教育工作者和年輕人的AI指南和教育材料。
OpenAI執行長山姆·奧特曼表示，作為合作的一部分，OpenAI將與Common Sense Media合作，在GPT Store中製作「家庭友好型」的GPTs，它由OpenAI的GenAI模型驅動的聊天機器人應用程式，基於Common Sense的評級和評估標準。
奧特曼在一份預先製作的聲明中補充說：「AI為家庭和青少年提供了令人難以置信的好處，我們與Common Sense的合作將進一步加強我們的安全工作，確保家庭和青少年可以自信地使用我們的工具」。
此合作的推出是在OpenAI表示將參與Common Sense去年九月推出的新框架之後，該框架用於評估AI產品的安全性、透明度、道德使用和影響。Common Sense的框架目的在為基於AI的應用程式提供一個「營養標簽」，根據Common Sense的共識原則，該標簽旨在闡明應用程式的使用情境，並突顯潛在機會和危害領域。
在一份新聞稿中，史泰爾（Steyer）提到，如今的父母普遍對GenAI工具（例如OpenAI的病毒AI驅動的聊天機器人ChatGPT）的了解程度比年輕一代要低。去年底，由Common Sense Media委託進行的一項Impact Research民意調查發現，12至18歲的學生中有58%使用過ChatGPT，而學齡兒童的父母中只有30%使用過。
史泰爾在一封電子郵件聲明中表示：「Common Sense和OpenAI將共同努力確保AI對所有青少年和家庭都有積極的影響。我們的指南和策劃將旨在教育家庭和教育工作者有關安全、負責任地使用[OpenAI工具，例如] ChatGPT的知識，以便我們能夠共同避免這一新興技術的任何意外後果」。
OpenAI面臨壓力，要向監管機構證明其基於GenAI的應用程式，包括ChatGPT，對社會是總體上有益的，而不是有害的。就在去年夏天，美國聯邦貿易委員會（FTC）對OpenAI展開了調查，以查明ChatGPT是否通過收集數據和發佈關於個人的虛假陳述而損害了消費者的利益。歐洲數據管理機構也對OpenAI的私人訊息處理表示擔憂。
OpenAI的工具，像所有GenAI工具一樣，傾向於自信地捏造事實並犯基本錯誤。而且它們存在偏見，反映了用於訓練它們的數據。
無論孩子和青少年是否了解這些工具的局限性，他們越來越多地將這些工具用於學校作業和個人問題。根據民主和技術中心（Center for Democracy and Technology）的一項調查，有29%的孩子表示曾使用ChatGPT處理焦慮或心理健康問題，22%的孩子用於應對與朋友的問題，16%的孩子用於處理家庭糾紛。
新聞原址： https://techcrunch.com/2024/01/29/openai-partners-with-common-sense-media-to-collaborate-on-ai-guidelines/