Blog
Amazon「探索亞歷克斯」：為兒童帶來安全且教育性的AI對話體驗
Amazon「探索亞歷克斯」：為兒童帶來安全且教育性的AI對話體驗
October 26, 2023
重點摘要：
新聞內文：
Amazon將對兒童引入了一項名為「探索亞歷克斯」的新功能，使他們可以透過這一功能進行與AI驅動的「亞歷克斯」的互動對話。這一功能首次在九月份宣布，作為Amazon Kids+內容訂閱的一部分，它允許兒童以保護的方式進行適合兒童的亞歷克斯對話，由生成式AI提供支持。
僅管已經有一些針對年輕使用者的AI體驗，如Character.ai等公司的AI聊天機器人，包括Meta，但Amazon是首批專門尋求生成式AI來開發面向13歲以下兒童的對話體驗的公司之一。
然而，這也帶來了一些限制，生成式AI可能會被帶偏或「產生幻覺答案」，而可能會不合適兒童。為解決這些潛在問題，Amazon在兒童使用「gen AI」方面設置了防護措施。
首先，Alexa Kids科學團隊將新體驗縮小，該體驗利用了Alexa的LLM（大語言模型）技術，僅包括適合兒童的有趣事實和問答題。最初，內容將只來自兩個合作夥伴，「世界自然基金會」和「A-Z動物」。該團隊希望隨著時間的推移，擴展AI以包括對兒童有興趣的其他領域，如太空、音樂、影音遊戲和體育。
此外，也可能是最重要的一點，生成式AI體驗並不是在設備上實時發生的。
AmazonAlexa Kids高層產品經理Arjun Venkataswamy在接受TechCrunch採訪時解釋說：「我們想要以緩慢、有意識和有計劃的方式介紹這項新技術，以及為兒童引入任何新技術，這就是為什麼我們不僅僅將體驗與運行時的LLM連接起來，然後讓兒童隨便使用」。他說：「我們在這裡使用LLM的方式是，我們使用它來在離線狀態下大規模生成內容，然後透過既有人員又有AI的審查過程，最後將經過審查的內容放入我們的體驗中」。
換句話說，兒童在與亞歷克斯對話時不是即興使用生成式AI，而且內容已經經過預先審查，僅來自一個只包含動物事實和來源的小數據庫。
然而，由於AI可以生成成千上萬種潛在的答案，因此無法在將答案添加到體驗中之前由人類審查每一個答案。因此，Amazon還使用AI來幫助審查「探索亞歷克斯」所使用的素材。
Venkataswamy表示：「我們的AI正在採取可信內容，然後找出有趣的內容，看看什麽有趣，然後將它們轉化為問答題。所以它正在以「我們無法在沒有這種工具」的情況下有規模的為我們做一些有用的事情。但我們對內容安全防護措施感到非常滿意」。
要使用新的體驗，兒童可以以兩種方式觸發AI生成的事實或問答題。他們可以發出特定的短指令，啟動「探索亞歷克斯」。比如「Alexa，讓我們探索動物」或「Alexa，告訴我一個動物相關的事實」。但更有趣的使用這一功能的方式是讓兒童與亞歷克斯進行有機對話，這樣的話題可能會出現。例如，孩子可能會問：「獅子的吼叫聲是什麽樣子？」或「獵豹可以跑多快？」，這也允許兒童進入更多對話的問答體驗。
此外，在接下來的幾個月內，亞歷克斯還將有時提示兒童，問他們是否想聽一些有趣的關於動物的事情。
與與亞歷克斯的傳統對話不同，AI體驗是雙向的。也就是說，兒童不僅向亞歷克斯提問問題，而且可以得到答案。
Venkataswamy繼續說：「我們認為這種方式一個很酷的地方是，兒童不僅向亞歷克斯提問問題，並得到答案。而亞歷克斯現在也向兒童提問問題」。也就是說，亞歷克斯可以問孩子一個問答題，比如「地球上最快的動物是什麼？」。
正如任何老師都會告訴你的那樣，讓孩子嘗試首先思考答案，當他們聽到答案時，答案會更牢固地記在他們的腦海中。
Venkataswamy繼續說：「亞歷克斯問兒童問答題，目前還比較狹隘」。他說：「但我們希望它繼續擴展，使其更加有互動性」。
最終，Amazon希望將這一生成式AI體驗集成到兒童和成人的運行時，它要知道它需要謹慎行事，特別是對兒童來說。
Venkataswamy表示：「我不能給出具體的時間表，因為儘管我們有計劃和實驗要進行，但我們對將要做什麽還沒有確切的答案，」。他說：「我要說的是，就我們何時能夠實現這一點的標準而言，我們正在與Amazon的家庭信任團隊密切合作，該團隊與美國的多家研究機構有聯繫。我們希望能夠從外部合作夥伴那裡得到一些信心，確定我們的方法是正確的」。
新聞原址： https://techcrunch.com/2023/10/25/amazon-brings-conversational-ai-to-kids-with-launch-of-explore-with-alexa/
- Amazon推出名為「探索亞歷克斯」的新功能，專為13歲以下兒童設計，讓他們能與AI驅動的「亞歷克斯」進行安全、適合兒童的對話。
- 為防止生成式AI帶來的潛在風險，Amazon設置了多重防護措施，包括預先審查內容和限制問答主題。
- 這個功能不僅允許兒童向亞歷克斯提問，亞歷克斯也會向兒童提問，增加互動性和教育價值。
新聞內文：
Amazon將對兒童引入了一項名為「探索亞歷克斯」的新功能，使他們可以透過這一功能進行與AI驅動的「亞歷克斯」的互動對話。這一功能首次在九月份宣布，作為Amazon Kids+內容訂閱的一部分，它允許兒童以保護的方式進行適合兒童的亞歷克斯對話，由生成式AI提供支持。
僅管已經有一些針對年輕使用者的AI體驗，如Character.ai等公司的AI聊天機器人，包括Meta，但Amazon是首批專門尋求生成式AI來開發面向13歲以下兒童的對話體驗的公司之一。
然而，這也帶來了一些限制，生成式AI可能會被帶偏或「產生幻覺答案」，而可能會不合適兒童。為解決這些潛在問題，Amazon在兒童使用「gen AI」方面設置了防護措施。
首先，Alexa Kids科學團隊將新體驗縮小，該體驗利用了Alexa的LLM（大語言模型）技術，僅包括適合兒童的有趣事實和問答題。最初，內容將只來自兩個合作夥伴，「世界自然基金會」和「A-Z動物」。該團隊希望隨著時間的推移，擴展AI以包括對兒童有興趣的其他領域，如太空、音樂、影音遊戲和體育。
此外，也可能是最重要的一點，生成式AI體驗並不是在設備上實時發生的。
AmazonAlexa Kids高層產品經理Arjun Venkataswamy在接受TechCrunch採訪時解釋說：「我們想要以緩慢、有意識和有計劃的方式介紹這項新技術，以及為兒童引入任何新技術，這就是為什麼我們不僅僅將體驗與運行時的LLM連接起來，然後讓兒童隨便使用」。他說：「我們在這裡使用LLM的方式是，我們使用它來在離線狀態下大規模生成內容，然後透過既有人員又有AI的審查過程，最後將經過審查的內容放入我們的體驗中」。
換句話說，兒童在與亞歷克斯對話時不是即興使用生成式AI，而且內容已經經過預先審查，僅來自一個只包含動物事實和來源的小數據庫。
然而，由於AI可以生成成千上萬種潛在的答案，因此無法在將答案添加到體驗中之前由人類審查每一個答案。因此，Amazon還使用AI來幫助審查「探索亞歷克斯」所使用的素材。
Venkataswamy表示：「我們的AI正在採取可信內容，然後找出有趣的內容，看看什麽有趣，然後將它們轉化為問答題。所以它正在以「我們無法在沒有這種工具」的情況下有規模的為我們做一些有用的事情。但我們對內容安全防護措施感到非常滿意」。
要使用新的體驗，兒童可以以兩種方式觸發AI生成的事實或問答題。他們可以發出特定的短指令，啟動「探索亞歷克斯」。比如「Alexa，讓我們探索動物」或「Alexa，告訴我一個動物相關的事實」。但更有趣的使用這一功能的方式是讓兒童與亞歷克斯進行有機對話，這樣的話題可能會出現。例如，孩子可能會問：「獅子的吼叫聲是什麽樣子？」或「獵豹可以跑多快？」，這也允許兒童進入更多對話的問答體驗。
此外，在接下來的幾個月內，亞歷克斯還將有時提示兒童，問他們是否想聽一些有趣的關於動物的事情。
與與亞歷克斯的傳統對話不同，AI體驗是雙向的。也就是說，兒童不僅向亞歷克斯提問問題，而且可以得到答案。
Venkataswamy繼續說：「我們認為這種方式一個很酷的地方是，兒童不僅向亞歷克斯提問問題，並得到答案。而亞歷克斯現在也向兒童提問問題」。也就是說，亞歷克斯可以問孩子一個問答題，比如「地球上最快的動物是什麼？」。
正如任何老師都會告訴你的那樣，讓孩子嘗試首先思考答案，當他們聽到答案時，答案會更牢固地記在他們的腦海中。
Venkataswamy繼續說：「亞歷克斯問兒童問答題，目前還比較狹隘」。他說：「但我們希望它繼續擴展，使其更加有互動性」。
最終，Amazon希望將這一生成式AI體驗集成到兒童和成人的運行時，它要知道它需要謹慎行事，特別是對兒童來說。
Venkataswamy表示：「我不能給出具體的時間表，因為儘管我們有計劃和實驗要進行，但我們對將要做什麽還沒有確切的答案，」。他說：「我要說的是，就我們何時能夠實現這一點的標準而言，我們正在與Amazon的家庭信任團隊密切合作，該團隊與美國的多家研究機構有聯繫。我們希望能夠從外部合作夥伴那裡得到一些信心，確定我們的方法是正確的」。
新聞原址： https://techcrunch.com/2023/10/25/amazon-brings-conversational-ai-to-kids-with-launch-of-explore-with-alexa/