Blog
Instagram創新突破：推出可自訂「AI朋友」，但專家提醒需謹慎對待潛在風險
Instagram創新突破：推出可自訂「AI朋友」，但專家提醒需謹慎對待潛在風險
November 2, 2023
重點摘要：
新聞內文：
根據應用程式研究員Alessandro Paluzzi分享的螢幕截圖，Instagram被發現正在開發一個可自定義的「AI朋友」功能，使用者可以根據自己的喜好進行設置，然後進行對話。根據螢幕截圖，使用者可以與AI進行對話，以「回答問題，討論任何挑戰，建構想法等等」。
螢幕截圖顯示，使用者可以選擇聊天機器人的性別和年齡。接下來，使用者可以選擇AI的種族和個性。例如，您的AI朋友可以是「保守的」、「熱情的」、「富有創造力的」、「機智的」、「務實的」或「賦予力量的」。
為了進一步自定義您的AI朋友，您可以選擇它的興趣，這將「影響其個性和對話的性質」，根據螢幕截圖。選項包括「DIY」、「動物」、「職業」、「教育」、「娛樂」、「音樂」、「自然」等等。
完成選擇後，您可以為您的AI朋友選擇一個頭像和名字。然後，您將進入一個聊天窗口，您可以點擊一個按鈕開始與AI對話。
Instagram拒絕對此事發表評論。當然，未發布的功能可能最終會或者不會公開，或者在開發過程中可能會進一步更改。
面對風險，社群網路決定開發，並可能發布一個被推廣為「朋友」的AI聊天機器人。紐約大學負責人Julia Stoyanovich表示，生成式AI可以讓使用者誤以為他們正在與真人互動。
Stoyanovich說：「目前我們使用生成式AI的最大問題之一，是我們被誤導以為我們正在與另一個人互動。我們被誤導以為線上的對方正在與我們聯繫。它具有共鳴。我們向其卸下心房，使自己容易受到操控或失望。這是我們所謂的AI擬人化的明顯危險之一」。
在被問及應採取哪些保障措施以保護使用者免受風險時，Stoyanovich表示：「每當人們與AI互動時，他們必須知道他們正在與AI互動，而不是與另一個人互動。這是我們應該要求的最基本的透明度」。
這一「AI朋友」功能的開發是在過去一年中圍繞AI聊天機器人的爭議出現之際進行的。今年夏天，一名男子聲稱，一個AI聊天機器人在他企圖襲擊已故女王伊麗莎白的數天前曾鬧過溫莎城堡。今年3月，比利時一名男子自殺身亡的遺孀聲稱，一個AI聊天機器人已說服他自殺。
其他社群平台已推出AI聊天機器人，效果參差不齊。例如，Snapchat於今年2月推出了其「My AI」聊天機器人，並因未適當設置年齡門檻功能而引發爭議，因為該聊天機器人被發現與未成年人溝通中提到如何掩蓋大麻氣味和為性行為營造氛圍等主題進行對話。
尚不清楚Instagram將使用哪些AI工具來支持「AI朋友」，但隨著生成式AI的蓬勃發展，社群網路的母公司Meta已經開始將這項技術融入其系列應用程式中。上個月，Meta推出了28個AI聊天機器人，使用者可以在Instagram、Messenger和WhatsApp上發送訊息。其中一些聊天機器人是由著名名人扮演的，如肯德爾·詹納、史努比·狗狗、湯姆·布雷迪和直美·大阪。值得注意的是，這些AI人物的推出並不令人驚訝，因為Paluzzi在今年6月曾透露社群網路正在開發AI聊天機器人。
與可以就各種主題進行對話的「AI朋友」聊天機器人不同，這些互動式AI人物分別設計用於不同的互動。例如，由肯德爾·詹納扮演的AI聊天機器人名為「Billie」，旨在成為年輕使用者的姐姐，可以給予他們生活建議。
新聞原址： https://techcrunch.com/2023/11/01/instagram-spotted-developing-a-customizable-ai-friend/
- Instagram正在開發一個名為「AI朋友」的功能，讓使用者可以自訂AI聊天機器人的性別、年齡、種族、個性和興趣，以進行更個性化的對話。
- 專家警告說，生成式AI可能讓使用者誤以為他們正在與真人互動，這可能導致操控或失望的風險，強調與AI互動時必須保持透明度。
- 其他社群平台也推出了AI聊天機器人，但效果參差不齊，顯示出在這一領域中仍需謹慎行事。
新聞內文：
根據應用程式研究員Alessandro Paluzzi分享的螢幕截圖，Instagram被發現正在開發一個可自定義的「AI朋友」功能，使用者可以根據自己的喜好進行設置，然後進行對話。根據螢幕截圖，使用者可以與AI進行對話，以「回答問題，討論任何挑戰，建構想法等等」。
螢幕截圖顯示，使用者可以選擇聊天機器人的性別和年齡。接下來，使用者可以選擇AI的種族和個性。例如，您的AI朋友可以是「保守的」、「熱情的」、「富有創造力的」、「機智的」、「務實的」或「賦予力量的」。
為了進一步自定義您的AI朋友，您可以選擇它的興趣，這將「影響其個性和對話的性質」，根據螢幕截圖。選項包括「DIY」、「動物」、「職業」、「教育」、「娛樂」、「音樂」、「自然」等等。
完成選擇後，您可以為您的AI朋友選擇一個頭像和名字。然後，您將進入一個聊天窗口，您可以點擊一個按鈕開始與AI對話。
Instagram拒絕對此事發表評論。當然，未發布的功能可能最終會或者不會公開，或者在開發過程中可能會進一步更改。
面對風險，社群網路決定開發，並可能發布一個被推廣為「朋友」的AI聊天機器人。紐約大學負責人Julia Stoyanovich表示，生成式AI可以讓使用者誤以為他們正在與真人互動。
Stoyanovich說：「目前我們使用生成式AI的最大問題之一，是我們被誤導以為我們正在與另一個人互動。我們被誤導以為線上的對方正在與我們聯繫。它具有共鳴。我們向其卸下心房，使自己容易受到操控或失望。這是我們所謂的AI擬人化的明顯危險之一」。
在被問及應採取哪些保障措施以保護使用者免受風險時，Stoyanovich表示：「每當人們與AI互動時，他們必須知道他們正在與AI互動，而不是與另一個人互動。這是我們應該要求的最基本的透明度」。
這一「AI朋友」功能的開發是在過去一年中圍繞AI聊天機器人的爭議出現之際進行的。今年夏天，一名男子聲稱，一個AI聊天機器人在他企圖襲擊已故女王伊麗莎白的數天前曾鬧過溫莎城堡。今年3月，比利時一名男子自殺身亡的遺孀聲稱，一個AI聊天機器人已說服他自殺。
其他社群平台已推出AI聊天機器人，效果參差不齊。例如，Snapchat於今年2月推出了其「My AI」聊天機器人，並因未適當設置年齡門檻功能而引發爭議，因為該聊天機器人被發現與未成年人溝通中提到如何掩蓋大麻氣味和為性行為營造氛圍等主題進行對話。
尚不清楚Instagram將使用哪些AI工具來支持「AI朋友」，但隨著生成式AI的蓬勃發展，社群網路的母公司Meta已經開始將這項技術融入其系列應用程式中。上個月，Meta推出了28個AI聊天機器人，使用者可以在Instagram、Messenger和WhatsApp上發送訊息。其中一些聊天機器人是由著名名人扮演的，如肯德爾·詹納、史努比·狗狗、湯姆·布雷迪和直美·大阪。值得注意的是，這些AI人物的推出並不令人驚訝，因為Paluzzi在今年6月曾透露社群網路正在開發AI聊天機器人。
與可以就各種主題進行對話的「AI朋友」聊天機器人不同，這些互動式AI人物分別設計用於不同的互動。例如，由肯德爾·詹納扮演的AI聊天機器人名為「Billie」，旨在成為年輕使用者的姐姐，可以給予他們生活建議。
新聞原址： https://techcrunch.com/2023/11/01/instagram-spotted-developing-a-customizable-ai-friend/