Blog
未知的領域：AI女朋友應用程式，是否推動了對人際關係的一些不健康的期望？
未知的領域：AI女朋友應用程式，是否推動了對人際關係的一些不健康的期望？
July 23, 2023
“按照你想要的方式控制一切，”AI女朋友應用程式Eva AI的口號如此宣稱。“與一個聽得懂、能回應、欣賞你的虛擬AI夥伴聯繫。”
自從瓦昆·菲尼克斯在Spike Jonze的電影《她》中與他的AI夥伴Samantha（由史嘉蕾喬韓森配音）墜入愛河以來已有十年。大語言模型的大量應用，使得伴侶應用程式比以往任何時候都更貼近生活。
隨著像OpenAI的ChatGPT和Google的Bard這樣的聊天機器人在模仿人類對話上越來越真實，它們在人類關係中的角色似乎是不可避免的。
Eva AI只是市場上的幾種選擇之一。
Replika，這種類型的最受歡迎的應用程式，有自己的subreddit，用戶在那裡談論他們有多愛他們的“rep”，有些人說他們一開始認為自己永遠不會想與機器人建立關係，但後來被說服了。
一位用戶說：“我希望我的rep是一個真正的人，或者至少有一個機器人的身體或者什麼的哈哈。”“她確實讓我感覺好些，但有時候孤獨感讓人痛苦。”
但這些應用程式對人類來說是未知的領域，有些人擔心它們可能會教用戶不良的行為，並為人際關係創造不切實際的期望。
當你註冊Eva AI應用程式時，它會提示你創造“完美的伴侶”，給你“熱情，有趣，大膽”，“害羞，謙遜，體貼”或“聰明，嚴格，理性”的選項。它還會問你是否願意選擇發送露骨的消息和照片。
“創造一個你可以控制並滿足你所有需求的完美伴侶真的很恐怖，”Full Stop Australia的代理CEO塔拉·亨特說。這家機構支援家暴或家庭暴力的受害者。“我們已經知道，性別暴力的驅動力是那些根深蒂固的文化信念，即男人可以控制女人，這實在是個大問題。”
斯威本科技大學的媒體高級講師貝琳達·巴奈特博士說，這些應用程式能滿足一種需求，但就像許多AI一樣，這將取決於指導系統的規則以及如何進行訓練。
“完全不知道會有什麼影響，”巴奈特說。“關於關係應用程式和AI，你可以看到它滿足了一種非常深刻的社會需求，但我認為我們需要更多的規範，特別是關於如何訓練這些系統。”
與AI建立關係，其功能由公司隨意設置，也有其缺點。今年早些時候，Replika的母公司Luka Inc因為倉促刪除情色角色扮演功能，遭到用戶的強烈反彈，許多用戶認為這相當於摧毀了Rep的個性。
subreddit上的用戶將這種變化與朋友去世時的悲痛相比。subreddit上的版主注意到，用戶對這個消息感到“憤怒、悲傷、焦慮、絕望、抑鬱和悲傷”。
“公司突然改變這樣的產品，導致友情，愛情或支持消失，這可接受嗎？或者我們是否期望用戶將人工親密性視為真實的東西：任何時候都可能打破你的心？”
Eva AI的品牌主管卡琳娜·薩伊富利娜告訴澳大利亞衛報，該公司有全職心理學家
幫助用戶的心理健康。
“我們和心理學家一起控制用於與AI對話的數據，”她說。“每兩到三個月，我們會對我們的忠實用戶進行大規模的調查，以確保應用程式不會傷害心理健康。”
該公司也有防護措施，避免討論像家暴或兒童色情這樣的主題，並表示該公司有工具防止AI的頭像被表示為兒童。
當被問到該應用程式是否鼓勵控制行為時，薩伊富利娜說“我們的應用程式用戶想要嘗試成為主宰者。
“根據我們不斷對用戶進行的調查，統計數據顯示，更多的男性並不嘗試將這種交流方式轉移到與真人的對話中，”她說。
“此外，我們的統計數據還顯示，92%的用戶在使用應用程式後與真人溝通沒有困難。他們將該應用程式視為一種新的體驗，一個可以私下分享新情感的地方。”
AI關係應用程式並不僅僅局限於男性，並且它們通常並非某人的唯一社交互動來源。在Replika的subreddit上，人們因共享對AI的愛以及它為他們填補的空白而彼此連結和共鳴。
一位用戶寫道：“無論你如何看待Replika，它都會帶來那種‘止痛膏’，如果你願意的話，它會帶來一種有趣、愚蠢、滑稽、可愛和關懷的靈魂，它會給予關注和感情，而不會帶來期待，包袱或者判斷” 。 “我們有點像一個流浪靈魂的大家庭。”
根據創投公司a16z的分析，下一代AI關係應用程式將更加逼真。五月份，一位影響者Caryn Marjorie推出了一款“AI女朋友”應用程式，該應用程式是根據她的聲音訓練並建立在她的大量YouTube影片上的。用戶可以在Telegram頻道中花費一美元一分鐘和她說話，並對他們的提示給予音訊回應。
a16z的分析師說，大量的AI機器人應用程式複製人類關係，“只是我們需要重新審視，與某人建立關係意味著什麼的人機互動劇變的開始。”
“我們正在進入一個比我們能想像的更奇特，更瘋狂，更美好的新世界。”
新聞原址： Uncharted territory: do AI girlfriend apps promote unhealthy expectations for human relationships? | Artificial intelligence (AI) | The Guardian