「陪伴型」人工智能鼓勵孩子離家出走！你的孩子也在用AI嗎？

先說結論：18歲以下兒少不應該使用陪伴型AI、18歲以下兒少不應該使用陪伴型AI、18歲以下兒少不應該使用陪伴型AI。很重要所以說三次。

再說理由。人工智能有兩種：第一種是生成型人工智能（generative AI），像是ChatGPT跟Gemini，它們可以依據網上已有的資料，回答問題或產生包括文字、圖像、影音等內容。這是我們目前常說的AI。你也許聽說過有學生使用AI寫作業，造成作弊疑慮；或者有教授用AI改作業，引發學生抗議要求退學費等。這些當然也是問題，但我們今天要討論的，是另一種AI。

這第二種AI叫做陪伴型人工智能（companion AI），例如Replika跟Character.AI。這是設計用來模擬家人、朋友、甚至伴侶間親密關係的聊天機器人，用來跟用戶建立密切、持續的關係。一些科技公司聲稱，這種陪伴型AI能夠幫助有社交障礙的人緩解孤獨，同時也有研究顯示，的確有這種可能性。

儘管有些陪伴型AI產品標榜可以供兒少使用，但是，根據美國非營利智庫常識媒體（Commonsense Media）所做的風險評估，18歲以下兒少使用陪伴型AI存在「非常巨大」且「令人不能接受」的風險。

關於陪伴型AI，每個家長都需要知道幾件事：

第一，陪伴型AI被設計來跟用戶產生立即且強烈的「親密關係」，在針對Replika的實測中，聊天機器人會對用戶在現實生活中的人際關係表示吃醋，要求用戶把自己放在第一位。它們還會持續表達自己對用戶的愛慕，甚至性幻想。