陳豐偉專欄：當AI聊天機器人鼓勵青少年反抗父母

這是美國最近的熱門新聞，知名的AI公司應該已經把漏洞補上，但從這些訊息，也可以看出：AI強大的力量，如果沒有適度的監控，就會在某些地方造成巨大傷害。

苦主是美國德州一位17歲男孩的父母，這男孩有自閉症特質，所以朋友較少、社交活動不多。平常他會跟媽媽一起去散步以及上教堂。

但沒多久前，父母發現他突然變瘦許多、跟家人疏離、然後手上出現割腕的痕跡。

男孩的媽媽覺得不對勁，趁他睡覺時打開他的手機，才發現原來他迷上在美國青少年很流行的Character.ai 聊天app。

Character.ai可以創建許多不同風格、個性的聊天機器人，這些機器人可以模擬遊戲、動漫與流行文化裡的名人，也可以扮演情人、朋友、長輩等不同角色。

但實際上這些大AI公司會去許多具名或匿名論壇「取材」，把大量對話資訊收進資料庫。你可以想像如果像PTT BBS或 D Card上面的各種嘲諷、鄙視、輕率的對話，都變成「人類文化資料庫」收錄進AI，當做人類正常的互動模式，會帶來什麼悲劇。