青少年自殺事件發生後Character.AI增加了一項新的家長監護功能
Character.AI在一份新公告中推出了「家長洞察」功能,該公司表示,該功能標誌著「向家長提供有關其孩子在Character.AI上所花時間的資訊」的第一步。

Character.AI 是一種AI 聊天機器人,與ChatGPT 類似,但它允許與AI 生成的角色進行對話。如果任何人(包括兒童)都可以與AI 生成的角色聊天的想法聽起來像是災難的根源,那麼你可能沒錯。
Character.AI涉及的備受矚目的案件 之一是,據報道,一名14 歲男孩受到聊天機器人的鼓勵而自殺,而他真的這麼做了,這引發了男孩母親的訴訟,她認為聊天機器人的設計使其容易上癮且很危險,尤其是對於年輕用戶而言。
如果你想知道Character.AI 的案件進展如何,該公司最近提交了一份駁回動議,聲稱第一修正案保護其平台上的人工智慧生成內容。該公司的律師辯稱,讓他們對人工智慧聊天機器人的言論負責會侵犯言論自由的權利。
Parental Insights 是Character.AI的最新功能,旨在幫助家長了解和監控青少年在平台上的活動。透過Parental Insights,家長可以獲得青少年在平台上活動的資訊:
- 在網路和行動裝置平台上每天平均花費的時間。
- 青少年在一週內互動最頻繁的熱門人物。這不包括用戶的聊天內容。
- 與每個角色相處的時間,讓父母了解參與模式。
Character.AI表示,青少年可以將父母或監護人的電子郵件地址添加到他們的帳戶中,以便每週發送包含此資訊的報告。以下是該公司提供的一張圖表,展示了整個流程,從添加父母的電子郵件地址到透過同一電子郵件地址接收每週報告。
Character.AI並不是唯一一個致力於改善家長監護和青少年安全的平台。本月,TikTok增加了幾項功能,其中包括家庭配對功能,允許家長查看他們的孩子在平台上關注誰,另一個功能允許家長在TikTok 上設定時間限制。