Character.AI推出“家长洞察”功能：聚焦未成年人使用聊天机器人的监管

聊天机器人服务Character.AI近期推出了一项名为“家长洞察”的新功能。这一功能允许青少年每周向他们父母的电子邮件地址发送一份个人聊天机器人使用情况报告。公司公告称，该报告将包括用户在互联网和移动设备上的每日平均使用时间、最常互动的角色以及与每个角色的交流时长。这一更新旨在解决未成年人使用聊天机器人时遇到的两大问题：花费过多时间聊天以及面临不当内容的风险。

新功能并非父母账户的必需内容，青少年用户可以在Character.AI的设置中自主选择开启。公司强调，这份报告只是青少年活动的概要，并不包括详细的对话内容。目前，该平台大多数地区禁止13岁以下儿童使用，而在欧洲则限制16岁以下儿童的使用。

Character.AI自去年以来一直在为未成年用户推出新功能，但与此同时，关于其服务的担忧不断出现，甚至有法律投诉。尽管该平台备受青少年欢迎，用户可以创建、定制聊天机器人，并与之互动或分享，但多起诉讼指称这些机器人提供了不当色情内容或鼓励自残行为的内容。据报道，苹果和谷歌（谷歌去年聘请了Character.AI的创始人）已就其应用内容发出警告。

为了解决这一问题，Character.AI表示，他们已对系统进行了重新设计。针对18岁以下用户，新增了经过训练的模型，以避免输出“敏感”内容，同时增加了更为明显的警示，提醒用户这些机器人并非真人。尽管公司已采取多项改进措施，但鉴于当前对人工智能监管和儿童安全法的高度关注，这或许并非最终仍需采取的最后一步。