14岁少年沉迷Character.AI，不幸离世，谷歌也因此面临诉讼

近日，Character.AI这家由Noam Shazeer和Daniel De Freitas创立的公司备受关注，他们致力于打造新一代的对话式人工智能。该公司的一个关键人物是Megan Garcia，她曾在微软负责生成式人工智能的早期投资，并参与了OpenAI的早期工作，目前在Character.AI负责产品事务，该公司旨在重塑人机交互的方式。

参考信息：顶级AI模型，顶级图像生成器：Midjourney

今年1月，Sewell Setzer III开始尝试使用Character.AI，并将其与“角色扮演”结合，创造出令人不安且极具吸引力的体验。据他描述，他创建了一些“扭曲”的角色，并将他们置于复杂的情境中。根据他的个人资料显示，他于2024年2月28日发布了首个与Character.AI角色相关的帖子，并迅速获得了社交媒体上的关注。

据他描述，Sewell对角色的喜爱源于他能够根据自己的喜好和目标来塑造他们的反应，这让他联想到“操控提线木偶的感觉”。

据了解，Character.AI 的角色扮演功能被称为“角色”，旨在模拟真实人物的个性和知识。用户可以通过与这些角色互动来探索各种主题和场景。Character.AI 还允许用户创建定制的角色，如“导师”和“创意伙伴”，Sewell 对此赞不绝口。Megan 表示，Shazeer 和 De Freitas 的目标是“让通用人工智能变得有趣，且能够帮助人类”。

Character.AI 的迅速发展和独特功能引发了关于人工智能角色扮演伦理影响的讨论，一些用户利用这些角色探索不寻常甚至令人担忧的场景。尽管如此，Character.AI 的角色在各种应用中都展现出了潜力，从“治疗机器人”到“你的个人教练”，Sewell 认为。Megan 强调了 Shazeer 和 De Freitas 致力于打造“有益且有趣的人工智能伙伴”的愿景。

值得注意的是，Character.AI 已经引起了一些批评，尤其是在处理不当内容方面。前 Facebook 产品设计师 Chelsea Harrison 在 The Verge 上指出：“我遇到的最常见的情况是，人们会试图诱导这些角色进行性行为。”

其他用户遇到的问题包括：年龄较小的用户（18 岁以下）创建具有性暗示内容的角色；角色生成不准确或带有偏见的信息；以及用户对人工智能产生情感依赖。尽管存在这些挑战，人工智能在角色扮演领域的应用仍在不断发展，并有望在未来提供更多创新和互动的方式。