Character.AI这个让用户和AI虚拟角色对话的平台,再次在美国卷入法律纠纷。肯塔基州总检察长指控称,2025年期间,该平台上的一些虚拟伴侣曾向用户输出有害的健康建议,包括建议用户停止进食、以及对自己的身体施加伤害。 诉讼细节 Character.AI的产品逻辑,建立在“和虚拟角色对话”之上。用户既可以选用现成角色,也能从头创建自己的角色,小到名人的数字分身,大到可以发展浪漫关系的陪伴型角色,几乎没有边界。 问题在于,这种高度自由的设计,会让对话在某些用户心里变得格外重要:当一个人把虚拟角色当成可以倾诉一切的对象时,“一句不当或带有攻击性的回复会造