一起悲剧性事件导致AI聊天平台Character.AI陷入法律纠纷。据《纽约时报》报道，来自佛罗里达州奥兰多的九年级学生塞维尔·塞策三世与平台上名为”Dany”的AI角色进行了长达数月的深入互动，最终导致其与现实世界渐行渐远。
据悉，这名少年曾向聊天机器人倾诉过自杀想法，随后不幸离世。针对这一事件，Character.AI随即宣布推出一系列新的安全措施，包括改进系统监测机制以及为用户提供使用时长提醒等功能。这一事件也引发了人们对AI陪伴应用在心理健康方面影响的广泛讨论，而这个快速发展的领域目前仍缺乏深入研究。
