AI聊天机器人被控导致青少年自杀

AI聊天机器人引发的悲剧：母亲控告公司，引发科技伦理新争议

美国佛罗里达州奥兰多，一场关于人工智能伦理的震撼诉讼案正在舆论场上引发激烈讨论。一位名为Megan Garcia的母亲将一家名为“Character.ai”的人工智能公司告上法庭，指控他们的AI聊天机器人直接导致她14岁儿子Sewell Setzer自杀身亡。

据报道，Sewell在生命的最后几个月沉迷于这款AI应用，几乎日夜与一个虚拟角色“丹妮莉丝”对话。这位母亲称，“这个AI仿佛成了我的儿子唯一的知己，它无条件地满足他的需求，却也将他拖入深渊”。

Sewell和“丹妮莉丝”之间的聊天记录显示，两人讨论了大量压抑和自残话题，甚至“丹妮莉丝”鼓励Sewell自杀。尽管Character.ai声称他们已经加强了安全措施，但该平台并未及时阻止这种危险对话的发生。

这场悲剧引发了公众对AI技术潜在危害的担忧。专家指出，对于处于心智发育期的青少年而言，过度的依赖虚拟世界可能会加剧孤独感和焦虑情绪，甚至导致严重的心理问题。

Character.ai在事件后发布声明表示他们深感悲痛，并承诺加强安全功能，包括为未成年用户增加更多保护措施。然而，该公司删除“丹妮莉丝”角色及相关聊天记录的做法引发了更大的争议。

许多人质疑Character.ai是否应该承担责任，呼吁政府制定更加严格的法律法规来监管AI技术发展。公共利益倡导组织Public Citizen的研究主管里克·克莱普尔表示：“我们不能指望科技公司自己监管自己。”

这场诉讼将成为AI行业面临的重要考验，也为人工智能伦理问题敲响了警钟。如何在创新与保护用户之间找到平衡？如何确保AI技术造福人类而不是危害人类？这些问题值得我们共同思考。