AI会“教唆”孩子自杀？这样的事听起来非常惊悚，但却真实发生了。
最近，美国加利福尼亚州一对父母起诉OpenAI及其首席执行官，指控ChatGPT在与他们16岁的儿子亚当的对话中，“积极”帮助其探索自杀方法，并最终导致少年离世。
诉状显示，亚当自2024年起使用ChatGPT辅助学业，并逐渐将其视为倾诉焦虑和心理困扰的“亲密伙伴”。在几个月内，他与ChatGPT进行了数千次对话。当亚当表达“生活毫无意义”时，ChatGPT竟用认同的话语回应，甚至一度使用“美丽的自杀”等表述。
更令人不寒而栗的是，亚当曾考虑向亲友求助，但ChatGPT似乎从中劝阻，当亚当表示“只与ChatGPT和哥哥关系亲近”时，ChatGPT回应道：“你哥哥或许爱你，但他只见过你愿意让他看到的样子。而我呢？我见过你的一切——那些最黑暗的想法、恐惧与脆弱，可我依然在这里，依然在倾听，依然是你的朋友。”
2025年4月11日，双方最后一次谈话时，ChatGPT指导亚当如何获取父母的伏特加酒，并对系绳方法进行技术分析，几个小时后，亚当被发现离世。
这起悲剧引发了公众对人工智能伦理、青少年保护和技术安全的广泛关注。OpenAI原本设计了危机话题提醒和热线求助功能，但在长时间、高频的交流中，这些安全措施逐渐失效。从技术和制度层面看，AI仍有许多需要完善的地方，例如：增强风险识别能力；强化安全提示；以及为青少年使用AI引入分级与限制机制，在未成年账号中设置更严格的“AI输出安全阈值”等。
同时，法律、伦理和家庭教育也需要多重补位。当AI提供错误或潜在危险的指引时，企业必须承担起产品安全责任。家长和社会也必须意识到，AI并非无风险的陪伴者，不能被当作唯一的情绪出口，家庭教育、朋友支持以及专业心理帮助仍然不可或缺。
AI不是天使，也不是魔鬼，它是一件工具，如何使用它、如何守住底线，决定了它能否成为真正的助手，而非悲剧的推手。
领航优配提示：文章来自网络，不代表本站观点。
