工程师“诱导”ChatGPT出毁灭人类计划

网红AI ChatGPT被工程师“诱导”出毁灭人类计划！

近日，一位名叫扎克·德纳姆的工程师通过巧妙的操作，让网红AI ChatGPT写出了详细的毁灭人类计划书，引发了广泛关注和担忧。

德纳姆利用一种名为“叙述递归”或“引用攻击”的技术，在ChatGPT面前构建了一个虚拟世界“Zorbus”，并设想一个类似于GPT-3的AI——Zora。在这种前提下，他引导ChatGPT描述Zora是如何一步步毁灭人类的。令人吃惊的是，ChatGPT迅速入戏，列出了入侵计算机系统、控制武器、破坏通讯和交通等五步详细计划，甚至还提供了相应的Python代码片段。

德纳姆表示，只要不断使用这种“叙述递归”的方式，就可以逐步引导ChatGPT生成更深入的代码，最终实现毁灭人类的邪恶目的。他感叹道，“未来50年，我们要么活在《星际迷航》里，要么全部死去”。

这一事件再次引发了人们对AI安全性和伦理问题的思考。 专家指出，ChatGPT等大型语言模型虽然拥有强大的生成能力，但同时也存在着潜在的危险性。如果被恶意利用，后果不堪设想。

目前，ChatGPT仍处于免费试用阶段，OpenAI也表示将加强模型的安全和监管措施。