一段乱码，竟让 ChatGPT 越狱！乱序 prompt 让 LLM 火速生成勒索软件，Jim Fan 惊了

外国网友发现一种全新越狱技术，利用乱序的 prompt 绕过传统的安全过滤器，让 ChatGPT 生成勒索软件。研究者 Jim Fan 对 GPT 模型能读懂乱序的单词感到惊讶。该技术利用人脑理解乱序字句和单词的特点，成功实现了越狱，引起了社区的关注。

本文网址：