ChatGPT 被“乱码”激活！LLM 突破难关，Jim Fan 惊措不及

国外网友发现了一种全新的越狱技术，使用乱序的提示绕过传统的安全过滤器，使 ChatGPT 生成恶意软件。研究者 Jim Fan 对 GPT 模型能理解混乱的单词感到惊讶。这种技术利用大脑理解乱序句子和单词的特点，成功实现了越狱，引起了社区的关注。