研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-05 00:29:28 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容合川市某某机械教育中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功合川市某某机械教育中心实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
本文转自：人民网-北京频道人民网北京11月28日电 记者尹星云）11月27日，北京市文化和旅游局举办“2025—2026京张冰雪文化旅游季”启动仪式。本次活动旨在集中展示京张两地冰雪旅游高质量发展的最2025-12-05
据央视新闻客户端消息，第十五届中国国际航空航天博览会今天在广东珠海开幕，将持续到17日。从今天起，航展每天安排约4个小时的飞行表演。 航展首日， 空军“八一”飞行表演队率先出场。六架歼-10C飞2025-12-05
当地时间11月12日，央视记者获悉，美国波音公司表示，由于工厂工人在罢工近两个月才重返工作岗位，因此需要数周时间才能全面恢复客机生产。 波音公司发言人表示，美国华盛顿州和俄勒冈州工厂复工的延迟是2025-12-05
牛！新入职的00后老师，仅用4个月就让班级在月考中夺得全校第一
这是令人惊喜的成绩！一位 00 后教师，在投身教育事业短短仅 4 个月之后，竟然能够带领学生勇夺月考第一，这实在是超乎寻常的厉害。赵春元老师在学生管理方面可谓独具匠心，巧妙地运用了三十六计。就拿他让值2025-12-05
12月1日消息，Vidu推出升级后的Q2参考生图功能，并同步上线文生图与图像编辑功能，试图解决AI多模态创作中“创意”与“可控性”难以兼顾的长期难题。官方称，此次更新将创作的控制权进一步交还给创作者。2025-12-05
来源：直播吧 直播吧11月15日讯 18强赛C组第五轮比赛，依靠张玉宁的绝杀，国足客场1-0击败巴林，拿到了本届18强赛的第二场胜利。赛后，跟队记者勇方方在社媒盛赞了国安球员张玉宁、李磊、王子铭2025-12-05
最新评论