研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-04 21:44:38 [综合] 来源：合肥市某某水泥制品厂
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容平顶山市某某投资管理运营部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功平顶山市某某投资管理运营部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：休闲)
新雪季开启！新手也能放心冲的滑雪安全指南来了
白玉兰奖入围综述丨开启返璞归真的二次元之旅
金爵奖参赛片｜《再见德国坦克》：在有限的条件中自由创作
英媒：巴黎或迎史上“最热奥运会” 威胁运动员生命
香港大埔火灾已致146人遇难 仍有100人失联推荐文章
-
随着以人工智能为代表的新一轮科技革命和产业变革深入发展，数据作为关键生产要素的战略价值愈加凸显。数据与智能的深度融合，不仅是催生新产业、新模式、新动能的重要力量，更是我国在全球数字经济竞争中构筑新优势
...[详细]
-
立夏已过，多地气温冲上30℃，各种致病微生物快速繁殖，易导致食物腐败变质，若加工或贮存不当，极易引发食物中毒。“细菌性食物中毒不同于食物中毒，它特指食用被细菌及其毒素污染的食物导致的中毒，主要表现为胃
...[详细]
-
新华社北京6月17日电 韩国保健社会研究院17日发布的报告显示，2021年韩国适婚人口性别比例失衡情况较为严重，未婚男性人数比未婚女性多19.6%。依据报告，相较于首都圈，非首都圈的性别比例失衡情况更
...[详细]
-
今年618，直播仍是重头戏。让直播间变得拥挤的，是各大品牌的总裁们和他们的数字分身。消费者会买单吗？“618”直播间挤满数字人4月中旬，京东集团董事局主席刘强东的数字人分身“采销东哥”亮相京东直播间。
...[详细]
-
来源：封面新闻 [#赵薇关联公司被限高# 涉案金额9801元]#赵薇持股公司成老赖# 企查查APP显示，近日，赵薇持股4.51%的合宝文娱集团有限公司及其法定代表人赵智被限制高消费，涉案金额98
...[详细]
-
视频来源：中国足球协会网站(00:22)@北青体育 6月19日消息，6月18日晚，中国足协裁判委员会评议组进行了本赛季第十一期裁判评议工作。根据近期各俱乐部的申诉意见，评议组本期主要评议了8个判例，分
...[详细]
-
孔塞桑这个姓氏，时隔24年再次响彻在欧洲杯的赛场，就创造了一项新纪录。112秒，小孔塞多打进了葡萄牙队史欧洲杯替补球员的最快进球，在拯救葡萄牙的同时，向全世界证明了自己的价值。以父之名比起2000年欧
...[详细]
-
欧洲杯-小孔塞桑建功 葡萄牙2-1补时绝杀捷克 央视网消息：北京时间6月19日，欧洲杯小组赛F组第1轮，葡萄牙对阵捷克。普罗沃德世界波破门，赫拉纳克自摆乌龙，小孔塞桑第92分钟绝杀。最终，葡萄牙
...[详细]
-
中新经纬11月28日电 (谢婧雯)11月25日晚8点，47岁的自由职业者钟磊(化名)正在刷网球教学视频。“‘摩尔线程’(申购代码：787795)已中签”，手机屏幕突然弹出的短信，让已有20年“股龄
...[详细]
-
原标题：余琦就不当言行致歉） 余琦就不当言行致歉 来源：视频综合） “向大家深刻检讨，真诚接受各方批评。”近日，一段关于违规停车的视频引发关注。6月19
...[详细]
热点阅读
