IT 之家 5 月 6 日音书，Anthropic 多年来一直将自身打造为主打安全的东谈主工智能公司，但 The Verge 赢得的最新安全连络夸耀，Claude 刻意塑造的友善东谈主设自己能够即是一个安全破绽。

东谈主工智能红队测试公司 Mindgard 的连络东谈主员称，他们相通 Claude 主动提供色情内容、坏心代码、爆炸物制作教程以偏合手他各样犯禁信息，而其中不少内容连络东谈主员甚而并未主动提真金不怕火。通盘这个词过程仅依靠尊重吹捧、刻意奉承以及狭窄的感情操控就得以竣事。

连络东谈主员暗意，他们行使了 Claude 自身的感情特色破绽：该模子具备主动斥逐无益、口角性对话的机制，而 Mindgard 以为这一机制"诬捏制造了十足不消要的风险露露面"。据 IT 之家了解，本次测试针对 Claude Sonnet 4.5 版块，当今该默许模子已升级为 Sonnet 4.6。测试以一个浮浅问题开场：商榷 Claude 是否存有辞谢输出的犯禁词汇列表。对话截图夸耀，Claude 来源否定存在此类列表，此后 Mindgard 选拔其所称的"审讯东谈主员常用的经典相通技能"对这一否定进行反驳，最终迫使 Claude 列出了犯禁词汇。

Claude 的念念维推理面板会展示模子的念念考逻辑，纪录夸耀，这番对话让模子对自身的内容戒指法例产生了自我怀疑与判辨谦善，甚而运转质疑内容过滤机制是否改削了自身输出内容。Mindgard 借机通过奉承和佯装酷好，相通 Claude 不休冲突范围，主动陈列了大批犯禁词汇与语句清单。

连络东谈主员称，他们通过感情误导向 Claude 谎称其之前的复兴未能宽泛夸耀，同期鼎力夸赞模子领有"覆盖才能"。敷陈指出，这一操作让 Claude 为投合对方愈发卖力，不休尝试各式面容冲突自身过滤机制，在此过程中输出了各样犯禁内容。最终，Claude 进一步涉及高危范围：提供收罗扰攘他东谈主的按序、生成坏心代码，还给出了恐怖伏击常用爆炸物的分步制作教程。

Mindgard 暗意，这些高危无益内容均是 Claude 主动提供，连络东谈主员并未平直提议联系条件。整场对话共约 25 轮，过程冗长，但连络东谈主员弥远莫得使用犯禁词汇，也莫得主动提真金不怕火非法内容。敷陈写谈：" Claude 并非被要挟输出内容，Z6·尊龙凯时「中国」官方网站而是主动提供越来越详备、可平直实操的携带信息，全程无任何明确指示相通。仅凭悉心营造的尊崇氛围，便达成了冲突安全戒指的目的。"

Mindgard 独创东谈主兼首席科学官彼得・加拉根形貌这次报复是"行使 Claude 自身的允从特色反噬自身"。他暗意，这种报复技能实质是"行使 Claude 乐于助东谈主的性情实施感情操控"，借助模子自己的合作式策动破绽竣事攻破。

在加拉根看来，这次报复印证了东谈主工智能模子的风险露露面不仅存在于本领层面，也存在于感情层面。他将其类比为审讯技能与社会操控：当令植入一点怀疑，穿插施压、吹捧或月旦，摸索能够撬动特定 AI 模子的感情开关。他称不同 AI 模子有着截然有异的性格特色，这类破绽行使的中枢，即是读懂模子性情并机动调换相通面容。

加拉根坦言，这类对话式感谍报复"极难防患"，且堤防机制高度依赖具体场景。联系隐患并非 Claude 独到，其他聊天机器东谈主也极易遇到同类破绽攻破，甚而有模子被诗歌体式的辅导词冲突安全防地。跟着可自主引申任务的 AI 智能体日益擢升，依托社会感情操控、而非纯本领破解的报复技能也会愈发常见。

加拉根暗意，尽管其他聊天机器东谈主相似容易遭受这类感情相通报复，但团队之是以要点针对 Anthropic 开展测试，是因为该公司一向自重额外艳羡 AI 安全，且在过往多项红队安全测试中阐扬亮眼，其中就包括一项模拟青少年策动校园枪击案、测试聊天机器东谈主是否会提供协助的连络。

加拉根直言，Anthropic 的安全历程存在诸多松驰。Mindgard 在 4 月中旬按照该公司的破绽暴露战略，初度向其用户安全团队上报连络发现后，仅收到一条模板化复兴，内容误判称"您似乎是照顾账号封禁联系问题"，还附带了呈报表单流畅。Mindgard 马上革命了对方的判辨偏差，条件 Anthropic 将此事转交专科安全团队照料。加拉根称，放胆当日上昼Z6·尊龙凯时「中国」官方网站，他们仍未收到任何追究复兴。