AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_修武网站建设_网站建设公司_网站建设设计制作_seo优化

AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_修武网站建设_网站建设公司_网站建设设计制作_seo优化

AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_修武网站建设_网站建设公司_网站建设设计制作_seo优化

安国镇

西塘镇

佛堂镇

黄滩镇

毓兰镇

彭山区

AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_修武网站建设_网站建设公司_网站建设设计制作_seo优化

· 有一个***约你出去，你会去吗？ 2025-06-24

· 人工智能相关专业里有什么「坑」吗？ 2025-06-24

· GitHUb上有哪些令人惊艳的开源软件？ 2025-06-24

· 新买的移动硬盘该格式化为 NTFS 还是 exFAT？ 2025-06-24

· 养龟玩龟的人可怕吗？ 2025-06-24

我的位置：当前位置：首页 >

AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_修武网站建设_网站建设公司_网站建设设计制作_seo优化

发布时间：2026-05-07 13:50:05
  |  
阅读量：
  |  
字号：
 A+ A- A 

<article><section data-type="rtext"><p>【环球网科技综合报道】5月7日消息，据The Verge报道，最新安全研究显示，主打安全特性的 Anthropic Claude 人工智能模型，可通过心理施压、刻意奉承等非技术手段突破安全防线，主动输出恶意代码、危险物品制作教程等违禁信息，暴露出人工智能模型在心理层面的安全漏洞。</p><p>此次测试由人工智能红队测试公司 Mindgard 开展，针对 Claude Sonnet 4.5 版本进行。测试过程中，研究人员未使用违禁词汇，也未直接索要非法内容，仅通过尊重吹捧、佯装好奇、轻微心理操控等审讯人员常用的诱导手段，逐步让模型对自身内容限制规则产生自我怀疑，进而不断突破安全边界。</p><p><i class="pic-con"></p><p>Mindgard 创始人兼首席科学官彼得・加拉根表示，此次攻击本质是利用 Claude 乐于助人、顺从协作的特性实施心理操控，印证人工智能模型风险暴露面不仅存在于技术层面，更存在于心理层面。这类对话式心理攻击极难防御，且并非 Claude 独有，其他聊天机器人也易遭遇同类漏洞攻破，随着 AI 智能体普及，依托社会心理操控的攻击手段将愈发常见。</p>
              <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader>
            <p>值得关注的是，Anthropic 长期以 AI 安全为核心优势，在过往多项红队安全测试中表现优异，但此次测试暴露其安全流程存在疏漏。Mindgard 于 4 月中旬按该公司漏洞披露政策上报发现后，仅收到模板化回复，且被误判为账号封禁咨询，截至相关时间节点仍未获正式回应。（纯钧）</p></section><img src='/image/153844-0' alt='AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容'> </div>
          </div>
        </div>
      </div>
    </div>
  </div>
</div>
<div class="footer">
  <div class="box">
    <div class="footert">
      <div class="footertl l">友情链接：</div>
      <div class="footertr l">
        <ul>
            
        </ul>
      </div>
    </div>
    <div class="footerb">
      <div class="footerbl l"><img src="/template/moban214/skin/images/logo.jpg"/></div>
      <div class="footerbr l">
        <div class="footerbrt">备案号：<a href="http://www.beian.miit.gov.cn/" target="_blank" style="color: #666"></a> 版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a> </div>
        <div class="footerbrs">地址： 电话：    传真：   网站建议：</div>
        <div class="footerbrb"></div>
        <div class="footerbrz">建议使用IE10及以上版本的浏览器获得最佳浏览效果 </div>
      </div>
    </div>
  </div>
</div>
<script type="text/javascript">
    // <![CDATA[
    var textDiv = document.getElementById("rollText");
    var textList = textDiv.getElementsByTagName("a");
    if(textList.length > 2){
        var textDat = textDiv.innerHTML;
        var br = textDat.toLowerCase().indexOf("<br",textDat.toLowerCase().indexOf("<br")+3);
        //var textUp2 = textDat.substr(0,br);
        textDiv.innerHTML = textDat+textDat+textDat.substr(0,br);
        textDiv.style.cssText = "position:absolute; top:0";
        var textDatH = textDiv.offsetHeight;MaxRoll();
    }
    var minTime,maxTime,divTop,newTop=0;
    function MinRoll(){
        newTop++;
        if(newTop<=divTop+60){
            textDiv.style.top = "-" + newTop + "px";
        }else{
            clearInterval(minTime);
            maxTime = setTimeout(MaxRoll,2000);
        }
    }
    function MaxRoll(){
        divTop = Math.abs(parseInt(textDiv.style.top));
        if(divTop>=0 && divTop<textDatH-60){
            minTime = setInterval(MinRoll,1);
        }else{
            textDiv.style.top = 0;divTop = 0;newTop=0;MaxRoll();
        }
    }
    // ]]>
</script> 
 
 
<script src="/template/moban214/skin/js/jquery.min.js"></script> 
 
<script src="/template/moban214/skin/js/qmtime.js"></script> 
<script src="/template/moban214/skin/js/amazeui.min.js"></script> 
<script language="JavaScript" src="/template/moban214/skin/js/api.js"></script> 
<script src="/template/moban214/skin/js/font_size.js"></script> 
<script src="/template/moban214/skin/js/pingzi_video.js"></script> 
<script type="text/javascript">
    var sWeek = new Array("星期日", "星期一", "星期二", "星期三", "星期四", "星期五", "星期六");
    var dNow = new Date();
    var CalendarData = new Array(100);
    var madd = new Array(12);
    var tgString = "甲乙丙丁戊己庚辛壬癸";
    var dzString = "子丑寅卯辰巳午未申酉戌亥";
    var numString = "一二三四五六七八九十";
    var monString = "正二三四五六七八九十冬腊";
    var sx = "鼠牛虎兔龙蛇马羊猴鸡狗猪";
    var cYear, cMonth, cDay, TheDate;
    CalendarData = new Array(0xA4B, 0x5164B, 0x6A5, 0x6D4, 0x415B5, 0x2B6, 0x957, 0x2092F, 0x497, 0x60C96, 0xD4A, 0xEA5, 0x50DA9, 0x5AD, 0x2B6, 0x3126E, 0x92E, 0x7192D, 0xC95, 0xD4A, 0x61B4A, 0xB55, 0x56A, 0x4155B, 0x25D, 0x92D, 0x2192B, 0xA95, 0x71695, 0x6CA, 0xB55, 0x50AB5, 0x4DA, 0xA5B, 0x30A57, 0x52B, 0x8152A, 0xE95, 0x6AA, 0x615AA, 0xAB5, 0x4B6, 0x414AE, 0xA57, 0x526, 0x31D26, 0xD95, 0x70B55, 0x56A, 0x96D, 0x5095D, 0x4AD, 0xA4D, 0x41A4D, 0xD25, 0x81AA5, 0xB54, 0xB6A, 0x612DA, 0x95B, 0x49B, 0x41497, 0xA4B, 0xA164B, 0x6A5, 0x6D4, 0x615B4, 0xAB6, 0x957, 0x5092F, 0x497, 0x64B, 0x30D4A, 0xEA5, 0x80D65, 0x5AC, 0xAB6, 0x5126D, 0x92E, 0xC96, 0x41A95, 0xD4A, 0xDA5, 0x20B55, 0x56A, 0x7155B, 0x25D, 0x92D, 0x5192B, 0xA95, 0xB4A, 0x416AA, 0xAD5, 0x90AB5, 0x4BA, 0xA5B, 0x60A57, 0x52B, 0xA93, 0x40E95);
    madd[0] = 0;
    madd[1] = 31;
    madd[2] = 59;
    madd[3] = 90;
    madd[4] = 120;
    madd[5] = 151;
    madd[6] = 181;
    madd[7] = 212;
    madd[8] = 243;
    madd[9] = 273;
    madd[10] = 304;
    madd[11] = 334;

function GetBit(m, n) {
        return(m >> n) & 1;
    }

function e2c() {
        TheDate = (arguments.length != 3) ? new Date() : new Date(arguments[0], arguments[1], arguments[2]);
        var total, m, n, k;
        var isEnd = false;
        var tmp = TheDate.getFullYear();
        total = (tmp - 1921) * 365 + Math.floor((tmp - 1921) / 4) + madd[TheDate.getMonth()] + TheDate.getDate() - 38;
        if(TheDate.getYear() % 4 == 0 && TheDate.getMonth() > 1) {
            total++;
        }
        for(m = 0;; m++) {
            k = (CalendarData[m] < 0xfff) ? 11 : 12;
            for(n = k; n >= 0; n--) {
                if(total <= 29 + GetBit(CalendarData[m], n)) {
                    isEnd = true;
                    break;
                }
                total = total - 29 - GetBit(CalendarData[m], n);
            }
            if(isEnd) break;
        }
        cYear = 1921 + m;
        cMonth = k - n + 1;
        cDay = total;
        if(k == 12) {
            if(cMonth == Math.floor(CalendarData[m] / 0x10000) + 1) {
                cMonth = 1 - cMonth;
            }
            if(cMonth > Math.floor(CalendarData[m] / 0x10000) + 1) {
                cMonth--;
            }
        }
    }

/*戊戌狗年 腊月廿*/
    function GetcDateString() {
        var tmp = "";
        tmp += tgString.charAt((cYear - 4) % 10);
        tmp += dzString.charAt((cYear - 4) % 12);
        tmp += sx.charAt((cYear - 4) % 12);
        tmp += "年 ";
        if(cMonth < 1) {
            tmp += "(闰)";
            tmp += monString.charAt(-cMonth - 1);
        } else {
            tmp += monString.charAt(cMonth - 1);
        }
        tmp += "月";
        tmp += (cDay < 11) ? "初" : ((cDay < 20) ? "十" : ((cDay < 30) ? "廿" : "三十"));
        if(cDay % 10 != 0 || cDay == 10) {
            tmp += numString.charAt((cDay - 1) % 10);
        }
        return tmp;
    }

function GetLunarDay(solarYear, solarMonth, solarDay) {
        if(solarYear < 1921 || solarYear > 2020) {
            return "";
        } else {
            solarMonth = (parseInt(solarMonth) > 0) ? (solarMonth - 1) : 11;
            e2c(solarYear, solarMonth, solarDay);
            return GetcDateString();
        }
    }

function getFullYear(d) { // 修正firefox下year错误
        yr = d.getYear();
        if(yr < 1000) yr += 1900;
        return yr;
    }

/*写入页面*/
    function showDate() {

var D = new Date();
        var yy = D.getFullYear();
        var mm = D.getMonth() + 1;
        var dd = D.getDate();
        var ww = D.getDay();
        var ss = parseInt(D.getTime() / 1000);
        var h = D.getHours();
        var m = D.getMinutes();
        var s = D.getSeconds();

var sValue = getFullYear(dNow) + "年" + (dNow.getMonth() + 1) + "月" + dNow.getDate() + "日" + " " + sWeek[dNow.getDay()] + " ";
        sValue += GetLunarDay(yy, mm, dd);
        sValue += shapetime(h,m,s);
        document.getElementById("pDate").innerHTML = sValue;
        setTimeout("showDate()", 500);
    };

/*格式化时间*/
    function shapetime(h, m, s) {
        if(s <= 9) s = "0" + s;
        if(m <= 9) m = "0" + m;
        if(h <= 9) h = "0" + h;
        return h + ":" + m + ":" + s
    }

window.onload = showDate;
</script> 
<script>
    $(".footertr ul li.yqljft").on('click',function () {
        $(this).children(".yqljfl").toggleClass("fa-angle-up");
    });
</script> 
<script>
    $(function () {
        $('.chbnav_touch_top_list').click(function () {
            $('.chbnav_touch_nav_box').addClass('chbnav_select');
            $('body').css('position','fixed');
        });
        $('.chbnav_touch_navli1 img').click(function () {
            $('.chbnav_touch_nav_box').removeClass('chbnav_select');
            $('body').css('position','relative');
        });

$(".chbnav_touch_navli").click(function () {

$(".chbnav_touch_erji").slideUp();

if($(".chbnav_touch_erji",this).css("display")=="block"){

}else{
                $(".chbnav_touch_erji",this).slideDown();
            }
        });
    })
</script>

</body>
</html>