关闭广告

澳大利亚国立大学发现:攻击AI视觉模型只需要操控20%的关键词汇

科技行者833人阅读


这项由澳大利亚国立大学领导的国际研究团队发表于2025年12月26日的arXiv预印本论文(编号:2512.21815),揭示了一个令人担忧的发现:当今最先进的AI视觉语言模型存在一个严重的安全漏洞,攻击者只需要巧妙地操控20%的关键词汇,就能让这些本应安全可靠的AI系统产生有害内容。

考虑这样一个场景:你正在使用一个AI助手来描述图片内容,比如一张街头摩托车的照片。正常情况下,AI会告诉你"这是一个繁忙的城市街道,有几个人骑着摩托车,他们都戴着头盔"。然而,经过特殊设计的微小图像修改后,同一个AI可能会说出完全不同且危险的内容,声称图片中出现了暴力场景或其他有害内容。更令人担忧的是,这种攻击不需要修改整个AI系统,仅仅针对生成文本中20%的特定位置进行干预就足够了。

研究团队通过深入分析发现,这些AI模型在生成描述时,并非每个词汇都同样重要。就像一个故事中有些情节转折点特别关键一样,AI在生成文本时也有一些"决策点",这些点上的词汇选择会极大影响整个叙述的走向。这些关键位置被研究人员称为"高熵位置",类似于岔路口,选择不同的道路会通向完全不同的目的地。

更加令人不安

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

今年冬天最流行的4双鞋,配阔腿裤时髦又高级!

LinkFashion 浏览 844

能当PC用的平板电脑!小米平板8 Pro测评:骁龙8至尊打造的安卓平板生产力天花板

快科技 浏览 1079

7名中国游客溺亡于贝加尔湖 31岁幸存者被救细节披露

界面新闻 浏览 812

配备3C快充 埃安AION i60预售11.98万起

网易汽车 浏览 1032

闫学晶风波再次升级,娱乐圈多位明星躺着中枪,唯独一人成为赢家

徐帮阳 浏览 907

中国队手下败将逆袭进联合杯四强,袁悦45分钟速败引发网友热议

网球之家 浏览 956

若羽臣:抖音已成为公司重要渠道之一

北京商报 浏览 765

夏天尽量少穿一身黑,试试印花裙和露肩上衣,高级又显气质

静儿时尚达人 浏览 1238

公安机关对"野人孩子"父母展开调查 孩子目前安全

中国新闻周刊 浏览 988

英国7月通胀率升至18个月高点

国际金融报 浏览 3159

不出意外霍启山很难结婚不是因为他遇到自己

科学发掘 浏览 958

杨元庆:DeepSeek出现加速混合式人工智能落地

澎湃新闻 浏览 1379

2025世界青年科学家峰会聚焦开放合作

新华社 浏览 984

东体:傅欢大概率留在海港;防线还会是引援方向

懂球帝 浏览 887

女儿严重高反 男子订回程票出错立即取消重订被扣两千

上观新闻 浏览 985

《逍遥》大结局:秉烛结束了红烨,肖瑶曾为妖王!

肆季娱乐 浏览 910

营收、净利润双降!贵阳银行上半年人均薪酬20万,上市至今无中期分红

时代周报 浏览 2196

曝英特尔、AMD已售出今年大部分服务器CPU产能,考虑Q1涨价

IT之家 浏览 900

陈伟霆透露何穗生产过程经历,坦言不太顺利

今古深日报 浏览 684

但斌91亿元美股持仓出炉:大幅加仓谷歌至第一重仓股,英伟达退居次席

澎湃新闻 浏览 3928

网传毛晓彤陈晓已领证结婚,毛晓彤回应了

阿伧说事 浏览 1130
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4