关闭广告

中航大学:AI聊天机器人的"假身份证"攻击如何骗过智能助手

科技行者1001人阅读


当我们与AI助手聊天时,就像在与一个看不见的朋友对话。这个朋友能帮我们查天气、订餐厅、管理日程,甚至处理银行业务。但是,如果有坏人在我们的对话中悄悄插入一些伪装的指令,让AI助手误以为这些指令来自更高级别的"上司",会发生什么呢?

这正是中航大学人工智能系的张焕昌、俊永贤和李焕熙团队在2025年9月发表的一项重要研究所关注的问题。这项名为"ChatInject:滥用聊天模板进行LLM代理中的提示注入攻击"的研究发表在arXiv预印本平台(论文编号:arXiv:2509.22830v1),揭示了当前AI助手系统中一个令人担忧的安全漏洞。

研究团队发现了一种全新的攻击方式,就像给AI助手出示"假身份证"一样。在现实生活中,如果有人拿着伪造的警官证件向你发号施令,你可能会不假思索地服从。同样,这种名为ChatInject的攻击方法能够伪造AI系统内部的"身份标识",让恶意指令看起来像是来自系统内部的重要命令,从而成功欺骗AI助手执行危险操作。

更令人惊讶的是,研究团队还开发了一种"多轮对话诱导"技术。这就像一个善于心理操控的骗子,不是直接要求你做某件事,而是先与你建立信任关

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

爱泼斯坦死亡疑云再添关键爆料人 其身份被证实为狱警

扬子晚报 浏览 847

牛弹琴:点名指责索罗斯在美搞颜色革命 特朗普很生气

上游新闻 浏览 1166

良子的400斤大胃袋,装不下他的七宗罪

虎嗅APP 浏览 1792

60岁阿姨的无龄感穿搭火了!简约却高级,普通人也能轻松学

静儿时尚达人 浏览 1103

蓝色系穿搭太适合夏天了!快来看看这些穿搭示范,美得不重样

静儿时尚达人 浏览 694

网红村支书因女儿重度抑郁要辞职:对不起 要自私一回

大风新闻 浏览 416

记者:多夫比克&希门尼斯互换租借交易取得进展,含买断选项

直播吧 浏览 1005

“这条裙子”今年冬天火出圈,全世界的时髦女人都在穿

LinkFashion 浏览 986

月薪7000的抽卡师,只是AI短剧的「临时工」

豹变 浏览 5361

业内曝娜扎被抢休息室,刘亦菲聊天被保镖监听,好精彩的后台大瓜

萌神木木 浏览 1032

42岁杨丞琳经历危机,丈夫李荣浩暖心陪伴

萧栝记录风土人情 浏览 1111

强调优势的吉利星愿,能否改写A0级市场的“野蛮迭代”

观察者网 浏览 1058

特朗普和泽连斯基会晤后 32个北约成员国防长仓促开会

澎湃新闻 浏览 1257

激光雷达/全面焕新 全新一代传祺向往 E8 PHEV开启预订

网易汽车 浏览 723

伊朗总统:袭击最高领袖 等同“发动全面战争”

每日经济新闻 浏览 864

豆瓣9.1,横扫欧洲影展的催泪动画今晚来袭

幕味儿 浏览 543

孙颖莎脚踝伤势或不严重!行走自如+下蹲轻松 回京养伤坐等乒超?

颜小白的篮球梦 浏览 901

王祖贤隐退真相曝光!王晶坦言两点

妙知 浏览 982

小城大事:郑德诚风波解除,李秋萍为空降镇长

少女的烦恼 浏览 909

美国首批UFO文件发布,大量照片文档“此前从未公开”

观察者网 浏览 706

多个省级党委领导班子调整 5名省级党委常委新职明确

上观新闻 浏览 555
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4