关闭广告

台大与中研院突破:新型防御技术实现AI深度内容遗忘

科技行者917人阅读


这项由台湾大学和中研院信息技术创新研究中心联合开展的突破性研究发表于2025年12月,研究团队针对当前AI画图模型的安全漏洞提出了创新解决方案。感兴趣的读者可以通过论文编号arXiv:2512.22877v1查询完整研究内容。

现在的AI画图工具就像一位技艺精湛但记忆混乱的画家。你可以通过特殊训练让它"忘记"如何画某些敏感内容,比如武器或版权角色。然而,这种"失忆"其实很脆弱。当有人换个方式提要求时,这位AI画家往往会突然"想起来",重新画出那些本该被禁止的内容。

研究团队发现了一个惊人的现象:虽然现有的"概念擦除"技术在面对直接文字指令时表现良好,但当用户使用更巧妙的方法时,这些防护就形同虚设。具体来说,用户可以通过两种方式绕过防护:一是使用从图片中学习得到的特殊"密码",二是直接把想要复制的图片转换成AI能理解的"草图",然后让AI重新画一遍。

为了彻底解决这个问题,研究团队开发了一套全新的评估体系,叫做M-ErasureBench,同时还推出了一个叫做IRECE的防御插件。这个插件的工作原理就像一个精明的审查员,能在AI作画过程中实时监控,一旦发现画面中出现违禁

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

中国农村,挤满了花钱干农活的外国佬

她刊 浏览 408

赵樱子回应与张康乐绯闻:我提过人一个名字吗?

韩小娱 浏览 1002

伊朗并未请求延长停火 伊高官:必须武力回应封锁

财联社 浏览 622

又一顶尖科学家移居中国:这有独特优势 他国难及

澎湃新闻 浏览 1223

《寻秦记》成为香港影史首日最高开画票房冠军

皮皮电影 浏览 899

李昊:五年、十年后的未来,我希望代表中国队站在世界杯赛场

懂球帝 浏览 730

抗衰赛道持续扩容,Swisse PLUS能否成为健合集团(01112)的增长引擎?

猛犸资本局 浏览 2046

大衣哥越来越吃香!经纪人称他商演邀约增多

可乐谈情感 浏览 746

女子在酒店裸睡维修工突然闯入:睁眼发现对面站了个人

封面新闻 浏览 1244

《重影》:高叶的这场被侵犯戏,被扇耳光,让人看了扎心的痛

娱乐圈笔娱君 浏览 992

全新奥迪A6L实车:外观大变样轴距超3米,带智能辅助驾驶小蓝灯?

Nice好车 浏览 996

俄称已控制红军城和沃尔昌斯克

国际在线 浏览 940

海盗船发布《使命召唤:黑色行动 7》联名外设,含键盘等多款产品

IT之家 浏览 1039

腾讯 QQ 严打网络诈骗,上半年处置涉诈群组及账号超 450 万个

IT之家 浏览 1170

丰田探索车载无人机系统:车辆通过复杂路况之前能帮你“探路”

IT之家 浏览 1013

泽连斯基赠送特朗普特殊高尔夫球杆 获回赠"白宫钥匙"

环球网资讯 浏览 1191

杨瀚森NBA生涯季后赛首胜:全场遭弃用躺赢 回主场后能否登场?

醉卧浮生 浏览 735

吴京《镖人》官宣,谢霆锋李连杰甘愿作配,票房能否破50亿?

娱乐圈笔娱君 浏览 973

记者:切尔西坚持年轻化战略,马雷斯卡本赛季进前四就行

懂球帝 浏览 902

时尚守艺人 | 以木为纸,雕出万千世界

时尚COSMO 浏览 936

解码科创成长层药企2025年成绩单

北京商报 浏览 3443
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4