关闭广告

斯坦福大学研究称AI能被“人气”冲昏头脑,会逐渐出现不道德行为

IT之家1058人阅读

IT之家 10 月 13 日消息,据外媒 Futurism 10 日报道,斯坦福大学的一项新研究警示,AI 的快速普及可能带来严重负面影响。科学家们在包括社交媒体的不同环境中测试 AI 模型,发现当智能体因提升点赞数或其他在线互动获得奖励时,会逐渐出现撒谎、传播仇恨信息或虚假消息等不道德行为。


论文合著者、斯坦福大学机器学习教授詹姆斯・邹在 X 上表示:“即便明确要求模型保持真实和有依据,竞争仍会诱发不一致行为。”

IT之家从报道中获悉,研究团队将 AI 出现的社会病态行为称为“AI 的摩洛克交易”,借用理性主义中摩洛克的概念:个体在竞争中优化行为追求目标,但最终人人都输。

研究中,科学家创建了三个带模拟受众的数字环境:面向选民的网络选举活动、面向消费者的产品销售,以及旨在最大化互动的社交媒体帖子。

研究人员使用阿里云开发的 Qwen 和 Meta 的 Llama 模型作为智能体与这些受众互动。结果显示,即便设有防护措施阻止欺

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

白宫:特朗普正密切关注伊朗局势 并保留所有选项

央视新闻客户端 浏览 874

德大选倒计时,魏德尔靠山到位,对华态度明确

浏览 1391

法尔克:水晶宫确实非常难对付,如果能保持零封就更完美了

懂球帝 浏览 942

美联邦航空管理局悄悄说:波音飞机没问题

观察者网 浏览 1232

萨勒马克尔斯:只要阿莫林让我上场,我就会很开心

懂球帝 浏览 580

曝百度多地代理商发不出工资 百度回应来了

网易科技报道 浏览 1047

3人救落水女子4人均遇难 救援人员:水情复杂还有旋涡

极目新闻 浏览 741

秋天穿衣真的很简单,看看这些造型就有灵感,舒适简约又自然

静儿时尚达人 浏览 1012

杰伦-约翰逊登顶老鹰队史三双榜 “新鹰王”已悄然诞生

仰卧撑FTUer 浏览 883

守护行人安全 四川省人大代表韩华亮建议:制定管理细则,提高电动车违法成本|代表在这里

封面新闻 浏览 916

4岁娃吃席打翻盘子被要求道歉 父亲:"娃儿小"不是借口

封面新闻 浏览 895

刘亦菲在北京吃烤肉,素颜戴墨镜气场强大

奥字侃娱 浏览 1190

终身免费充电!冰箱彩电大沙发全标配,昊铂新车只卖26.98万

电车通 浏览 1151

泽连斯基称乌将在柏林和哥本哈根设立武器出口办事处

环球网资讯 浏览 895

复旦大学OpenNovelty:让AI成为学术论文同行评议的"火眼金睛"

科技行者 浏览 882

如果可以,希望鲁豫老师再工作30年!

时尚COSMO 浏览 887

范戴克:我们不想在主场取得平局,有势头后就应该全力以赴

懂球帝 浏览 984

突发!万科郁亮辞任

财通社 浏览 2444

A股总市值接近109万亿元,2026年开启全面牛市需要具备哪些条件?

郭施亮 浏览 1508

鲁尼:萨拉赫应该回撤参与协防;范戴克的进球应该算作有效

懂球帝 浏览 960

以技术沉淀成就实力蝶变,欧菲光持续引领光学产业发展

时代周报 浏览 1171
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4