关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道4450人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

德大选倒计时,魏德尔靠山到位,对华态度明确

浏览 536

高考数学满分的他,说要成为1/3个邓肯

后厂村体工队 浏览 463

内塔尼亚胡:加沙非军事化前 不会允许重建

新京报 浏览 85

首款可折叠iPhone最新消息:或在2026年秋季发布

环球网资讯 浏览 139

23万粉丝博主为百色抗洪捐1分钱惹争议 本人回应

极目新闻 浏览 241

或告别燃油时代 丰田Supra将于明年停产

车质网 浏览 192

泽连斯基:新一轮乌美俄会谈或于2月1日举行

财联社 浏览 70

62岁农村大爷打赏女主播50万 全家人一查账单直接傻眼

极目新闻 浏览 291

香港火灾初步调查结果:贴在窗户上的发泡胶板高度易燃

南方都市报 浏览 148

泰国总理:解散国会下议院不会影响泰柬边境局势

环球网资讯 浏览 154

谭松韵扛剧能力被质疑 赵丽颖成女主?

楚楚号 浏览 97

德国外长:台海要是打起来 将严重影响世界经济贸易

澎湃新闻 浏览 179

星光伴我心,不朽迷影佳作今晚点亮大银幕!

幕味儿 浏览 154

江文豪:塞蒂恩让我放开踢,希望可以跟球队一块拿到足协杯冠军

直播吧 浏览 318

俄乌“和平计划”磋商顿巴斯成焦点

环球网资讯 浏览 140

险企投资收益波动加大 业绩分化利润水平提升

证券市场周刊 浏览 231

美防长:已做好战争准备 谁开第一枪就见不到明天太阳

军机Talk 浏览 105

郑智化发声道歉!坦言自己情绪上头用词不当,两次发文惹祸上身

振华观史 浏览 233

陈妍希这婚,离晚了

她刊 浏览 144

九旬李明启谈到容嬷嬷为自己发声

蜜桔娱乐 浏览 222

针对其父可能被“身边人”出卖的传言 马杜罗之子回应

上观新闻 浏览 97
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4