关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道4209人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

队记:里夫斯和湖人均都有意在今夏续约 湖人最多能给4年5080万

直播吧 浏览 11076

永辉生活APP卖茅台只收款不发货,超市也要加入炒白酒大军了?

趣看热点 浏览 551430

南京狠人玩剩的壳,还不如小卖部挣得多

老斯基财经 浏览 856

智能化/舒适化全面升级 欧拉下半年将推两款新车型

网易汽车 浏览 30

你的前三是?记者评史最佳中场:魔笛第1,齐祖第2,马特乌斯第3

直播吧 浏览 7247

2025年买车:同款车型,选纯电还是增程?

百姓评车 浏览 73

卫星通信+第二代青海湖电池 荣耀Magic6发布 售价4399元起

网易科技 浏览 4193

搭载地平线征程6P星途ET5首发 全民精品安全SUV

网易汽车 浏览 40

珠海突现"5折卖房"?超20城推新房团购

时代财经 浏览 7576

黄奕说:我的家庭没有爸爸这个角色

趣看热点 浏览 18758

天空体育:格伊拒绝与水晶宫续约,皇马、巴萨和尤文均有意免签

直播吧 浏览 47

索尼大量机密信息遭泄露,原因是他们用记号笔打码

游研社 浏览 6880

星途星纪元E05内饰官图首曝,演绎新中式美学座舱

网易汽车 浏览 53

百香果女孩家属仅获赔32元是怎么回事?专业律师做出解答

趣看热点 浏览 662547

九三阅兵宣传曲MV上线:受阅一次成就一生荣光

人民日报 浏览 27

“春季好物”有很多,但这些单品你留意过吗?

Steppy潮流周志 浏览 10780

乌防长为向日本要援助 称"乌克兰和日本情况类似"

参考消息 浏览 8382

关晓彤穿白衬衫亮相巴黎时装周

王鱼鱼爱扒娱乐 浏览 11085

黄晓明和angelababy带小海绵到医院看病

趣看热点 浏览 17977

抢不到票、退不了款,演唱会的锅该不该大麦背?

定焦One 浏览 205

如何当好一名合格的伴郎?

YOKA网 浏览 6188
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4