关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道4055人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

夏天的“黑白配”,关键是“动感”啊~

日系志Yumi 浏览 1979

2024上半年“上桌咖”观察:小生古偶内卷,小花自行设席

仙女事件簿 浏览 1980

李佳琦遭上海反垄断办调查!官方回应:正在核实

萌神木木 浏览 4883

赵又廷父亲赞儿媳高圆圆贴心 透露孙女乖巧懂事

网易娱乐 浏览 18269

印媒:收到不合格药品投诉后,印下令药厂年内必须达到新生产标准

环球网资讯 浏览 4895

恭喜,吴京终于「塌房」了

独立鱼 浏览 4156

知名港圈女神近况曝光 被指皮肤松弛显老态

港剧剧透社 浏览 10434

[小鲨帮选车]不到201.60万大型车,值不值得买

专研试驾 浏览 3912

马斯克带娃赴意“催生”,敦促“意大利人多生孩子拯救本国文化”

环球网资讯 浏览 5036

中证报:3月流动性以稳为主 定向降准可期

中国证券报 浏览 18302

尤文:如果博格巴恢复最佳状态,他将会是欧洲最好的球员之一

直播吧 浏览 6750

为何说南海仲裁案所谓裁决 没有任何法律效力?

金羊网 浏览 5868

不赶潮流的她们,从20岁时髦到80岁

LinkFashion 浏览 3702

夏天半身裙应该怎么选?这4款最受欢迎

Yuki时尚酱 浏览 6988

减持小鹏,套现28亿,阿里继续“瘦身”?

侃见财经 浏览 5204

好友曝周杰伦夫妇相处模式 称昆凌太乖

文艺圈娱乐号 浏览 4340

今年流行的配饰,“大一点”才好看

LinkFashion 浏览 2612

硬闯房间强抱!女星曝曾遭陈建州性骚扰

网易娱乐 浏览 7431

看一看“不费力”的早春穿衣小技巧,简单体面,适合40+女人

静儿时尚达人 浏览 3870

Stein:即使有球队四年1亿报价里夫斯 湖人也会匹配

直播吧 浏览 6985

伊朗表态称将与沙特等国建海军联盟 美方:违背情理

参考消息 浏览 8532
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4