关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道4376人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

两场输51分!投篮命中率22%!又伤一人!彻底没救了……

阿浪的篮球故事 浏览 4476

元萝卜联动疯狂动物城发布下棋机器人新品

网易科技报道 浏览 142

俄学者:今年参与阅兵坦克不太多 不是庆祝的时候

上观新闻 浏览 10079

广西隆安发现16000年前的人头骨化石16000年前的人长啥样的?

趣看热点 浏览 17548

女子吐槽花2680元看"侃爷"演唱会:像去米其林吃白粥

上游新闻 浏览 269

高市早苗4天上3次新闻联播:玩火者必自焚

看看新闻Knews 浏览 34

跃下12米高大桥救人小哥骨折住院:我知道溺水的绝望

澎湃新闻 浏览 45540

独角兽企业跨越式发展,聚焦六个问题四大突破

经济观察报 浏览 7532

蔚来火速回应指控

华尔街见闻官方 浏览 111

中国人寿前三季归母净利润超1678亿元,高基数基础上同比增60.5%

证券市场周刊 浏览 871

涉事记者遭驱逐!梅总呼吁ATP对邦齐罚款,克妈预测男女单冠军

网球之家 浏览 192

湖人附加赛103-100击败勇士锁定西部第七,詹姆斯得到22分11板10次助攻

趣看热点 浏览 17161

天空:米兰未能说服曼联先租后卖霍伊伦,那不勒斯正在关注他

直播吧 浏览 223

美媒补刀:高市早苗挑衅中国 日本承受不起

澎湃新闻 浏览 22

粉色来袭!零跑B10新配色亮相成都车展 B01万台交付

网易汽车 浏览 176

又曝丑闻!他鞠躬道歉

21世纪经济报道 浏览 4037

牛弹琴:美菲又在南海挑衅 中国军舰一句话回应

大象新闻 浏览 27243

首次写入政府工作报告,商业航天发展按下“加速键”

观察者网 浏览 3897

美防长被指佩戴与俄国旗颜色一致领带引猜测 万斯回应

环球时报新闻 浏览 73

俄外交部就加拿大没收俄运输机表态 或对等报复

参考消息 浏览 8382

雪佛兰会退出中国市场吗?

正在说车 浏览 99
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4