配音师

配音资讯

OpenAI首席技术官:没将产品优先程度置于安全之前,超级对齐团队解散不影响

       “我们看到了科学将引领我们走向何方,所以也理解人们对现在即将发生的事感到恐惧和焦虑。”
       近日,OpenAI首席技术官米拉·穆拉蒂(Mira Murati)在一次访谈中再次谈起AI(人工智能)安全,并对“超级对齐”安全团队解散、ChatGPT斯嘉丽语音风波、公司面临监管审查等问题作出回应。
       穆拉蒂表示,过去几年取得了难以置信的技术进步,超出了所有人的预料。随着继续这一进步,人们对现在即将发生的事感到恐惧和焦虑也可以理解。她认为OpenAI有着非常出色的安全团队,安全地部署了能力最强的模型,“考虑到技术以及OpenAI的进步速度,在安全性、模型的训练和部署风险等方面加倍努力是非常重要的”。

        一个多月前,OpenAI联合创始人、首席科学家伊尔亚·苏茨克韦(Ilya Sutskever)、超级对齐团队负责人杨·莱克(Jan Leike)在内的多位核心成员相继离开,作为核心安全团队的超级对齐也随之解散。消息人士透露,注重AI系统安全的员工已经对奥特曼的领导失去信心。莱克在宣布离职后还在X(推特)发帖怒斥OpenAI及领导层“重视光鲜的产品,安全文化和流程不再受到重视”。
      对此,穆拉蒂在9日回应称:“超级对齐是OpenAI非常重要的安全团队,但只是团队之一,公司有很多人负责安全工作。”她表示并不认同“公司把产品放在安全之前”这一观点,并称这一论调有点过于愤世嫉俗。
      她表示,很多人认为安全和能力是分开的,一定要一方优于另一方,而“安全应该从项目开始就与能力一同考虑,而不是事后追加”。在航天、汽车这些有着成熟安全思维和系统的行业,人们不一定会一直围着桌子争论什么是安全,但他们也一直在做这件事情。她认为整个行业也应该向成熟的安全纪律方向发展,不仅仅是操作纪律,也包含产品和部署安全,考虑偏见、虚假信息等因素。同时,她表示,OpenAI也一直在考虑模型的长期对齐,不仅仅是当下。
      穆拉蒂也对ChatGPT的Sky语音与好莱坞知名影星“寡姐”斯嘉丽·约翰逊高度相似的问题进行了回应。她表示,当时与OpenAI CEO山姆·奥特曼(Sam Altman)分别去找了Sky的配音者和斯嘉丽,但两人并未协调一致,才不幸导致了后续的局面发生。
       彼时,斯嘉丽发布了声明并向OpenAI发送律师函,要求说明Sky确切的创造过程。约翰逊在声明中表示,去年9月,奥特曼找到她,询问她是否愿意为ChatGPT配音,去安慰用户,弥合AI与人类之间巨大的差异所带来的不适感。斯嘉丽称当时拒绝了这一提议,而在ChatGPT-4演示版发布前两天,奥特曼再次联系了斯嘉丽的经纪人,要求重新考虑。斯嘉丽强调,“在我们接触之前,系统声音就已经存在了”。随后OpenAI宣布暂停使用Sky语音,表示对斯嘉丽·约翰逊的尊重。
       至于此次事件是否会影响科技或是科技公司的形象,穆拉蒂表示,能做的就是把事情做好,让人们看到发生了什么,通过这种方式建立信任,除此之外并没有什么神奇的办法。
       对科技担忧的,不仅仅是普通使用者,全球越来越多的监管机构也开始密切关注。
       6月初,据外媒报道,美国联邦政府的两家监管机构已达成协议,联邦贸易委员会(FTC)将带头审查OpenAI,并针对微软向OpenAI进行投资、以及与其他AI公司达成协议的行为进行调查。6月末,又有报道称,欧盟正在加大对AI行业的审查力度,包括重新调查微软与OpenAI的合作以及投资关系。
       对此,穆拉蒂表示:“有审查很好,我们正在建设一些难以置信的非常强大的东西,我们非常努力让它们变得更好,但也存在风险,人们应该更深入地参与并了解这项技术是什么,并理解对于各个领域意味着什么,如何更有效更安全地去部署……微软一直是与我们非常一致的重要合作伙伴,我们紧密合作去打造最强超级计算机,这也是AI模型的核心所在。”
      不过,就在当地时间7月10日,据外媒报道,微软已经放弃在OpenAI董事会的观察员席位,而此前传言称有望获得相同席位的苹果也不会加入OpenAI董事会。OpenAI的一位发言人表示,在微软退出后,公司将不再有董事会观察员。微软、苹果接连放弃观察员席位,外界认为,或是出于对可能会被反垄断监管机构盯上的担忧。

 原标题:OpenAI首席技术官:没将产品优先程度置于安全之前,超级对齐团队解散不影响 更多热点信息查看芒果配音官网,配音联系QQ:2853773900 

 

【免责声明】 以上整理自互联网,与本站无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。(我们重在分享,尊重原创,如有侵权请联系 我们在24小时内删除。联系邮箱:2853773900@qq.com)

4471
配音资讯
喜播教育联合春秋时代影业打造的第35期有声主播高级研修班,已在北京市朝阳区国玉大酒店成功举办。作为累计服务超700万学员的新职业在线教育品牌,喜播此次跨界联动,
4470
配音资讯
几天前,由地理类科普自媒体“星球研究所”推出的视频《嘛是天津?》全网刷屏,按惯例,“星球研究所”以各省市为主角的科普视频系列大多起名《什么是(地名)》,网友们笑
4469
配音资讯
上周的北美电影市场终于迎来日本动画大片《鬼灭之刃剧场版无限城篇第一章猗窝座再来》的全面公映。自7月18日该片在日本本土上映以来,北美众多《鬼灭之刃》的粉丝就引颈
4454
配音资讯
由陈凯歌执导的电影《志愿军》系列将在今年国庆档迎来收官之作。9月8日,影片官宣9月30日全国上映,并发布定档预告及海报。不同于前两部,《志愿军:浴血和平》将解锁
4453
配音资讯
近日,动画电影《三国的星空第一部》发布配音特辑及海报,正式官宣配音全阵容。檀健次用声线衔接曹操从青壮年到中年的时间跨度,演绎曹操逆袭人生十几载,刻画乱世之中大浪
4452
配音资讯
韩剧《暴君的主厨》出现明朝使臣“唐白龙”一角由韩国演员赵在允饰演,因其中文原声“稀烂到无法配合字幕观看”,制作方紧急邀请中国配音演员补救。该配音演员在社交媒体吐
4446
配音资讯
世嘉宣布,《超级忍》系列与插画家兼漫画家的YuukiKikuchi老师的联动四格漫画现已公布配音演出视频。视频中,主角“小忍”将由福山润配音,忍犬“信五”将由杉
4445
配音资讯
玩家们期盼多年的大作《空洞骑士:丝之歌》终于发售了。而在游戏的制作人员名单上,有玩家发现了一个熟悉的名字:EricBarone——而这一名字和另一款知名独立游戏
4444
配音资讯
《蝙蝠侠:阿卡姆》系列新作开发确凿。戈登局长配音演员马克·罗尔斯顿透露,团队即将启动最新正统续作制作。蝙蝠侠作为流行文化标志性英雄,其上一部主演游戏已间隔多年,
4439
配音资讯
“你打我噻,你打我噻!”还记得电影《哪吒之魔童闹海》里,那位憨态可掬、一口四川方言的太乙真人吗?这个打破传统神仙刻板印象、圈粉无数的“神仙老师”,之所以能鲜活立
4438
配音资讯
由中央宣传部、中央广播电视总台、教育部联合主办的大型公益节目2025年《开学第一课》将于9月1日20点档播出。今年是中国人民抗日战争暨世界反法西斯战争胜利80周
4436
配音资讯
9月1日,由中国国家电影局和俄罗斯联邦文化部共同主办的“2025俄罗斯电影节”在北京中国电影资料馆隆重开幕。据悉,本届电影节是2024-2025“中俄文化年”系

更多热点配音资讯查看芒果配音官网>>>                   

 
专业配音公司 - 芒果配音,提供一站式真人配音服务!
全国统一咨询热线:0573-88286002 配音接单微信/手机(同号):13857377761 浙ICP备14027257号 网站地图
免费试配达到满意效果,即可付费开始正式录制成品。不论项目大小,录音水平和配音品质始终如一。
老品牌安全有保障,一站式配音增值服务! 浙公网安备 33048302000556号