当前位置:首页 > 外汇资讯 > 正文内容

解决AI落地的最大障碍,OpenAI找到办法了?

激石外汇2023-06-01 11:59:37外汇资讯258

激石Pepperstone(http://www.paraat.net/)报道:

OpenAI似乎找到了解决生成式人工智能“一本正经胡说八道”的办法。

5月31日,OpenAI在其官网宣布,已经训练了一个模型,能够有助于消除生成式AI常见的“幻觉”和其他常见问题。

OpenAI表示,可以训练奖励模型来检测幻觉,奖励模型又分为结果监督(根据最终结果提供反馈)或过程监督(为思维链中的每个步骤提供反馈)模型。

也就是说,过程监督奖励推理的每个正确步骤,而结果监督只是简单地奖励正确的答案。

OpenAI表示,相比之下,过程监督有一个重要的优势——它直接训练模型以产生由人类认可的思维链

过程监督与结果监督相比有几个一致性优势。它直接奖励遵循一致的思维链的模型,因为过程中的每一步都得到了精确的监督。

过程监督也更有可能产生可解释的推理,因为它鼓励模型遵循人类批准的过程

结果监督可能会奖励一个不一致的过程,而且通常更难审查。

OpenAI在数学数据集上测试了这两种模型,发现过程监督方法导致了“显著更好的性能”。

但需要注意的是,到目前为止,过程监督方法仅在数学领域进行了测试,并且需要更多的工作来观察它如何更普遍地执行。

此外,OpenAI没有说明这一研究需要多长时间才能应用在ChatGPT,它仍然处于研究阶段。

虽然最初的结果是好的,但OpenAI确实提到,更安全的方法会产生降低的性能,称为对齐税(alignment tax)。

目前的结果显示,在处理数学问题时,过程监督不会产生对齐税,但在一般的信息上的情况尚不知晓。

生成式AI的“幻觉”

生成式AI问世以来,围绕其编造虚假信息、“产生幻觉”的指控从未消失,这也是目前生成式AI模型最大的问题之一。

今年2月,谷歌为应对微软资助下ChatGPT,仓促推出了聊天机器人Bard,结果却被发现在演示中出现了常识性错误,导致谷歌股价大跌。

导致AI出现幻觉的原因有多种,输入数据欺骗AI程序进行错误分类是其中一种。

例如,开发人员使用数据(如图像、文本或其他类型)来训练人工智能系统,如果数据被改变或扭曲,应用程序将以不同的方式解释输入并产生不正确的结果。

幻觉可能会出现在像ChatGPT这样的基于语言的大型模型中,这是由于不正确的转换器解码,导致语言模型可能会产生一个没有不合逻辑或模糊的故事或叙述。         

扫描二维码推送至手机访问。

版权声明:本文由激石Pepperstone发布,如需转载请注明出处。

本文链接:http://www.paraat.net/news/1705.html

标签: OpenAI
分享给朋友:

“解决AI落地的最大障碍,OpenAI找到办法了?” 的相关文章

我,北京人,越南创业三年,目睹河内地价三年翻三倍

我,北京人,越南创业三年,目睹河内地价三年翻三倍

激石Pepperstone(http://www.paraat.net/)报道:半个月前,老薛从北京回到越南首都河内,继续开展他在当地的工作。落地后,他发了一段小视频,越南时间22点40分 ,画面内熙熙攘攘的人群挤在一条不到5米宽的街道,两侧是灯火通明的商户和坐在街边的食客,一条烟火气十足的夜市街,...

激石Pepperstone:全球第一场“现代”信贷危机,发生在250年前

激石Pepperstone(http://www.paraat.net/)报道:1772年6月,一个银行家负债潜逃,从而在英国引爆了一场金融风暴,并迅速蔓延到欧洲大部分地区。 这场持续了一年多的金融危机并不那么知名,但却具有重要的历史意义。就私营部门信贷和金融产品在其中扮演的角色、传播最初冲击的金融...

世卫:58国已报超6000例猴痘病例,将再次召开紧急会议

激石Pepperstone(http://www.paraat.net/)报道:当地时间7月6日,世界卫生组织(WHO)表示,目前全球已有58个国家报告了超过6000例猴痘病例。因此,世卫组织或将在本月再次召开紧急会议。 据路透社7月6日报道,世卫组织总干事谭德塞表示,“我一直对猴痘疫情在全球范围内...

“不同寻常“!由于历史性的拥堵,全球2%的船运在北海停滞不前

激石Pepperstone(http://www.paraat.net/)报道:随着一些欧盟国家在俄乌冲突爆发后重新使用煤炭以满足其能源需求,欧洲煤炭进口量暴增,但启用“肮脏的煤炭”遭到了大量环保人士的反对,抗议活动和进口量激增导致了疫情封锁期间的港口拥堵情景再现。 周四,据媒体报道,德国IfW经济...

富国银行:美国已陷入衰退,二季度GDP将萎缩

激石Pepperstone(http://www.paraat.net/)报道:富国银行投资策略部门表示,无需再猜测美国经济衰退的时间了,因为美国已经陷入了衰退。 策略师们认为,由于通胀比预期更高、影响范围更广、消费者信心减弱以及企业支出显示出转向疲软,美国将在下半年(换句话说,就是现在)进入衰退。...

A股震荡下行 公路、基建走强 游戏表现活跃 比亚迪跌破300元关口

A股震荡下行 公路、基建走强 游戏表现活跃 比亚迪跌破300元关口

激石Pepperstone(http://www.paraat.net/)报道:7月13日周三,A股三大指数涨跌不一,沪指微幅低开,随后走低。 截止目前,沪指跌0.29%,深成指跌0.83%,创业板指跌0.96%。 盘面上,稳增长方向持续活跃,公路、基建涨幅居前,游戏板块走高,能源股跟随期市下挫,...