当前位置:首页 > 外汇资讯 > 正文内容

解决AI落地的最大障碍,OpenAI找到办法了?

激石外汇2023-06-01 11:59:37外汇资讯247

激石Pepperstone(http://www.paraat.net/)报道:

OpenAI似乎找到了解决生成式人工智能“一本正经胡说八道”的办法。

5月31日,OpenAI在其官网宣布,已经训练了一个模型,能够有助于消除生成式AI常见的“幻觉”和其他常见问题。

OpenAI表示,可以训练奖励模型来检测幻觉,奖励模型又分为结果监督(根据最终结果提供反馈)或过程监督(为思维链中的每个步骤提供反馈)模型。

也就是说,过程监督奖励推理的每个正确步骤,而结果监督只是简单地奖励正确的答案。

OpenAI表示,相比之下,过程监督有一个重要的优势——它直接训练模型以产生由人类认可的思维链

过程监督与结果监督相比有几个一致性优势。它直接奖励遵循一致的思维链的模型,因为过程中的每一步都得到了精确的监督。

过程监督也更有可能产生可解释的推理,因为它鼓励模型遵循人类批准的过程

结果监督可能会奖励一个不一致的过程,而且通常更难审查。

OpenAI在数学数据集上测试了这两种模型,发现过程监督方法导致了“显著更好的性能”。

但需要注意的是,到目前为止,过程监督方法仅在数学领域进行了测试,并且需要更多的工作来观察它如何更普遍地执行。

此外,OpenAI没有说明这一研究需要多长时间才能应用在ChatGPT,它仍然处于研究阶段。

虽然最初的结果是好的,但OpenAI确实提到,更安全的方法会产生降低的性能,称为对齐税(alignment tax)。

目前的结果显示,在处理数学问题时,过程监督不会产生对齐税,但在一般的信息上的情况尚不知晓。

生成式AI的“幻觉”

生成式AI问世以来,围绕其编造虚假信息、“产生幻觉”的指控从未消失,这也是目前生成式AI模型最大的问题之一。

今年2月,谷歌为应对微软资助下ChatGPT,仓促推出了聊天机器人Bard,结果却被发现在演示中出现了常识性错误,导致谷歌股价大跌。

导致AI出现幻觉的原因有多种,输入数据欺骗AI程序进行错误分类是其中一种。

例如,开发人员使用数据(如图像、文本或其他类型)来训练人工智能系统,如果数据被改变或扭曲,应用程序将以不同的方式解释输入并产生不正确的结果。

幻觉可能会出现在像ChatGPT这样的基于语言的大型模型中,这是由于不正确的转换器解码,导致语言模型可能会产生一个没有不合逻辑或模糊的故事或叙述。         

扫描二维码推送至手机访问。

版权声明:本文由激石Pepperstone发布,如需转载请注明出处。

本文链接:http://www.paraat.net/news/1705.html

标签: OpenAI
分享给朋友:

“解决AI落地的最大障碍,OpenAI找到办法了?” 的相关文章

衰退阴霾笼罩 亚太股市集体下跌 油价跌超3%

激石Pepperstone(http://www.paraat.net/)报道:6月23日周四,衰退阴霾笼罩全球,亚太股市震荡下行,美股三大股指期货集体翻绿。此外,由于对需求担忧加剧,油价跌超3%。 昨日,美联储主席鲍威尔发言暗示衰退可能,他在出席参议院半年度听证时承认美国经济有衰退可能,实现软着陆...

全部通过压力测试,美国银行业又要“撒钱”了

激石Pepperstone(http://www.paraat.net/)报道:美国银行业又要“撒钱”了! 6月23日周四,美联储公布的美国银行业“年度健康检查”结果显示,其审核的所有银行均通过2022年压力测试。这意味着所有银行均满足最低资本要求,可以继续进行回购和派息。 美联储报告指出: 在压...

大幅回升!中国6月财新服务业PMI 54.5 创11个月新高

大幅回升!中国6月财新服务业PMI 54.5 创11个月新高

激石Pepperstone(http://www.paraat.net/)报道:随着国内疫情好转,防疫措施放宽,6月份中国服务业经营活动激增,行业景气度大幅升至扩张区间。 7月5日公布的数据显示,中国6月财新服务业PMI从5月份的41.4大幅回升至54.5,结束了连续三个月的收缩状态,并升至2021...

华尔街见闻早餐FM-Radio|2022年7月9日

激石Pepperstone(http://www.paraat.net/)报道:市场概述 加息预期压顶,标普道指回落,纳指涨。纳指创八个月最长连涨日,连创四周新高;标普终结四连涨跌离近两周高位,仅医疗和IT板块收涨,三大美股指全周均累涨。推特盘后一度跌9%;科技板块全周领涨,特斯拉一周涨10%;B...

真正“风口股”上新!专注边疆光电风电项目,新能源股又有“同行”来了!

真正“风口股”上新!专注边疆光电风电项目,新能源股又有“同行”来了!

激石Pepperstone(http://www.paraat.net/)报道:光伏、新能源、军工…… 在本轮股市反弹,这些概念股“卷土重来”,可谓近两个月大A表现“最靓的仔”。 根据新股发行安排,新一周共七只新股可申购,其中就不乏这些热门概念股。 比如从事军用装备和民用飞机产品检验检测的第三方检验...

超1亿美元!小鹏拿下仿生机器人融资大单

超1亿美元!小鹏拿下仿生机器人融资大单

激石Pepperstone(http://www.paraat.net/)报道: 作者 | 柴旭晨 去年特斯拉 AI Day ,仿生机器人“擎天柱”亮相,马斯克又带火了一个新行业。资本也很快闻风而动。 跟随特斯拉的步伐,小米、小鹏分别推出了代号“铁蛋”和“小白龙”的机器人,百度也在今年6月初发布了一...