当前位置:首页 > 外汇资讯 > 正文内容

OpenAI:20%算力投入,四年内控制超级智能

激石外汇2023-07-06 12:00:48外汇资讯272

激石Pepperstone(http://www.paraat.net/)报道:

7月6日, OpenAI在官网宣布,将组建一支由Ilya Sutskever(OpenAI联合创始人兼首席科学家)和Jan Leike领导的人工智能对齐团队,用来引导、控制超级智能,同时提升ChatGPT等产品的安全性。

OpenAI表示,4年之内将解决这些难题,并将目前20%的算力用于该项目。

超级智能将是人类发明的最具影响力的技术之一,可以帮助我们解决世界上许多难题。但超级智能的巨大力量也可能非常危险,并导致人类失去控制权,甚至灭绝人类。虽然超级智能还很遥远,但OpenAI认为,10年之内就很有可能实现。

目前,OpenAI还没有一个明确的解决方案来引导或控制超级人工智能。当下可控制的人工智能技术,例如,根据人类反馈进行强化学习,依赖于人类监督的AI能力等。

但人类无法可靠地监督,比我们聪明多的AI系统, 因此,我们目前的对齐技术无法扩展到超级智能,需要新的科学技术突破。

4年内解决超级智能对齐问题

为了控制、引导超级智能对齐问题,OpenAI组建了一支由Ilya Sutskever(OpenAI联合创始人兼首席科学家)和Jan Leike领导的人工智能对齐团队——Superalignment。

超级智能对齐从根本上来说是一个机器学习问题,所以,OpenAI寻求全球优秀的机器学习人才加入这个团队共同实现这一伟大目标。

同时该团队也是对OpenAI现有工作的补充,可提升ChatGPT等产品的安全性,包括非法滥用、经济破坏、虚假信息、偏见和歧视、数据隐私和其他可能出现的问题。

OpenAI的方法

建立一个大致达到人类水平的自动对齐系统。然后,可以使用大量算力来扩展工作,并调整超级智能。

1、开发可扩展的训练方法:为了针对人类难以评估的任务提供训练方法,可以通过人工智能系统来协助评估,其他人工智能系统 (可扩展的监督)。此外,OpenAI希望了解和控制其模型,将监督应用到无法监督的任务(泛化)上。

2、验证生成的模型:为了验证系统的一致性,OpenAI将自动搜索有问题的行为 (稳定性)和有问题的内部结构(自动可解释性)。

3、对整个对齐管道进行压力测试:可以通过故意训练未对准的模型,来测试整个安全流程,并确认技术检测到最差的未对准类型(对抗性测试)。

OpenAI预计,随着对超级智能对齐了解越来越多,研究重点将会发生重大变化,可能会增加全新的研究领域。未来,会分享更多有关技术研究路线图的信息。

关于AI对齐

AI对齐是指,使人工智能系统的目标和行为,与人类价值观和目标保持一致。这是AI安全和伦理中的一个重要环节。

AI对齐问题涉及到如何设计和实施人工智能系统,以便它们执行的任务或做出的决策能够反映出设计者或用户的意图和价值观。这个问题在高级AI(例如,通用人工智能或超级人工智能)中更为重要。

因为这些AI可能具有极大的自主性和能力,如果它们的目标与人类的目标不一致,可能会带来严重的后果。

解决AI对齐问题需要在伦理、决策理论、机器学习等多个领域进行深入的研究。例如,需要研究如何在没有明确指示的情况下,让AI推断出人类的价值观,以及如何设计可以安全地学习和改进其行为的AI系统。         

扫描二维码推送至手机访问。

版权声明:本文由激石Pepperstone发布,如需转载请注明出处。

本文链接:http://www.paraat.net/news/1870.html

标签: OpenAI
分享给朋友:

“OpenAI:20%算力投入,四年内控制超级智能” 的相关文章

A股走势分化 半导体、风电强势冲高 旅游、煤炭板块领跌

A股走势分化 半导体、风电强势冲高 旅游、煤炭板块领跌

激石Pepperstone(http://www.paraat.net/)报道:7月6日周三,A股三大指数涨跌不一,沪指小幅低开,创业板指收复上日失地。 截至目前,沪指跌0.44%,深成指涨0.14%,创业板指涨1.03%。 今日开盘,宁德时代、迈瑞医疗、亿纬锂能、阳光电源集体发力,创业板收复上日...

油价跌破100美元,发生了什么?

油价跌破100美元,发生了什么?

激石Pepperstone(http://www.paraat.net/)报道:在衰退阴霾之下,市场对石油需求走弱的担忧愈演愈烈,本周二下跌“破百”的WTI原油价格就是直接体现。 WTI原油盘中一度下跌10%至每桶97.43美元,最终收跌8.2%至每桶99.50美元,这是自5月11日以来该油价首次跌...

美债收益率大跌,关键曲线再度倒挂,“衰退风向标”狂闪

美债收益率大跌,关键曲线再度倒挂,“衰退风向标”狂闪

激石Pepperstone(http://www.paraat.net/)报道:美国债券市场发出了警告信号,投资者纷纷涌入避险资产,这表明对潜在经济衰退的担忧已笼罩全球市场。 昨日交易盘中,美国债券市场出现剧烈波动,美国10年期国债收益率大跌6个基点,今年第三次和2年期美债收益率出现倒挂。 10年期...

华尔街集体看多中国!高盛、摩根大通之后,花旗将中国股票升为超配

激石Pepperstone(http://www.paraat.net/)报道:在欧美衰退阴云集聚下,华尔街大行纷纷将目光投向中国,花旗成为最新一家看好中国的机构。 近日,花旗银行策略师Robert Buckland等在报告中称,将中国股票升为超配,因为目前估值相对有吸引力,并且在全球货币政策收紧之...

“私募大户”年中投资感悟:新锐量化让人“懵”,老牌产品“心很累”,规模是收益最大敌人

“私募大户”年中投资感悟:新锐量化让人“懵”,老牌产品“心很累”,规模是收益最大敌人

激石Pepperstone(http://www.paraat.net/)报道:近期,各大私募管理人忙碌于半年度基金运作汇报,投资者也纷纷在网上展开半年投资绩效“回顾”。 结果是喜忧参半,感受却众口一词——心累。 一方面,开年后股市翻云覆雨,大起大落,让部分投资者“煎熬”良久。 另一方面,许多持有人...

不买了?马斯克单方面宣布终止收购,Twitter:你想得美

不买了?马斯克单方面宣布终止收购,Twitter:你想得美

激石Pepperstone(http://www.paraat.net/)报道:马斯克收购 Twitter 的交易,就像他在乔·罗根播客上抽的那支卷草一样,在他享受完整个过程之后,化作一团烟,消失不见了。 就在刚才,这位世界首富给美国证券交易委员会 SEC 和 Twitter 法务部门发了一封信,明...