openai被曝取得重大技术突破或威胁人类,引发罢免奥特曼-九游会真人第一品牌游戏合营

澎湃新闻记者 方晓
2023-11-23 10:16
来源:澎湃新闻

·根据爆料,被称为q*的模型能够解决某些数学问题。征服数学的能力意味着人工智能将拥有类似于人类智能的更强推理能力。一些openai员工担忧在将这种先进的人工智能模型商业化时没有适当的保障措施。

知情人士透露,在openai首席执行官山姆·奥特曼(sam altman)被罢免4天之前,几位研究人员向董事会发出一封信,警告称一项强大的人工智能发现可能威胁人类——被称为q*的模型。

这一消息得到了至少两家媒体的独立证实,但也有媒体援引知情人士的话称,董事会从未收到过有关此类突破的信,而且公司的研究进展并未对奥特曼的突然解雇产生影响。

两位消息人士告诉路透社,此前未披露的信件是董事会罢免奥特曼的一个关键导火索,是导致董事会众多不满的原因之一。

一位知情人士称,openai在q*(发音为q-star)方面取得了进展,一些内部人士认为这可能是该初创公司寻找超级智能(也称为通用人工智能)的突破。openai将通用人工智能(agi)定义为比人类更聪明的人工智能系统。

鉴于拥有大量计算资源,新模型能够解决某些数学问题。消息人士称,虽然数学成绩仅达到小学生的水平,但在此类测试中取得好成绩让研究人员对q*未来的成功非常乐观。

研究人员认为数学是生成式人工智能发展的前沿领域。目前,生成式人工智能擅长通过统计预测下一个单词来进行写作和语言翻译,而同一问题的答案可能会有很大差异。但征服数学的能力(只有一个正确答案)意味着人工智能将拥有类似于人类智能的更强推理能力。例如,人工智能研究人员认为,这可以应用于新颖的科学研究。

消息人士称,研究人员在给董事会的信中指出了人工智能的能力和潜在危险,但没有具体说明信中提到的具体安全问题。

值得注意的是,奥特曼被openai董事会解雇前一天在旧金山出席亚太经合组织首席执行官峰会时,提到了openai最近取得的一项技术进步。“在openai的历史上已经有四次了,最近一次是在过去几周,当我们推开无知的面纱并向前推进发现的前沿时,我已经在房间里了,能够做到这一点是一生的职业荣誉。”他说。

随着后来openai陷入混乱,这一神秘言论基本上没有引起注意。但一位知情人士表示,一些openai员工认为,奥特曼的言论指的是该公司今年早些时候的一项创新,该创新将使他们能够开发出更强大的人工智能模型。这项技术突破由openai首席科学家伊利亚·苏茨克维(ilya sutskever)牵头,一些员工担忧openai在将这种先进的人工智能模型商业化时没有适当的保障措施。

据一位消息人士透露,openai首席技术官米拉·穆拉蒂(mira murati)11月22日向员工提到了这个名为q*的项目,并表示在上周末的人事震动之前董事会收到了一封信。但openai发言人林赛·海尔德·博尔顿(lindsey held bolton)在与媒体分享的一份声明中驳斥了这一说法:“米拉告诉员工了解媒体报道的内容,但她没有对信息的准确性发表评论。”

责任编辑:郑洁
网站地图