算力资讯
算力资讯技术进展

前Anthropic研究员考克森:当今若要重新训练Mythos,只需初始的一小部分算力

IT之家11月14日消息,曾任职于OpenAI和Anthropic、因公开警告AI风险而受到广泛关注的研究员雅各布·考克森称,Anthropic在IPO路演中展示的一张幻灯片,是促使他离职的重要原因。

考克森在Anthropic只工作了约四个月。让他决定离职的原因之一,是公司IPO路演中 一张展示AI模型训练算力需求变化的图表 。图表采用压缩坐标轴,即使算力需求增长10倍和100倍,看起来也相差不大。

即便如此,曲线依然急剧上升。考克森认为,这说明算法效率不仅在快速提高,而且提升速度还在不断加快。“这张图实在太惊人了,没想到他们竟然会公开。”

考克森认为,Anthropic今年春季推出的Mythos模型在性能上实现重大突破,并非偶然,而是算法效率加速提升的结果。他写道:“Mythos并非一次偶然的突破,而是超指数增长趋势中的一个节点。现在,他们只需 耗费最初训练时的一小部分算力,就能重新训练Mythos。”

考克森指出,算法改进即将实现自动化,因此 主张明年暂停前沿AI模型研发 ,让竞争对手有机会赶上。他认为,此举将使 达到人类水平的智能成为可以广泛获取的商品 ,受到损害的只有OpenAI和Anthropic。

考克森曾在OpenAI负责AI模型训练工作,最近一份工作则是在Anthropic。今年9月,他公开警告先进AI系统可能带来的风险,引发广泛关注,业内其他重要人士也提出了类似警告。他们担心,能够不断自我改进的先进AI最终可能脱离人类控制。

转载说明引用来源:IT之家引用网址:https://www.ithome.com/1/027/221.htm