- N +

新V观海外:o1模型的开源复现和智商测试

新V观海外:o1模型的开源复现和智商测试原标题:新V观海外:o1模型的开源复现和智商测试

导读:

最近花杨幂正在拍摄新剧生万物相关路透也引发了热议该剧是一部农村题材大戏也是杨幂的转型之作备受关注由于杨幂今年上半年三部作品都遭遇不同程度的差评杨幂能否翻身成功似乎就看这部戏经济...

最近,85花杨幂正在拍摄新剧《生万物》,相关路透也引发了热议。该剧是一部农村题材大戏,也是杨幂的转型之作,备受关注。由于杨幂今年上半年三部作品都遭遇不同程度的差评,杨幂能否翻身成功,似乎就看这部戏。

经济观察报 社论 陈沛/文 自从OpenAI推出 的高级推理模型o1,已经过去了10天左右的时间。

模型刚推出的时候,很多率先使用的用户会觉得这个预览版模型(o1-preview)的纯文本模式和类似规划代理的生成效果略感平淡,就像我在前一篇专栏中写过的情况。

新V观海外:o1模型的开源复现和智商测试

也有一些研究者试图从OpenAI介绍的内容中针对自我对弈强化学习、数据合成等进行分析,以突出这个模型的特别提升之处。

在此期间,各种说法林林总总,不一而足。我则认为值得进一步分析的是随后很快出现的o1模型开源复现版,以及 的智商 结果。

一周内出现o1开源复现效果

美国SambaNova公司的Kaizhao Liang在o1模型发布一周内,就在HuggingFace上推出了一个类似o1模型思考过程的开源平替版——Llama3.1-Instruct-O1。

这个开源平替版用到了Llama-3.1-Instruct模型,用户可以选择405B、70B、8B三个开源模型版本,再设置思考步骤的限制(从1至100之间),然后就可以实现类似o1模型的思考过程。

实现原理 清楚,作者给Llama-3.1-Instruct开源模型增 额外的系统提示词,共包括八个阶段,要求模型仔细阅读问题,按照思考步骤数量设置计数器,并要求模型进行自我反思,完成全部解答阶段后进行重新组织,形成最终输出 。

客观来看,这个方法比较讨巧,直接借用成熟的提示框架对开源模型的输出结果进行限定,以生成类似的思考效果,却不涉及上述的自我对弈强化学习过程。不过,这想必也不是开源复现版作者的本意。因为SambaNova作为AI推理加速服务商,更多是想展示它们在多步推理中的加 果,而非高级推理能力。

发现o1模型智商超群

如何更加直观体现o1模型的推理能力,有人想到了进行智商 。美国Tracking AI负责人Maxim Lott使用了门萨智商 (Mensa Norway)对12个主流模型进行了 ,定期更新 结果。

在最近的 结果中,o1模型在35道题中答对了25道,智商达到121,是所有模型中 一个智商超过平均值(100)的模型。其它模型的智商多数普遍在80至90左右。

但是必须看到,由于这12个被测模型中既包括o1这样的纯文本模型,也包括GPT-4o、Gemini Advanced、Claude-3 Opus等多模态模型,而35道智商 题中又有相当部分题目是复杂图形推理题,因此 者需要把题目和选项转成 的文本描述输入给纯文本模型,这个人工转换过程或多或少会让纯文本模型在 结果上获得一定优势。

当然,就算排除掉这一点优势因素,o1模型在智商 中所体现出来的复杂推理能力依然处于明显的领先位置。

OpenAI对o1模型的阶段定位

OpenAI的CEO Sam Altman在最近的表态中,将o1模型比喻成过去GPT系列模型的GPT-2,这似乎侧面印证了o1模型虽然表现出了显著的能力提升,但同时也存在着明显的缺点。

回顾过去,在发展GPT系列模型时,也是一直演进到GPT-3.5的阶段,才推出了Ch GPT引发了巨大关注。

展望后续的发展路线,如今o1模型已经来到了OpenAI之前提出5层通用人工智能的第2层(推理者,Reasoner),并将继续向之后第3层至第5层的智能代理(Agent)、创新者(Innov or)和组织者(Organizer)持续攀登。

返回列表
上一篇:
下一篇: