新V观海外:o1模型的开源复现和智商测试
经济观察报 社论 陈沛/文自从OpenAI推出最新的高级推理模型o1,已经过去了10天左右的时间。
模型刚推出的时候,很多率先使用的用户会觉得这个预览版模型(o1-preview)的纯文本模式和类似规划代理的生成效果略感平淡,就像我在前一篇专栏中写过的情况。
也有一些研究者试图从OpenAI介绍的内容中针对自我对弈强化学习、数据合成等进行分析,以突出这个模型的特别提升之处。
在此期间,各种说法林林总总,不一而足。我则认为值得进一步分析的是随后很快出现的o1模型开源复现版,以及最新的智商测试结果。
一周内出现o1开源复现效果
美国SambaNova公司的Kaizhao Liang在o1模型发布一周内,就在HuggingFace上推出了一个类似o1模型思考过程的开源平替版——Llama3.1-Instruct-O1。
这个开源平替版用到了Llama-3.1-Instruct模型,用户可以选择405B、70B、8B三个开源模型版本,再设置思考步骤的限制(从1至100之间),然后就可以实现类似o1模型的思考过程。
实现原理非常清楚,作者给Llama-3.1-Instruct开源模型增加了额外的系统提示词,共包括八个阶段,要求模型仔细阅读问题,按照思考步骤数量设置计数器,并要求模型进行自我反思,完成全部解答阶段后进行重新组织,形成最终输出答案。
客观来看,这个方法比较讨巧,直接借用成熟的提示框架对开源模型的输出结果进行限定,以生成类似的思考效果,却不涉及上述的自我对弈强化学习过程。不过,这想必也不是开源复现版作者的本意。因为SambaNova作为AI推理加速服务商,更多是想展示它们在多步推理中的加速效果,而非高级推理能力。
测试发现o1模型智商超群
如何更加直观体现o1模型的推理能力,有人想到了进行智商测试。美国Tracking AI负责人Maxim Lott使用了门萨智商测试(Mensa Norway)对12个主流模型进行了测试,定期更新测试结果。
在最近的测试结果中,o1模型在35道题中答对了25道,智商达到121,是所有模型中唯一一个智商超过平均值(100)的模型。其它模型的智商多数普遍在80至90左右。
但是必须看到,由于这12个被测模型中既包括o1这样的纯文本模型,也包括GPT-4o、Gemini Advanced、Claude-3 Opus等多模态模型,而35道智商测试题中又有相当部分题目是复杂图形推理题,因此测试者需要把题目和选项转成非常全面的文本描述输入给纯文本模型,这个人工转换过程或多或少会让纯文本模型在测试结果上获得一定优势。
当然,就算排除掉这一点优势因素,o1模型在智商测试中所体现出来的复杂推理能力依然处于明显的领先位置。
OpenAI对o1模型的阶段定位
OpenAI的CEO Sam Altman在最近的表态中,将o1模型比喻成过去GPT系列模型的GPT-2,这似乎侧面印证了o1模型虽然表现出了显著的能力提升,但同时也存在着明显的缺点。
回顾过去,在发展GPT系列模型时,也是一直演进到GPT-3.5的阶段,才推出了ChatGPT引发了巨大关注。
展望后续的发展路线,如今o1模型已经来到了OpenAI之前提出5层通用人工智能的第2层(推理者,Reasoner),并将继续向之后第3层至第5层的智能代理(Agent)、创新者(Innovator)和组织者(Organizer)持续攀登。