在人工智能领域，Bob McGrew是一个备受关注的人物。他曾是OpenAI的首席研究官，在过去六年半中为AI技术的进步做出了重要贡献。在离开OpenAI一个多月后，McGrew接受了RedPoint AI播客的采访，讨论了AI的未来、大模型的发展瓶颈以及机器人和AI视频的前景。
McGrew认为，尽管大模型已经取得了显著进展，但仍有很大的提升空间。不过，这种进步需要大量计算资源，并且是一个缓慢的过程。例如，从GPT-3到GPT-4，计算能力增加了100倍，这不仅涉及更多的芯片和数据中心，还包括算法的改进。他指出，预训练的进步需要巨大的计算量，建造新的数据中心也是一个缓慢的过程。从GPT-4进化到GPT-5的过程中，GPT的能力可能只会出现10倍的增长。
McGrew预测，未来视频模型的质量将显著提升，完全由AI生成的电影可能会在两年内出现，并且成本会大幅下降。在机器人技术方面，他表现出了极大的热情，认为机器人技术将在五年内得到普及，现在是创建机器人公司的好时机。基础模型在快速启动和泛化方面取得了突破性进展。
关于AGI（通用人工智能），McGrew认为它不会有一个明确的转折点，而是一系列渐进的发展。随着AI的进步，我们将进入一个智能无处不在且免费的世界，能动性将成为最稀缺的资源之一。
McGrew还谈到了预训练和测试时计算的重要性。他认为，要取得预训练的进展，特别是需要大幅增加计算量。从GPT-2到GPT-3，或者从GPT-3到GPT-4，有效的计算量增加了100倍。虽然可以通过增加浮点运算次数、芯片、扩大数据中心和改进算法来实现这一点，但本质上这是一个非常缓慢的过程。此外，他还提到O1模型通过强化学习取得了进展，代表了比GPT-4高100倍的计算量。
McGrew对多模态也非常感兴趣，特别是视频生成。他认为Sora这样的工具解决了许多难题，并且未来几年内视频生成的成本将大幅下降。他预测两年内会有由AI生成的获奖电影出现，但这并不意味着这些电影本身特别出色，而是因为导演利用视频模型实现了创意愿景。
对于企业应用，McGrew认为可靠性是目前最大的障碍。从90%的可靠性提高到99%的可靠性，计算量可能增加一个数量级。此外，企业中的部署还需要考虑上下文信息，如同事、项目和代码库等。他认为未来的突破在于如何有效集成这些数据，并使用计算机使用模型来处理复杂任务。
最后，McGrew分享了他对AI领域的看法。他认为过度炒作的是新的架构，而被低估的是O1模型。他离开OpenAI是因为觉得已经完成了大部分目标，现在希望探索新的领域并与更多人交流。他鼓励大家继续关注AI的进步，因为这将是非常令人兴奋的旅程。
平台声明：该文观点仅代表作者本人，佐伊科技仅提供信息存储空间服务。发布者：rmltwz，转转请注明出处：https://www.rmltwz.com/shehui/21869.html
