热门资讯

DeepMind联合创始人：GPT-5正在训练中比当前模型大100倍

业界来源：快科技 2023-09-03 19:34:51

DeepMind联合创始人Suleyman近日在采访中表示，GPT-5仍在秘密训练中，未来将会比现在的GPT-4大100倍。

其实，Open AI CEO Sam Altman此前曾否认训练GPT-5的这一说法。有消息人士表示，OpenAI可能给它起了一个新名字，所以他们才说没有训练GPT-5。

Suleyman目前是Inflection AI的CEO，Inflection AI正在建造世界上最大的超级计算机之一，并且他认为在接下来的18个月内，他们可能会进行一次比制造GPT-4的语言模型训练运行大10倍或100倍的训练运行。

今年3月份GPT-4正式发布，和ChatGPT最初使用的GPT-3.5模型相比，GPT-4实现了几个方面的飞跃式提升：强大的识图能力；文字输入限制提升至2.5万字；回答准确性显著提高；能够生成歌词、创意文本，实现风格变化。

GPT-3.5有1750亿参数规模，OpenAI没有公布过GPT-4的具体规格，但之后的分析认为它拥有16个专家模型，每个MLP专家大约有1110亿个参数，总计1.8万亿参数，是GPT-4的10倍规模。

GPT-5如果按照这个比例来提升，那要突破10万亿参数了，有可能成为最大规模的AI大模型，远超其他所有对手。

DeepMind联合创始人：GPT-5正在训练中 比当前模型大100倍