微软论文意外曝光GPT核心机密:4o-mini只有8B,o1也才300B
01-04 10:10 来源:csdn 阅读(131)

微软在一篇论文(https://arxiv.org/abs/2412.19260)中意外披露了OpenAI的模型参数,包括o1-preview约3000亿参数,GPT-4o约2000亿参数,以及GPT-4o-mini约80亿参数。此外,论文还提及了英伟达将在2024年初发布的B200模型,其参数为1.8万亿,与此前关于GPT-4作为1.8T MoE(1800亿参数)的说法相近,但微软给出的GPT-4参数更为精确,为1.76万亿。这一披露引发了业界广泛关注。