#模型亮点:1) 405B模型使用超15万亿个token进行训练;2)算力规模首次扩展到了超过16000个H100 GPU，在 H10080GB(TDP为 700W)类型硬件上累计使用了 39.3M GPU 小时的计算;3)Meta将模型从16位(BF16)量化到8位(FP8)数值，有效地降低了所需的计算需求:4)相比前一代，ama 3.1的上下文窗口从8k增加到了128K，扩大了16倍;5)支持8种语言。

#开源优势:闭源模型如OpenAI的GPT系列一直以其强大的性能领先市场。Lama 3.1-405B的出现打破了这一局面，证明了开源模型同样能够达到甚至超越闭源模型的性能水平，作为开源模型，Lama 3.1-405B将极大地促进社区的创新和发展。Meta与超过25个合作伙伴将提供Lama 3.1模型，包括亚马逊AWS、NVIDIA、Databricks、Grog、戴尔、微软Azure和谷歌云等。