域名备案期间 网站访问,张家界市建设工程造价管理站网站,公司营业执照,电子商务网站建设的心得Meta 公司开发了最大的基础开源大型语言模型之一 Llama#xff0c;该公司认为未来将需要更强的计算能力来训练模型。马克-扎克伯格#xff08;Mark Zuckerberg#xff09;在本周二的 Meta 第二季度财报电话会议上表示#xff0c;为了训练 Llama 4#xff0c;公司需要比训练…Meta 公司开发了最大的基础开源大型语言模型之一 Llama该公司认为未来将需要更强的计算能力来训练模型。马克-扎克伯格Mark Zuckerberg在本周二的 Meta 第二季度财报电话会议上表示为了训练 Llama 4公司需要比训练 Llama 3 多 10 倍的计算能力。但他仍然希望 Meta 能够提高训练模型的能力而不是落后于竞争对手。 扎克伯格说“训练 Llama 4 所需的计算量很可能是我们训练 Llama 3 所需的计算量的近 10 倍而且未来的模型还将继续增长。很难预测未来几代人的发展趋势。但在这一点上考虑到启动新推理项目的筹备时间较长我宁愿冒险在需要之前建设能力而不是为时已晚。”
Meta于今年 4 月发布了拥有 800 亿个参数的 Llama 3。该公司上周发布了该模型的升级版名为Llama 3.1 405B拥有 4 050 亿个参数成为 Meta 最大的开源模型。
Meta 公司首席财务官苏珊-李Susan Li也表示公司正在考虑不同的数据中心项目并建设能力来训练未来的人工智能模型。她说Meta 预计这项投资将在 2025 年增加资本支出。
训练大型语言模型是一项成本高昂的工作。在服务器、数据中心和网络基础设施投资的推动下Meta 的资本支出从去年同期的 64 亿美元增至 2024 年第二季度的 85 亿美元增长了近 33%。
根据The Information 的报道OpenAI 在训练模型上花费了 30 亿美元另外还以折扣价从微软租用了 40 亿美元的服务器。
随着我们扩大生成式人工智能的训练能力以推进我们的基础模型我们将继续以灵活的方式建设我们的基础设施。这将使我们能够将训练能力用于基因人工智能推理或我们的核心排名和推荐工作当我们预计这样做会更有价值时我们就会这样做李开复在电话会议上说。
在电话会议上Meta 还谈到了面向消费者的Meta AI 的使用情况并表示印度是其聊天机器人的最大市场。但李开复指出公司并不指望 Gen AI 产品能对收入做出重大贡献。
