硅谷AI大模型保卫战: 新开源大模型Llama 3.1闪亮登场,AI模型价格战加剧 | 火星时代教育

发布时间:2024-10-06 14:11:59 浏览量:118次

就在今天凌晨,硅谷掀起了一场激烈的AI大模型保卫战,Meta和OpenAI掀起硅谷AI大模型保卫战的序幕。

据钛媒体App 7月24日报道,美国科技巨头Meta今晨推出迄今为止性能最强大的开源大模型——Llama 3.1 405B(4050亿参数),同时发布全新升级的Llama 3.1 70B和8B版本。

新推出的Llama 3.1 405B支持上下文长度为128K Tokens,基于15万亿个Tokens的训练,实现Meta有史以来规模最大的训练。这一力作被证实可与GPT-4o、Claude 3.5 Sonnet和Gemini Ultra等头部模型相匹敌。

Meta创始人、首席执行官马克·扎克伯格认为Llama 3.1是目前最先进的模型,并表示Meta正在积极研发Llama 4。扎克伯格更撰写长文《Open Source AI Is the Path Forward》,呼吁开源引领AI行业新时代。

而在OpenAI看来,刚刚发布的GPT-4o mini微调版全面免费使用,为当前AI大模型价格战添上一抹亮色。

这场硅谷AI大模型军备竞赛愈发白热化。

全球性能最强4050亿开源大模型Llama 3.1震撼登场,算力成本高达数亿美金

Meta Llama 3.1 405B是全球迄今性能最强、规模最大的开源模型,基于15万亿Tokens训练,在超1.6万个H100 GPU上推进。团队为此大幅优化整个训练过程,并以史无前例规模训练了405B。

Llama 3.1的升级优化了训练前后数据的质量和数量,包括更细致的预处理、严格的质量保证和后续数据滤净。为支持大规模405B模型推理,团队将模型从16位(BF16)量化为8位(FP8),有效降低计算需求且允许单个服务器节点运行。

基于超150个基准数据集,Llama 3.1 405B在常识、操作性、数学、工具使用和多语言翻译等任务中与GPT-4o、Claude 3.5 Sonnet和Gemini Ultra齐名。

Meta已更新许可证,允许开发者首次使用405B参数的Llama模型输出来改进其他模型。已有超25个企业推出基于Llama 3.1的新模型,如亚马逊AWS、Databricks、英伟达等。

扎克伯格看好Llama将成为开源AI行业标杆,Meta尝试将开源和闭源差距缩小到极致,实现模型技术领先。

OpenAI抢先Meta,宣布将AI模型价格降至零

OpenAI在Meta发布Llama 3.1几小时后紧急声明:即日起,GPT-4o mini微调版将全面免费。

据OpenAI表示,GPT-4o mini微调功能允许其小型新模型在特定用例中表现更为出色。免费使用期至9月23日,超出部分按每百万Tokens 3.00美元收费。

GPT-4o mini相较于GPT-3.5 Turbo更优惠,拥有更长的上下文和更强的技术能力。开发者可通过数万训练Tokens费用低的GPT-4o mini获得性价比更高。

奥尔特曼赞扬GPT-4o mini以更实惠的价格在lmsys上取得接近GPT-4o的性能表现,鼓励更多人使用GPT-4o mini微调版本。

目前,硅谷AI价格战继续升级,开源和闭源大模型之间差距不断缩小。针对Llama 3.1 405B的推出,这个新模型为广大开发者和合作伙伴提供了更多解决问题的可能性,然而,开源模型在应用领域的表现和商业化落地还需时间检验。

OpenAI将AI模型价格打到零,让硅谷AI价格战火力全开,Llama 3.1 405B的价格远低于同类模型,OpenAI将迎来一系列挑战。

  • Llama 3.1 405B不同平台的价格:Fireworks: $3 in / $3 out / 1M tokens Together: $5 in / $15 out Replicate: $9.5 in / $9.5 out Groq: 仅支持企业用户
  • 对比一下:GPT-4o: $5 in / $15 out Claude 3.5 sonnet: $3 in / $15 out

调研机构FutureSearch发布关于OpenAI收入的报告称,OpenAI年度经常性收入达到34亿美金,但ChatGPT会员付费收入占比逾一半,API收入仅占15%左右。

关于GPT-5,奥尔特曼透露,GPT-5仍需时间开发,但相比GPT-4,GPT-5将实现“巨大飞跃”。

“我们对未来持乐观态度,但还需努力。”奥尔特曼表示,GPT-5有复杂算法需处理,“希望它有所突破。GPT-4仍存在一些问题,如推理和误差,跑偏和犯错误的情况。”

(本文首发于钛媒体App,作者|林志佳,编辑|胡润峰)

热门课程推荐

热门资讯

请绑定手机号

x
确定