今天小编分享的互联网经验:国内首家! 阿里云全方位支持Llama 3 训练推理,并提供免费算力,欢迎阅读。
4 月 18 日,Meta 开源最新 Llama 3 系列,阿里云魔搭社区第一时间上架全部 4 款模型。今天,阿里云百炼大模型服务平台宣布在国内首家推出针对 Llama 3 系列的限时免费训练、部署、推理服务,企业和开发者即日起即可在阿里云上基于其打造自己的专属大模型。
Llama 3 是 Meta 推出的新一代开源大语言模型,拥有 80 亿及 700 亿参数版本,训练数据较 Llama 2 扩大 7 倍,性能表现也大幅提升。不过,由于对特定语言或垂直领網域能力的要求,企业和开发者往往需要对开源模型进行再训练或微调,过程较为繁琐。
为方便国内开发者,阿里云百炼平台推出针对 Llama 3 的一键训练、部署、推理方案,且限时免除模型开发和调用的算力费用。企业和开发者可在阿里云百炼模型广场申请使用,通过后即可快速体验 Llama 3 效果,并与其他模型进行直观比较。
希望直接进行推理应用的用户,可在百炼上点击模型调试、prompt 模版等功能,快速基于 Llama 3 打造自己的 AI 助手。希望深度开发的企业,可结合企业数据集,一键启动 SFT 全参训练或 LoRA 高效训练,后续利用百炼 RAG 检索增强、智能体打造等能力进行应用开发。
百炼平台融合了阿里云强大的 AI 基础设施能力,企业和开发者能获得丰富的 AI 计算资源和极致弹性,轻松在云上完成对超大尺寸模型的深度开发、高效部署和高并发推理。在基础设施层,阿里云灵骏智算集群具备高达十万卡 GPU 的扩展性;在 AI 平台层,人工智能平台 PAI 提供了高效灵活的调度能力,可 10 倍提升大模型训练性能,并稳定运行千卡任务 5 周以上;在模型即服务层面,阿里云打造了国内最大规模的 AI 模型社区魔搭和模型服务平台百炼,提供从大模型选型、体验到再训练、部署、应用、推理的一站式服务。
作为中国云计算领导者,阿里云提出要做 "AI 时代最开放的云 ",全面支持中国大模型生态繁荣。从去年起,阿里云全尺寸、全模态开源了自研通义千问大模型,并深度支持对 Llama、Mistral、Stable Diffusion、ComfyUI 等开源模型的开发应用,以及百川智能、智谱 AI、零一万物、昆仑万维、vivo、复旦大学等众多国内机构大模型的训练推理。目前,阿里云已成为中国大模型的公共算力底座,超过一半中国主流大模型跑在阿里云上。
雷峰网