6.99元租H800，一键部署Llama3，有羊毛速来薅！

今天小编分享的科学经验：6.99元租H800，一键部署Llama3，有羊毛速来薅！，欢迎阅读。

猛然间，大模型圈掀起一股 " 降价风潮 "。

前脚，智谱、DeepSeek 等大模型厂商将 API 价格一降再降，输入 100 万 tokens 仅需 1 元。

紧接着，GPU 租赁的价格也被打了下来。

现在潞晨云官方进行限时大额算力补贴，NVIDIA H800 的租用价格，低至6.99 元 / 卡 / 时；NVIDIA A800 为5.99 元 / 卡 / 时，4090 甚至低至1.39 元 / 卡 / 时。

不只有租赁服务，平台上还支持快速简易部署 Llama 3 微调、训练、推理。

其中在 64 卡 H100 集群上，经过 Colossal-AI 优化，相比微软 + 英伟达方案，可提升 LLaMA3 70B 的训练性能近 20%，推理性能也优于 vLLM 等方案。

Open-Sora 也能玩转。

如上最新动向来自潞晨云（https://cloud.luchentech.com）。

他们不仅将个人开发者、中小企业用户玩转大模型的成本大幅降低，而且上手门槛也不高。

具体来看实操演示 ~

部署 Llama 3 微调训练推理

潞晨云提供一键部署功能，只需简单操作即可快速启动计算环境。

在最开始时需要先创建云主机。比如对 Llama3 微调训练，可在 8 卡 H800 上完成，在算力市场中选择即可。

此处选择 Colossal-llama3 训练微调镜像，单击创建按钮，创建云主机。

确认当前路径名，并修改 config 檔案，输入教程中的 Llama3 训练脚本，本脚本已预置已处理数据集为例进行微调。

首先编译安装 Colossal-AI，其次创建训练需要的檔案夹，接着修改 hostfile，在镜像中安装 IP address 指令，查看镜像内 IP 地址。输入 IP address 指令将机内 IP 地址复制并更新到 hostfile 中，就完成了 Llama3 微调的全部流程。

如果是对 Llama 3 推理，可在云主机上选择单张 H800 作为算力资源。

Colossal-Inference 现已适配支持了 LLaMA-3 推理加速。

模型权重已准备好，无需额外安装。然后运行生成脚本：

PRETRAINED_MODEL_PATH="/root/notebook/common_data/Meta-Llama-3-8B" # huggingface or local model pathcd ColossalAI/examples/inference/colossalai run --nproc_per_node 1 llama_generation.py -m PRETRAINED_MODEL_PATH --max_length 80

进行多卡 TP 推理、如下例使用两卡生成：

colossalai run --nproc_per_node 2 llama_generation.py -m PRETRAINED_MODEL_PATH --max_length 80 --tp_size 2

运行吞吐 Benchmark 测试：

PRETRAINED_MODEL_PATH="/root/notebook/common_data/Meta-Llama-3-8B"git pull # update example benchmark from branch feature/colossal-infercd ColossalAI/examples/inference/python benchmark_llama3.py -m llama3-8b -b 32 -s 128 -o 256 -p PRETRAINED_MODEL_PATH

单卡 H100 对 LLaMA3-8B 进行 Benchmark 结果与 vLLM 对比（例：输入序列长度 128，输出长度 256）。