今天小编分享的互联网经验:跟GPT-5比速度?扎克伯格确认:Meta正在训练Llama 3,欢迎阅读。
继 Altman 首次曝光 GPT-5 后,扎克伯格也表示正在训练 Llama 3。
北京时间 1 月 19 日 2:00,扎克伯格在 Instagram 上发布视频和推文,表示 " 正在训练下一代模型 Llama 3",将 " 负责任地开源 " 以 " 尽可能广泛地使用它 ",这样 " 每个人都能受益 "。
就在此前,OpenAI 首席执行官Sam Altman 周三在达沃斯论坛接受媒体采访时表示,他现在的首要任务就是推出下一代大模型,这款模型可能被称为 GPT-5,与现有模型相比,GPT-5 " 能做更多、更多的事情 "。
据 Altman 介绍, GPT-5 将是一个多模态模型,支持语音、影像、代码和视频,并在个性化和定制化功能方面实现重大更新,具备更强的推理能力和更高的准确性。当前大模型的通病——幻觉问题也将在 GPT-5 中得到解决。
扎克伯格尚未提及更多有关 Llama 3 的细节,但表示正在将现有的 FAIR 和 GenAI 两大研究工作合力推进:
" 我们的长期愿景是构建 AGI(通用人工智能),并将其开源,让每个人从中受益,为了支持这一目标,我们正在将我们的两大 AI 研究工作(FAIR 和 GenAI)紧密结合起来。"
为此,Meta 将大力建设算力基础设施。扎克伯格表示:
" 我们正在打造大规模的算力基础设施,以支持我们的未来路线图。"
" 短期目标是到今年年底拥有 35 万块 H100,将其他 GPU 包括在内的话,算力总水平相当于近 60 万块 H100。"
据悉,H100 GPU 的售价在 2.5-3 万美元之间,不考虑市场溢价等其他因素的话,Meta 此轮购入最低也要支出 90 亿美元。
另外,扎克伯克还提到 " 以 AI 为中心的新型计算设备 "Ray Ban Meta 眼镜的 " 进展令人兴奋 ",精彩即将呈现。