移动版

新兴替代开源项目OpenLLaMAH:商用利器一触可得!

2023-05-06 21:15 爆米花 0
编辑有话说:OpenLLaMAH是一款开源的替代Meta的LLaMA模型,提供相似的功能。最重要的是,OpenLLaMAH可以用于商业用途,而不需要额外的费用。这为企业提供了一个经济实惠的解决方案,以满足其数据分析和预测的需求。

近日消息,LLaMA 等大型语言模型的成功推动了开源聊天机器人的发展,但对这些模型的许可限制限制了它们的商业用途。OpenLLaMA 为希望使用语言模型的企业提供了一种更易于访问且更具成本效益的选择.

OpenLLaMA 是 Meta 的 LLaMA 语言模型的开源复制品,可以用于商业目的。自 Meta 的 LLaMA 系列大型语言模型的揭开面纱以及随后的泄露以来,开源聊天机器人的发展已经猛增。诸如 Alpaca、Vicuna 和 OpenAssistant 的模型都以Meta的模型为基础,采用不同形式的指令调整。

然而,LLaMA 模型仅供研究使用许可,这限制了该模型的商业应用。

Meta的LLaMA模型开源替代品,OpenLLaMAH可用于商业用途

OpenLLaMA 复制了 Meta 的语言模型。基于其他免费提供的模型的替代方案与 Meta 模型的质量不匹配,因为 LLaMA 遵循 Deepmind 的Chinchilla缩放法则并且已经过特别大量数据的训练。

Berkeley AI Research 的研究人员希望在 OpenLLaMA 项目中复制 Meta 的 LLaMA 模型。该团队正在为该项目使用 Together 的 RedPajama 数据集。开源平台还宣布打算在4月复制 LLaMA 模型,作为第一步发布1.2万亿参数数据集。

Together网址:https://www.together.xyz/blog/redpajama-training-progress

伯克利团队现在发布了70亿参数 OpenLLaMA 模型的早期版本,该模型迄今已在1.2万亿token中的3000亿个上进行了训练。据说性能已经接近 LLaMA 的水平,并且团队相信经过全面训练的 OpenLLaMA 将与 Meta 的原始版本竞争。

除了70亿参数模型,OpenLLaMA 团队还在训练一个30亿参数版本,以便在资源有限的用例中使用强大的语言模型。该团队目前没有更大模型的计划。

Meta的LLaMA模型开源替代品,OpenLLaMAH可用于商业用途

0
免责声明:本文转载互联网,不代表本网站的观点和立场。如果你觉得好欢迎分享此网址给你的朋友。
文章标签

本文统计

  • 发布时间:2023-05-06 21:15
  • 修改次数:1
  • 修改时间:2023-09-15 11:30
  • 浏览热度:145
  • 评论数量:0
  • 点赞次数:0
评论
举报
验证码
发表

暂无评论,期待你的妙语连珠

举报文章问题
验证码
举报文章问题

已收到!

我们将尽快处理。