AI Study Online
📦

CodeLlama 70B

开源

Meta AI · 2024-01

开源代码生成模型,专注于多语言编程任务。

访问官网

快速概览

参数量

70B

上下文窗口

100K tokens

模态

text, code

开源

许可证

Llama 2 Community License

价格

免费(开源)

发布日期

2024-01

开发者

Meta AI

关于

CodeLlama 70B 是 Meta 的开源代码专用大语言模型,基于 Llama 2 构建,拥有 700 亿参数。它提供三个变体:Base(通用代码补全)、Python(Python 专用)和 Instruct(指令跟随优化)。CodeLlama 70B 支持多种流行编程语言的代码生成、补全、调试和解释。其开源特性允许开发者自部署、微调并将其集成到自定义开发工作流中,无需 API 成本或速率限制。

优势

  • +开源且许可宽松
  • +强大的多语言代码生成能力
  • +可自部署以保护隐私和节省成本
  • +针对不同用例的专门变体

不足

  • 需要大量 GPU 资源来运行
  • 被新模型(Llama 4、GPT-4o)超越
  • 不具备多模态能力
  • 上下文长度不如现代模型

适用场景

自部署代码生成和补全

针对特定领域代码任务的微调

隐私敏感的开发环境

无需 API 的离线代码辅助

价格

自部署

$0

  • 完整模型权重
  • 无限推理
  • 支持微调

API(Together/Perplexity)

From $0.20/M tokens

  • 托管推理
  • 无需 GPU
  • 速率限制

技术规格

参数量

70B

上下文窗口

100K tokens

模态

text, code

语言

EnglishChinese50+ languages

开源

许可证

Llama 2 Community License

开发者

Meta AI

发布日期: 2024-01

分享这篇文章

相关模型