Описание
Code Llama — это семейство больших языковых моделей Meta, специализированных для кода, созданное путем дополнительного обучения Llama 2 на специфических наборах данных о коде. Он предназначен для общей синтеза и понимания кода: генерации кода и объяснений на естественном языке на основе подсказок, завершения частичного кода и дополнения кода на основе окружающего контекста.
Читать далее
Семейство представлено в трех размерах параметров (7B, 13B и 34B, с добавлением размера 70B позже) и тремя вариантами для каждого размера: базовая модель Code Llama для общего синтеза и понимания кода, Code Llama - Python, настроенная специально для Python, и Code Llama - Instruct, настроенная для следования инструкциям и более безопасного использования в приложениях помощников по коду. Модели являются авто-регрессивными трансформерами, которые принимают текстовый ввод и производят текстовый вывод, обученные Meta с января по июль 2023 года на фиксированном, оффлайн наборе данных; они являются статическими релизами, а не постоянно обновляемыми. Документированные возможности модели включают завершение кода, дополнение, взаимодействие по инструкциям и в чате, а также специализацию на Python, с охватом языков, включая Python, C++, Java, PHP, TypeScript (JavaScript), C# и Bash.
Эта организация Hugging Face упаковывает модели в формате Transformers для легкой загрузки с библиотеками transformers и accelerate; официальный репозиторий Meta размещен отдельно в рамках своей организации Meta Llama. Перед загрузкой модели можно протестировать через хостинг-демо: Code Llama Playground для базовой модели 13B, Code Llama Chat для модели, настроенной на инструкции 13B, и версию 34B, настроенную на инструкции, доступную через Hugging Chat.
Code Llama и его варианты лицензированы по индивидуальной коммерческой лицензии Meta и предназначены для коммерческого и исследовательского использования на английском языке и поддерживаемых языках программирования; использование вне этого объема или в нарушение политики приемлемого использования Meta выходит за рамки лицензии.
Code Llama ориентирован на разработчиков и исследователей, создающих приложения для генерации кода, завершения или помощников по кодированию, которые хотят открытой, самохостимой альтернативы закрытому API генерации кода.
- КатегорияИИ-модели и LLM
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако, На своём сервере
- ПлатформыВеб
Главное о Code Llama
Генерация кода и объяснение кода на естественном языке на основе подсказок
Завершение кода и дополнение на основе окружающего контекста
Варианты Instruct для помощи в кодировании в формате чата
Специализированные варианты для Python, настроенные специально для этого языка
Доступно в размерах параметров 7B, 13B, 34B и 70B
Поддерживает Python, C++, Java, PHP, TypeScript/JavaScript, C#, Bash и другие
Распределяется в виде контрольных точек формата Hugging Face Transformers для каждого размера и варианта
Хостинг-демо (Playground, Chat, Hugging Chat) для тестирования моделей перед загрузкой
Начало работы с Code Llama
Выберите размер и вариант: выберите размер параметров (7B, 13B, 34B или 70B) и вариант (базовый, Python или Instruct) для вашей задачи.
Установите библиотеку: установите пакеты Hugging Face transformers и accelerate.
Загрузите модель: скачайте выбранную контрольную точку codellama/* с Hugging Face.
Сначала протестируйте демо: протестируйте Code Llama Playground, Code Llama Chat или демо Hugging Chat перед развертыванием своей версии.
Запросите модель: попросите о генерации кода, завершении, дополнении или объяснении на естественном языке.
Проверьте лицензию: ознакомьтесь с коммерческой лицензией Meta и политикой приемлемого использования перед производственным использованием.
Варианты использования Code Llama
- Генерация кода
- Завершение и дополнение кода
- Чат-помощник по кодированию
- Разработка, специфичная для Python
