Перейти к основному содержимому
ToolPotion
ИИ-советник
Отправить

bigscience/bloom

Рекомендовано
AI-моделиИИ-модели и LLMОткрытый код · Веб

BLOOM — это многоязычная авторегрессионная большая языковая модель, разработанная BigScience. Она генерирует связный текст на 46 языках и 13 языках программирования, что позволяет использовать её в различных приложениях в области обработки естественного языка и исследований.

Открыть модель
Поделиться
Открыть модель
Поделиться

BLOOM, разработанная BigScience, является авторегрессионной большой языковой моделью (LLM), предназначенной для продвижения и демократизации искусственного интеллекта через открытый код и открытые науки. Выпущенная 11 июля 2022 года, эта модель способна генерировать связный текст на 46 естественных языках и 13 языках программирования, что делает её универсальным инструментом для различных приложений в области обработки естественного языка.

Читать далее

Архитектура BLOOM основана на модели трансформера, модифицированной от Megatron-LM GPT2. Она имеет 176 миллиардов параметров, 70 слоев и 112 голов внимания, что позволяет эффективно обрабатывать и генерировать текст. Модель была обучена на значительном наборе данных объемом 1,6 ТБ предварительно обработанного текста, который включает 350 миллиардов уникальных токенов. Это обширное обучение позволяет BLOOM выполнять задачи генерации текста, включая извлечение информации, ответы на вопросы и резюмирование, даже для задач, для которых она не была явно обучена.

BLOOM предназначена для общественных исследований в области больших языковых моделей, что делает её доступной для исследователей, преподавателей и разработчиков. Её можно легко интегрировать в приложения, используя экосистему Hugging Face, что требует установки transformers и accelerate. Предполагаемыми пользователями модели являются широкая публика, исследователи, студенты и инженеры, среди прочих. Однако важно отметить, что модель не должна использоваться в условиях высокой ответственности или для критического принятия решений, так как она может выдавать результаты, которые выглядят правдоподобно, но могут быть неверными.

Обучение BLOOM проводилось на публичном суперкомпьютере Jean Zay с использованием 384 GPU A100 80GB и финансировалось французским правительством. Влияние на окружающую среду в процессе обучения смягчается за счет использования ядерной энергии, а выделяемое тепло повторно используется для жилых помещений на кампусе. В целом, BLOOM представляет собой значительный шаг вперед в области ИИ, предоставляя мощный инструмент для генерации языка и исследований.

  • КатегорияИИ-модели и LLM
  • Модель ценообразованияОткрытый код
  • РазвёртываниеОблако
  • ПлатформыВеб

  • Тип модели: языковая модель на основе трансформера

  • Параметры: 176B

  • Поддерживаемые языки: 46 естественных языков, 13 языков программирования

  • Лицензия: RAIL License v1.0

  • Дата выпуска: 11 июля 2022 года

  • Размер обучающих данных: 1.6TB

  • Обучающие токены: 350B уникальных токенов

  • Вычислительная инфраструктура: публичный суперкомпьютер Jean Zay

  1. Доступ к странице: посетите сайт Hugging Face для BLOOM.

  2. Загрузить модель: скачайте модель BLOOM с помощью библиотеки transformers от Hugging Face.

  3. Настроить окружение: убедитесь, что transformers и accelerate установлены в вашем окружении.

  4. Интегрировать: используйте модель для задач генерации текста по мере необходимости.

  5. Дополнительно настроить: при желании дополнительно настройте модель для конкретных приложений.

  • Генерация текста
  • Извлечение информации
  • Ответы на вопросы
  • Резюмирование
  • Языковое исследование

Отзывы о bigscience/bloom

Загрузка...

Популярные ИИ-инструменты, похожие на bigscience/bloom

Базовая модель BigBird — это трансформер, расширяющий BERT для обработки гораздо более длинных последовательностей с использованием блочной разреженной самовнимательности. Она…

ИИ-модели и LLM
Открыть инструмент

Базовая модель BigBird — это трансформер, расширяющий BERT для обработки гораздо более длинных последовательностей с использованием блочной разреженной самовнимательности. Она…

ИИ-модели и LLM
Топ-5: AI-модели

Mistral-7B-v0.1

AI-модели

Mistral-7B-v0.1 — это предобученная генеративная текстовая модель с 7 миллиардами параметров, разработанная для продвижения искусственного интеллекта через открытый исходный код.…

ИИ-модели и LLM
Открыть инструмент

AI-модели

Предобученная генеративная текстовая модель с 7 миллиардами параметров, разработанная для продвижения искусственного интеллекта через открытый исходный код.…Mistral-7B-v0.1 — это предобученная генеративная текстовая модель с 7 миллиардами параметров, разработанная для продвижения искусственного интеллекта через открытый исходный код.…

РекомендованоИИ-модели и LLM
Топ-5: AI-модели

DistilGPT2

AI-модели

DistilGPT2 — это дистиллированная модель для генерации текста на английском языке, основанная на GPT-2. Она предлагает более быструю и легкую альтернативу своему предшественнику,…

ИИ-модели и LLM
Открыть инструмент

AI-модели

Дистиллированная модель для генерации текста на английском языке, основанная на GPT-2. Она предлагает более быструю и легкую альтернативу своему предшественнику,…DistilGPT2 — это дистиллированная модель для генерации текста на английском языке, основанная на GPT-2. Она предлагает более быструю и легкую альтернативу своему предшественнику,…

РекомендованоИИ-модели и LLM
Топ-5: AI-модели

OpenAI Whisper

AI-репозитории на GitHub

Whisper — это надежная универсальная модель распознавания речи, разработанная OpenAI. Она отлично справляется с многоязычным распознаванием речи, переводом и идентификацией языка.…

ИИ-инструменты транскрипции
Открыть инструмент

AI-репозитории на GitHub

Whisper — это надежная универсальная модель распознавания речи, разработанная OpenAI. Она отлично справляется с многоязычным распознаванием речи, переводом и идентификацией языка.…

РекомендованоИИ-инструменты транскрипции
Топ-250: AI-репозитории на GitHub

Чинчила

AI-модели

Чинчила — это языковая модель с 70 миллиардами параметров от Google DeepMind, обученная на 1,3 триллиона токенов, чтобы проверить, может ли меньшая модель, обученная на большем…

ИИ-модели и LLM
Открыть инструмент

AI-модели

Языковая модель с 70 миллиардами параметров от Google DeepMind, обученная на 1,3 триллиона токенов, чтобы проверить, может ли меньшая модель, обученная на большем…Чинчила — это языковая модель с 70 миллиардами параметров от Google DeepMind, обученная на 1,3 триллиона токенов, чтобы проверить, может ли меньшая модель, обученная на большем…

ИИ-модели и LLM
Топ-5: AI-модели

DeepSeek V4 Flash

AI-модели

DeepSeek V4 Flash — это коллекция моделей ИИ, предназначенная для сложных задач генерации текста. Она использует принципы открытого кода и открытой науки для демократизации…

ИИ-модели и LLM
Открыть инструмент

AI-модели

Коллекция моделей ИИ, предназначенная для сложных задач генерации текста. Она использует принципы открытого кода и открытой науки для демократизации…DeepSeek V4 Flash — это коллекция моделей ИИ, предназначенная для сложных задач генерации текста. Она использует принципы открытого кода и открытой науки для демократизации…

ИИ-модели и LLM
Топ-5: AI-модели

Gemma 3-27B IT Model

AI-модели

Gemma 3-27B IT — это современная мультимодальная модель ИИ от Google, способная обрабатывать текстовые и графические входные данные для генерации текстовых выходов. Она…

ИИ-модели и LLM
Открыть инструмент

AI-модели

Современная мультимодальная модель ИИ от Google, способная обрабатывать текстовые и графические входные данные для генерации текстовых выходов. Она…Gemma 3-27B IT — это современная мультимодальная модель ИИ от Google, способная обрабатывать текстовые и графические входные данные для генерации текстовых выходов. Она…

ИИ-модели и LLM
Топ-5: AI-модели

Google Gemma 2 9B Instruct — это легкая, современная открытая модель, предназначенная для задач генерации текста. Она является частью семейства Gemma и предлагает возможности в…

ИИ-модели и LLM
Открыть инструмент

Легкая, современная открытая модель, предназначенная для задач генерации текста. Она является частью семейства Gemma и предлагает возможности в…Google Gemma 2 9B Instruct — это легкая, современная открытая модель, предназначенная для задач генерации текста. Она является частью семейства Gemma и предлагает возможности в…

ИИ-модели и LLM
Топ-5: AI-модели
1 из 8