gpt-oss-120b · Hugging Face

Рекомендовано

gpt-oss-120b — это модель ИИ с открытыми весами, предназначенная для задач высокого уровня рассуждений, подходящая для использования в производстве на одном 80 ГБ GPU. Она предлагает настраиваемые усилия по рассуждению и возможности тонкой настройки для различных приложений.

Открыть модель

Описание

gpt-oss-120b является частью серии gpt-oss от OpenAI, которая направлена на продвижение и демократизацию искусственного интеллекта через открытый код и открытую науку. Эта модель специально разработана для мощных рассуждений и универсальных случаев использования разработчиков, что делает ее идеальной для производственных сред.

С 117 миллиардами параметров и 5,1 миллиарда активных параметров gpt-oss-120b оптимизирована для задач общего назначения, требующих высоких возможностей рассуждения. Она может эффективно работать на одном 80 ГБ GPU, таком как NVIDIA H100 или AMD MI300X, позволяя разработчикам использовать ее возможности без необходимости в обширных аппаратных ресурсах.

Одной из ключевых особенностей gpt-oss-120b является ее разрешительная лицензия Apache 2.0, которая позволяет пользователям свободно создавать без ограничений копилефта или рисков патентов. Это делает ее отличным выбором для экспериментов, настройки и коммерческого развертывания. Кроме того, пользователи могут настраивать усилия по рассуждению в соответствии с их конкретными потребностями, с вариантами для низкого, среднего или высокого уровней рассуждения, в зависимости от требуемой задержки и детализации.

Модель предоставляет полный доступ к цепочке рассуждений, позволяя пользователям понимать процесс рассуждения модели, что облегчает отладку и повышает доверие к результатам. Более того, gpt-oss-120b можно тонко настраивать, позволяя разработчикам адаптировать модель под свои конкретные случаи использования через тонкую настройку параметров.

gpt-oss-120b также обладает агентными возможностями, позволяя вызывать функции, просматривать веб-страницы, выполнять код Python и получать структурированные выходные данные. Эта универсальность делает ее подходящей для широкого спектра приложений, от задач веб-браузинга до более сложных агентных операций. Модель была дообучена с использованием квантования MXFP4, что обеспечивает эффективную работу на поддерживаемом оборудовании.

В заключение, gpt-oss-120b — это мощная модель ИИ, которая сочетает в себе высокие возможности рассуждения с гибкостью и простотой использования, что делает ее ценным инструментом для разработчиков, стремящихся внедрить передовые решения ИИ в своих проектах.

Главное о gpt-oss-120b

117B параметров
5.1B активных параметров
Лицензия Apache 2.0
Настраиваемые усилия по рассуждению
Полный доступ к цепочке рассуждений
Тонкая настройка
Агентные возможности
Квантование MXFP4

Начало работы с gpt-oss-120b

Доступ к странице: Посетите страницу модели gpt-oss-120b на Hugging Face.
Загрузите модель: Скачайте веса модели с помощью Hugging Face CLI.
Настройте окружение: Подготовьте ваше окружение с необходимыми зависимостями.
Интеграция: Используйте модель с Transformers или vLLM для развертывания.
Тонкая настройка: Настройте параметры модели для вашего конкретного случая использования.