Описание
OpenAI выпускает gpt-oss-120b и gpt-oss-20b, две современные модели языка с открытыми весами, которые обеспечивают высокую производительность в реальных условиях по низкой цене. Эти модели доступны по гибкой лицензии Apache 2.0 и превосходят аналогичные открытые модели по задачам рассуждения. Они демонстрируют сильные возможности использования инструментов и оптимизированы для эффективного развертывания на потребительском оборудовании.
Модель gpt-oss-120b достигает почти равного уровня с OpenAI o4-mini по основным эталонам рассуждения, эффективно работая на одном GPU объемом 80 ГБ. Модель gpt-oss-20b показывает аналогичные результаты с OpenAI o3-mini по общим эталонам и может работать на устройствах с ограниченными ресурсами всего с 16 ГБ памяти. Это делает ее идеальной для использования на устройствах, локального вывода или быстрого итерационного процесса без дорогостоящей инфраструктуры. Обе модели также демонстрируют высокие результаты в использовании инструментов, вызовах функций с небольшим количеством примеров и рассуждениях в цепочке.
Безопасность является основополагающим аспектом подхода OpenAI к выпуску моделей, особенно для открытых моделей. Модели gpt-oss прошли комплексное обучение по безопасности и оценку, что гарантирует их соответствие высоким стандартам безопасности. OpenAI также сотрудничала с ранними партнерами для изучения реальных приложений, предоставляя эти модели для расширения возможностей разработчиков, предприятий и правительств в запуске и настройке ИИ на собственной инфраструктуре.
Модели gpt-oss были обучены с использованием современных техник предварительного и последующего обучения, сосредоточенных на рассуждении, эффективности и удобстве использования в различных средах развертывания. Каждая модель является трансформером, который использует архитектуру смеси экспертов для оптимизации производительности. Модели поддерживают три уровня рассуждений — низкий, средний и высокий — позволяя разработчикам настраивать производительность в зависимости от их потребностей.
Весы для обеих моделей свободно доступны для загрузки на Hugging Face и изначально квантизированы в MXFP4. Это позволяет эффективно использовать память, делая модели гибкими и легкими для запуска локально или через сторонних поставщиков. OpenAI стремится способствовать здоровой экосистеме открытых моделей, поощряя разработчиков и исследователей экспериментировать и внедрять инновации с помощью этих мощных инструментов.
Главное о gpt-oss
Модели с открытыми весами
Лицензия Apache 2.0
Сильные способности к рассуждению
Поддержка использования инструментов
Настраиваемые
Эффективное развертывание
Поддерживает локальный вывод
Архитектура смеси экспертов
Начало работы с gpt-oss
Получите доступ к модели: посетите сайт OpenAI для доступа к gpt-oss.
Аутентификация: создайте учетную запись, если это необходимо для доступа к модели.
Настройте окружение: подготовьте свою среду разработки для интеграции.
Интеграция через API: используйте предоставленный API для интеграции gpt-oss в ваше приложение.
Оптимизация: настройте параметры модели для производительности в зависимости от вашего конкретного случая использования.
Варианты использования gpt-oss
- ИИ на устройствах
- Локальный вывод
- Быстрая итерация
- Интеграция инструментов
- Настраиваемые решения ИИ
