Описание
CanIRun.ai — это бесплатный веб-инструмент, который помогает вам определить, какие открытые AI модели ваше оборудование может запускать локально. Он определяет вашу GPU или Mac и сопоставляет вашу VRAM или унифицированную память с базой данных оборудования, затем оценивает каждую открытую модель по предполагаемой скорости, запасу памяти и качеству, сортируя их на модели, которые подходят комфортно, плотно и те, которые слишком тяжелые.
Читать далее
Инструмент охватывает открытые LLM, модели для кодирования, модели рассуждений и локальные модели генерации изображений и видео. Он считывает подсказки о GPU, RAM и CPU из браузера, или вы можете пропустить определение и открыть страницу устройства для конкретной GPU, чипа Apple, телефона или Raspberry Pi. Вход или регистрация не требуются.
CanIRun.ai сосредоточен на открытых моделях, которые вы можете скачать и запустить самостоятельно, предлагая рекомендации по требованиям к VRAM, квантованию и тому, как на самом деле запустить рекомендованную модель с помощью таких инструментов, как runai, Ollama или LM Studio. Он подчеркивает локальную, частную инференцию, где подсказки никогда не покидают ваше устройство.
- КатегорияМашинное обучение и наука о данных
- Модель ценообразованияБесплатно
- РазвёртываниеОблако
- ПлатформыВеб
Основные функции CanIRun.ai
Автоматическое определение аппаратного обеспечения GPU и Mac в браузере
Сопоставление вашей VRAM или унифицированной памяти с базой данных моделей
Оценка моделей по соответствию, скорости, запасу памяти и качеству
Охват LLM, моделей для кодирования, изображений и видео
Страницы устройств для конкретных GPU, чипов Apple, телефонов и Raspberry Pi
Рекомендации по требованиям к VRAM и квантованию
Инструкции по запуску через runai, Ollama или LM Studio
Вход или регистрация не требуются
Как использовать CanIRun.ai?
Откройте сайт: посетите CanIRun.ai в вашем браузере.
Определите аппаратное обеспечение: позвольте инструменту считать вашу GPU, RAM и CPU или выберите конкретное устройство.
Просмотрите совпадения: посмотрите, какие открытые модели подходят комфортно, плотно или слишком тяжелые.
Выберите модель: исследуйте LLM, модели для кодирования, изображения или видео, подходящие для вашего устройства.
Запустите её: скопируйте команду runai или используйте Ollama или LM Studio с теми же весами.
Варианты использования CanIRun.ai
- Проверка совместимости оборудования
- Поиск локальных LLM
- Локальная генерация изображений и видео
- Планирование устройства
