open-os LLM Browser Extension

Описание

Расширение браузера open-os LLM предоставляет удобный и приватный способ взаимодействия с вашими локальными большими языковыми моделями (LLM) непосредственно в вашем браузере на базе Chromium. Разработанное для пользователей, которые используют Ollama для своих нужд в области ИИ, это легкое расширение с открытым исходным кодом предлагает быстрый доступ к вашему ИИ-ассистенту, не покидая текущую вкладку.

Это расширение совместимо с любой моделью, поддерживаемой Ollama, включая популярные варианты, такие как Llama 3, Qwen, Gemma и Mistral. Пользователи могут легко переключаться между установленными моделями на лету, обеспечивая гибкость в их взаимодействиях с ИИ. Расширение поддерживает потоковые ответы, отображая каждый токен по мере его поступления для более динамичного опыта общения. Полная поддержка Markdown улучшает читаемость и форматирование разговоров.

Интеграция проста: есть возможность доступа к интерфейсу LLM либо из боковой панели браузера, либо как отдельной новой вкладки. Расширение обладает высокой степенью настраиваемости, предлагая предустановленные запросы (pre-prompts) и сценарии для установки правильного контекста для вашего LLM. Оно также включает шесть встроенных тем, от стандартных режимов Light и Dark до уникальных стилей Retro Terminal и NOSTROMO MU-TH-UR 6000. Экспериментальная функция «Soul Identity Injection» позволяет внедрять богатые ИИ-личности, работающие на soul-protocol.com.

Приватность и производительность являются основными принципами расширения open-os. Оно работает без необходимости создания учетных записей, отправки телеметрии или использования внешних серверов, гарантируя, что ваши данные остаются локальными и безопасными. Параметры настройки включают размер шрифта, имя пользователя и имя ассистента, что позволяет персонализировать пользовательский опыт. Начало работы так же просто, как установка Ollama, загрузка модели и нажатие на значок расширения.

Целевая аудитория включает разработчиков, энтузиастов ИИ и всех, кто хочет интегрировать возможности локальных LLM в свой повседневный браузинг. Фокус расширения на приватности, скорости и простоте использования делает его привлекательным инструментом для тех, кто предпочитает держать свои взаимодействия с ИИ локальными и под своим контролем. Оно устраняет разрыв между мощными локальными моделями ИИ и повседневным веб-браузингом, повышая производительность и открывая новые формы взаимодействия.

Основные функции open-os LLM Browser Extension

• Быстрый доступ к локальным LLM через Ollama

• Поддержка всех моделей Ollama (Llama 3, Qwen, Gemma, Mistral и т. д.)

• Настраиваемое подключение к хосту Ollama

• Переключение моделей на лету

• Потоковые ответы, отображаемые по токенам

• Полная поддержка Markdown в разговорах

• Доступ через боковую панель или новую вкладку

• Предустановленные запросы и сценарии для установки контекста

• Шесть встроенных тем (Light, Dark, Modern, Retro Terminal, NOSTROMO)

• Экспериментальная функция Soul Identity Injection с ИИ-личностями

• Настраиваемый размер шрифта, имя пользователя и имя ассистента

• Без учетных записей, телеметрии или внешних серверов для обеспечения конфиденциальности

• Простая, быстрая и приватная работа

Как использовать open-os LLM Browser Extension?

1. 1

   Установите Ollama: Загрузите и установите Ollama с сайта ollama.com.

2. 2

   Загрузите модель: Откройте терминал и выполните команду типа 'ollama run llama3:8b'.

3. 3

   Установите расширение: Добавьте расширение браузера open-os LLM в ваш браузер Chrome.

4. 4

   Начните чат: Нажмите на значок расширения, чтобы открыть интерфейс чата.

5. 5

   Доступ через новую вкладку: Щелкните правой кнопкой мыши по значку расширения, чтобы открыть интерфейс в новой вкладке.

6. 6

   Настройте параметры: Отрегулируйте темы, шрифты и имена в настройках расширения.

7. 7

   Внедрите личности: Используйте экспериментальную функцию Soul Identity Injection для уникальных взаимодействий с ИИ.

Варианты использования open-os LLM Browser Extension

• Быстрый чат с ИИ
• Генерация контента
• Поиск информации
• Контекстная помощь
• Приватное взаимодействие с ИИ
• Инструменты для разработчиков
• Персонализированный ИИ

Часто задаваемые вопросы open-os LLM Browser Extension

• Что такое расширение браузера open-os LLM?

  Расширение браузера open-os LLM — это легкий инструмент с открытым исходным кодом для браузеров на базе Chromium, который обеспечивает быстрый доступ к вашему локальному ИИ-ассистенту, работающему через Ollama.

• Какие модели LLM поддерживает расширение open-os?

  Оно поддерживает любую модель, которую можно запустить через Ollama, включая популярные, такие как Llama 3, Qwen, Gemma и Mistral.

• Как подключить расширение к моему LLM?

  Вам необходимо установить Ollama и загрузить модель. Затем расширение подключается к вашему локальному хосту Ollama, который также может быть настроен для удаленных серверов в вашей локальной сети.

• Могу ли я переключаться между различными моделями LLM с помощью этого расширения?

  Да, расширение позволяет переключаться между вашими установленными моделями Ollama на лету непосредственно из интерфейса браузера.

• Собирает ли расширение какие-либо пользовательские данные?

  Нет, разработчик сообщил, что не будет собирать или использовать ваши данные. Оно работает без учетных записей, телеметрии или внешних серверов, обеспечивая конфиденциальность.

• Как отображаются ответы в расширении?

  Ответы передаются по токенам, обеспечивая динамичный и отзывчивый опыт чата. Расширение также поддерживает полное форматирование Markdown.

• Какие варианты настройки доступны?

  Вы можете настроить размер шрифта, имя пользователя, имя ассистента и текст заголовка. Оно также включает шесть встроенных тем и экспериментальную функцию Soul Identity Injection для ИИ-личностей.

• Где я могу получить доступ к интерфейсу LLM?

  Вы можете получить доступ к интерфейсу LLM либо из боковой панели браузера (в поддерживаемых браузерах), либо открыв его в новой вкладке.

• Является ли расширение браузера open-os LLM бесплатным?

  Расширение имеет открытый исходный код и бесплатно для использования. Основным требованием является наличие локально установленных Ollama и совместимых моделей LLM.

• Каковы системные требования для использования этого расширения?

  Вам нужен браузер на базе Chromium (Chrome, Brave, Edge) и установленный Ollama с загруженной как минимум одной моделью LLM.

• Что такое Soul Identity Injection?

  Soul Identity Injection — это экспериментальная функция, которая позволяет внедрять в ваши разговоры богатые ИИ-личности, такие как MU-TH-UR 6000 или HAL 9000, работающие на soul-protocol.com.