Descripción
Chatty for LLMs es una extensión de Chrome diseñada para cerrar la brecha entre su navegador web y sus Modelos de Lenguaje Grandes (LLMs) instalados localmente, impulsados por Ollama. Esta herramienta permite a los usuarios entablar conversaciones directas con sus LLMs y aprovechar las capacidades de Generación Aumentada por Recuperación (RAG) en documentos encontrados dentro de la pestaña activa del navegador.
Para utilizar Chatty for LLMs, los usuarios deben tener Ollama ejecutándose localmente. La extensión requiere que se ejecute un comando específico en la terminal: `export OLLAMA_ORIGINS=chrome-extension://* ; ollama serve`. Este comando asegura que Ollama esté configurado para aceptar conexiones de la extensión de Chrome, permitiendo una comunicación fluida entre el navegador y los modelos de IA locales.
La función principal de Chatty for LLMs es facilitar sesiones de chat interactivas con sus LLMs elegidos. Más allá de la conversación simple, la extensión admite RAG, lo que le permite procesar y comprender información de páginas web. Esto significa que puede hacer preguntas sobre el contenido de una página web, y el LLM, aumentado con la información de la página, puede proporcionar respuestas más contextualmente relevantes y precisas.
El público objetivo de Chatty for LLMs incluye entusiastas de la IA, desarrolladores, investigadores y cualquier persona interesada en experimentar o integrar LLMs locales en su flujo de trabajo diario de navegación web. Es particularmente útil para aquellos que prefieren mantener la privacidad de sus datos ejecutando modelos en su propio hardware o que desean ajustar sus interacciones de IA sin depender de servicios basados en la nube.
La propuesta de valor de Chatty for LLMs radica en su capacidad para llevar el poder de los LLMs locales directamente al navegador. Ofrece una forma conveniente e integrada de chatear con IA, realizar análisis de documentos sobre contenido web y explorar las capacidades de los LLMs de código abierto sin una configuración compleja o dependencias externas más allá de Ollama en sí. La extensión tiene como objetivo hacer que la interacción con LLMs locales sea más accesible y práctica para el uso web diario.
Características principales de Chatty for LLMs
Chatea con LLMs que se ejecutan localmente a través de Ollama
Realiza Generación Aumentada por Recuperación (RAG) en documentos de la pestaña activa
Requiere que Ollama esté instalado y ejecutándose localmente
Utiliza un comando específico para la configuración de origen de Ollama
Integra el chat de IA directamente en el navegador
Facilita respuestas contextualmente relevantes de los LLMs
Soporta la interacción con varios modelos de LLM locales
Diseñado para usuarios conscientes de la privacidad que ejecutan IA local
Mejora la navegación web con capacidades de IA
Permite el análisis de documentos del contenido de páginas web
¿Cómo usar Chatty for LLMs?
Instala la extensión de Chrome Chatty for LLMs
Asegúrate de que Ollama esté instalado y ejecutándose en tu máquina local
Abre tu terminal y ejecuta el comando: export OLLAMA_ORIGINS=chrome-extension://* ; ollama serve
Navega a una página web con la que deseas interactuar
Abre la interfaz de la extensión Chatty for LLMs
Selecciona tu LLM local deseado
Comienza a chatear o haz preguntas sobre el contenido de la página web
Casos de uso de Chatty for LLMs
- Chat con LLM Local
- Análisis de Contenido Web
- Implementación de RAG
- IA Enfocada en la Privacidad
- Interacción de IA Basada en Navegador
- Experimentación con LLMs
