Descrição
EmbeddingGemma 2 é um modelo avançado de incorporação multimodal criado pela Google DeepMind. Ele integra entradas de texto, imagens, vídeo e áudio em um único espaço vetorial de 768 dimensões, tornando-o adequado para várias aplicações, como busca, classificação e agrupamento.
Ler mais
O modelo é composto por 740 milhões de parâmetros, incluindo uma espinha dorsal de texto com 270 milhões de parâmetros e codificadores modulares de visão e áudio.
Projetado para operar de forma eficiente em hardware de consumo, o EmbeddingGemma 2 fornece representações semânticas de baixa latência para aplicações em dispositivos. Ele suporta mais de 100 idiomas e demonstra uma melhoria de 14% em tarefas de código em comparação com seu antecessor. O modelo apresenta o Aprendizado de Representação Matryoshka, permitindo que incorporações truncadas reduzam os custos de armazenamento enquanto mantêm a qualidade.
EmbeddingGemma 2 oferece uma pegada flexível, permitindo que os desenvolvedores carreguem apenas as modalidades necessárias para seu caso de uso. Ele suporta uma janela de contexto de 8.192 tokens, capaz de processar conteúdo extenso de áudio ou vídeo. O modelo utiliza representações orientadas por tarefas, otimizando incorporações para várias tarefas por meio de prefixos de instrução de texto leves.
A arquitetura do modelo inclui 24 camadas, uma dimensão oculta de 2048 e um tamanho de vocabulário de 262.144. Ele emprega redes feedforward com ativação GELU e pooling médio. O EmbeddingGemma 2 foi avaliado em vários benchmarks, mostrando melhorias significativas em tarefas de incorporação de texto, código, imagem, vídeo e áudio.
Embora o EmbeddingGemma 2 seja poderoso, os usuários devem estar cientes de suas limitações, como preconceitos nos dados de treinamento e desafios com tarefas abertas. Os desenvolvedores são incentivados a implementar salvaguardas em nível de aplicação para garantir o uso responsável.
- CategoriaModelos de IA e LLMs
- Modelo de preçosCódigo aberto
- ImplantaçãoNuvem
- PlataformasWeb
Destaques de EmbeddingGemma 2
Incorporação multimodal
Suporta mais de 100 idiomas
740M parâmetros
Aplicações em dispositivos de baixa latência
Aprendizado de Representação Matryoshka
Representações orientadas por tarefas
Janela de contexto de 8.192 tokens
Pegada flexível
Primeiros passos com EmbeddingGemma 2
Acessar modelo: Visite Hugging Face
Autenticar: Configurar acesso à API
Configurar ambiente: Instalar bibliotecas
Integrar via API: Usar endpoints do modelo
Otimizar: Aplicar prefixos de tarefa
Casos de uso de EmbeddingGemma 2
- Busca Semântica
- Classificação de Texto
- Agrupamento
- Similaridade Semântica
- Verificação de Fatos
