설명
EmbeddingGemma 2는 Google DeepMind에서 만든 고급 다중 모달 임베딩 모델입니다. 텍스트, 이미지, 비디오 및 오디오 입력을 단일 768차원 벡터 공간으로 통합하여 검색, 분류 및 클러스터링과 같은 다양한 애플리케이션에 적합합니다. 이 모델은 7억 4천만 개의 매개변수로 구성되어 있으며, 2억 7천만 개의 매개변수를 가진 텍스트 백본과 모듈형 비전 및 오디오 인코더를 포함합니다.
더 읽기
소비자 하드웨어에서 효율적으로 작동하도록 설계된 EmbeddingGemma 2는 장치 내 애플리케이션을 위한 낮은 지연 시간의 의미론적 표현을 제공합니다. 100개 이상의 언어를 지원하며, 이전 모델에 비해 코드 작업에서 약 14% 향상된 성능을 보여줍니다. 이 모델은 Matryoshka Representation Learning 기능을 갖추고 있어, 품질을 유지하면서 저장 비용을 줄이기 위해 임베딩을 잘라낼 수 있습니다.
EmbeddingGemma 2는 유연한 발자국을 제공하여 개발자가 사용 사례에 필요한 모달리티만 로드할 수 있도록 합니다. 8,192 토큰의 컨텍스트 창을 지원하여 방대한 오디오 또는 비디오 콘텐츠를 처리할 수 있습니다. 이 모델은 작업 지향 표현을 사용하여 경량 텍스트 지침 접두사를 통해 다양한 작업에 대한 임베딩을 최적화합니다.
모델의 아키텍처는 24개의 레이어, 2048의 숨겨진 차원 및 262,144의 어휘 크기를 포함합니다. GELU 활성화 및 평균 풀링을 사용하는 게이티드 피드포워드 네트워크를 채택하고 있습니다. EmbeddingGemma 2는 여러 벤치마크에서 평가되어 텍스트, 코드, 이미지, 비디오 및 오디오 임베딩 작업에서 상당한 개선을 보여주었습니다.
EmbeddingGemma 2는 강력하지만, 사용자는 훈련 데이터의 편향 및 개방형 작업의 어려움과 같은 한계를 인식해야 합니다. 개발자는 책임 있는 사용을 보장하기 위해 애플리케이션 수준의 안전 장치를 구현할 것을 권장합니다.
- 카테고리AI 모델 및 LLM
- 요금제오픈소스
- 배포클라우드
- 플랫폼웹
EmbeddingGemma 2 하이라이트
다중 모달 임베딩
100개 이상의 언어 지원
7억 4천만 개의 매개변수
장치 내 애플리케이션을 위한 낮은 지연 시간
Matryoshka Representation Learning
작업 지향 표현
8,192 토큰 컨텍스트 창
유연한 발자국
EmbeddingGemma 2 시작하기
모델 접근: Hugging Face 방문
인증: API 접근 설정
환경 설정: 라이브러리 설치
API를 통한 통합: 모델 엔드포인트 사용
최적화: 작업 접두사 적용
EmbeddingGemma 2의 사용 사례
- 의미론적 검색
- 텍스트 분류
- 클러스터링
- 의미론적 유사성
- 사실 검증










