본문으로 건너뛰기
ToolPotion
AI 어드바이저
제출 (무료)

Inkling 2 Mini

LLM#39AI 모델 및 LLM오픈소스 · 웹

Inkling 2 Mini는 Thinking Machines Lab, Inc.에서 개발한 범용 다중 모달 모델입니다. 텍스트와 이미지 입력을 모두 수용하여 텍스트 출력을 생성하며, 영어 및 기타 언어를 지원합니다. 개발자를 위해 설계되어 에이전트 시스템, 코딩 도우미, 챗봇 및 검색 증강 생성 시스템과 같은 AI 애플리케이션 구축을 용이하게 하며, 연구 및 통합을 위한 공개 가중치를 제공합니다.

URL 방문
공유
Inkling 2 Mini 스크린샷
Inkling 2 Mini 스크린샷

Inkling 2 Mini는 텍스트와 이미지 입력을 처리하여 텍스트 출력을 생성하도록 설계된 다재다능한 다중 모달 모델입니다. Thinking Machines Lab, Inc.에서 개발한 이 모델은 광범위한 적용 가능성을 위해 설계되었으며, 영어 및 기타 언어, 여러 코딩 언어를 지원합니다. AI 기반 애플리케이션을 개발하는 개발자에게 특히 적합하며, 에이전트 및 도구 사용 시스템, 코딩 도우미, 챗봇, 검색 증강 생성(RAG) 시스템을 포함합니다. 또한 일반적인 대화 사용, 지시 따르기 및 다양한 자연어 및 시각적 작업을 수행할 수 있습니다.

더 읽기

이 모델은 Apache 2.0 라이선스 하에 공개 가중치로 출시되어 연구, 미세 조정 및 하위 개발자에 의한 제3자 제품 통합을 장려합니다. 약 20GB의 단일 체크포인트로 배포되며, 혼합 NVFP4 및 MXFP8 정밀도를 사용합니다. 이 컴팩트한 크기는 1x NVIDIA DGX Spark, 32GB 이상의 메모리를 가진 Apple 실리콘 장치(맥북, 맥 미니, 스튜디오) 및 권장 VRAM 32GB 이상의 기타 GPU에서 로컬 추론을 가능하게 합니다.

Inkling 2 Mini는 Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth(양자화된 GGUF 버전 포함), llama.cpp(양자화된 GGUF 버전용), Llama App, Ollama 및 Exo Labs(Apple 실리콘에서)와 같은 여러 프레임워크를 통해 로컬 추론을 지원합니다. Miles 및 SkyRL로 후속 훈련할 수도 있습니다. 이 모델은 희소 혼합 전문가(MoE) 피드포워드 레이어를 갖춘 24층 디코더 전용 변환기 아키텍처를 특징으로 합니다. 중간 12층은 공유 가중치로 세 번 실행되어 24층의 가중치에서 각 토큰당 48층 응용 프로그램을 효과적으로 제공합니다. 각 층은 128명의 전문가 중 8명에게 토큰을 라우팅하며, 주의(attention)는 지역 및 글로벌 층의 하이브리드입니다. 이미지는 비전 변환기를 통해 인코딩되며, 이미지 및 텍스트 입력은 디코더에 의해 공동 처리되기 위해 공유된 숨겨진 공간으로 투영됩니다. 이 모델은 264억 개의 매개변수를 가지며, 34억 개의 활성 매개변수를 가지고 있으며, 최대 100만 개의 토큰에 대한 컨텍스트 창을 지원합니다.

Inkling 2 Mini의 훈련 데이터는 공개적으로 사용 가능한 리포지토리, 제3자 인수, 내부 생성 및 합성 증강에서 수집된 텍스트, 이미지 및 비디오를 포함한 다양한 콘텐츠 유형을 포괄합니다. 데이터 큐레이션에는 중복 제거 및 품질 및 안전성을 위한 필터링을 포함하여 데이터 세트를 정리, 처리 및 수정하는 작업이 포함됩니다. 안전성 평가가 수행되었으며, 일상적인 인간-AI 상호작용 및 위험한 기능 테스트를 포함하여 완화 조치가 정렬 훈련을 통해 적용되었습니다. 모델의 한계에는 잠재적인 환각, 간헐적인 지시 따르기 실패, 긴 대화에서의 성능 저하 및 훈련 데이터의 편향이 포함됩니다. 사실 회상 및 지식 중심 질문에서 더 큰 모델보다 능력이 떨어지며, 특히 비영어 언어에서 반복적인 추론이나 에이전트 신뢰성 부족을 보일 수 있습니다. 개발자는 인간의 감독을 적용하고, 에이전트 작업을 샌드박스에서 실행하며, 배포 전에 독립적인 평가를 수행할 것을 권장합니다.

  • 카테고리AI 모델 및 LLM
  • 요금제오픈소스
  • 배포로컬 실행
  • 플랫폼웹

  • 다중 모달 입력: 텍스트와 이미지 입력을 모두 수용하여 처리합니다.

  • 텍스트 출력 생성: 다중 모달 입력에 기반하여 텍스트 출력을 생성합니다.

  • 범용 모델: 다양한 애플리케이션 및 작업을 위해 설계되었습니다.

  • 다국어 지원: 영어 및 기타 언어에서 작동합니다.

  • 다양한 코딩 언어 지원: 여러 코딩 환경에서 호환됩니다.

  • 공개 가중치 출시: 다운로드 및 사용을 위한 공개 가중치가 제공됩니다.

  • Apache 2.0 라이선스: 연구, 미세 조정 및 통합을 위한 유연성을 제공합니다.

  • 개발자 중심: AI 기반 애플리케이션 구축을 위한 것입니다.

  • 에이전트 시스템 지원: 에이전트 및 도구 사용 시스템 개발에 적합합니다.

  • 코딩 도우미 기능: 코딩 도우미를 만드는 데 사용할 수 있습니다.

  • 챗봇 통합: 챗봇 개발을 용이하게 합니다.

  • 검색 증강 생성(RAG) 시스템: RAG 시스템 생성을 지원합니다.

  • 로컬 추론 기능: 지정된 하드웨어에서 로컬 AI 컴퓨팅을 실행할 수 있습니다.

  • 광범위한 프레임워크 지원: Hugging Face, SGLang, vLLM 등과 호환됩니다.

  • 후속 훈련 옵션: Miles 및 SkyRL로 후속 훈련할 수 있습니다.

  • 대규모 컨텍스트 창: 최대 100만 개의 토큰을 지원합니다.

  1. 모델 가중치 다운로드: Hugging Face에서 Inkling 2 Mini 가중치를 액세스하고 다운로드합니다.

  2. Tinker 플랫폼을 통한 접근: API 접근 및 모델 상호작용을 위해 Tinker 미세 조정 플랫폼을 활용합니다.

  3. Tinker 렌더러 설치: Tinker 플랫폼 통합을 위해 tml-renderers 패키지를 설치합니다.

  4. 로컬 하드웨어 구성: 필요한 하드웨어(예: NVIDIA DGX Spark, 32GB 이상의 메모리를 가진 Apple 실리콘)가 준비되어 있는지 확인합니다.

  5. 소프트웨어 프레임워크 설치: Hugging Face, SGLang 또는 llama.cpp와 같은 지원되는 로컬 추론 프레임워크를 설정합니다.

  6. 추론 실행: 선택한 프레임워크를 사용하여 이미지 및 텍스트 입력에서 텍스트 생성을 위해 모델을 로컬에서 실행합니다.

  • AI 애플리케이션 개발
  • 에이전트 시스템 생성
  • 코딩 도우미 도구
  • 챗봇 구현
  • 검색 증강 생성
  • 일반 대화형 AI
  • 자연어 처리
  • 시각적 작업 처리
  • 모델 미세 조정
  • 제3자 제품 통합

Inkling 2 Mini 리뷰

로딩 중...

Inkling 2 Mini와(과) 비슷한 인기 AI 도구

Inkling 2 Small은 텍스트와 이미지 입력을 모두 수용하고 텍스트 출력을 생성하도록 설계된 범용 다중 모달 모델입니다. 영어 및 기타 언어, 여러 코딩 언어를 지원합니다. 이 모델은 에이전트 시스템, 코딩 도우미, 챗봇 및 검색 증강 생성과 같은 AI 애플리케이션을 구축하는 개발자를 위해 설계되었으며, 연구 및…

AI 모델 및 LLM

LLM 34위

도구 보기

텍스트와 이미지 입력을 모두 수용하고 텍스트 출력을 생성하도록 설계된 범용 다중 모달 모델입니다. 영어 및 기타 언어, 여러 코딩 언어를 지원합니다. 이 모델은 에이전트 시스템, 코딩 도우미, 챗봇 및 검색 증강 생성과 같은 AI 애플리케이션을 구축하는 개발자를 위해 설계되었으며, 연구 및…Inkling 2 Small은 텍스트와 이미지 입력을 모두 수용하고 텍스트 출력을 생성하도록 설계된 범용 다중 모달 모델입니다. 영어 및 기타 언어, 여러 코딩 언어를 지원합니다. 이 모델은 에이전트 시스템, 코딩 도우미, 챗봇 및 검색 증강 생성과 같은 AI 애플리케이션을 구축하는 개발자를 위해 설계되었으며, 연구 및…

AI 모델 및 LLM
LLM 34위

잉클링은 개발자를 위해 설계된 975B 매개변수의 다중 모달 AI 모델입니다. 텍스트, 이미지 및 오디오 입력을 수용하며, 챗봇 및 코딩 도우미를 포함한 다양한 애플리케이션에 대한 텍스트 출력을 생성합니다. 오픈 가중치로 출시되어 연구 및 제3자 제품에 통합할 수 있습니다.

AI 모델 및 LLM
도구 보기

개발자를 위해 설계된 975B 매개변수의 다중 모달 AI 모델입니다. 텍스트, 이미지 및 오디오 입력을 수용하며, 챗봇 및 코딩 도우미를 포함한 다양한 애플리케이션에 대한 텍스트 출력을 생성합니다. 오픈 가중치로 출시되어 연구 및 제3자 제품에 통합할 수 있습니다.잉클링은 개발자를 위해 설계된 975B 매개변수의 다중 모달 AI 모델입니다. 텍스트, 이미지 및 오디오 입력을 수용하며, 챗봇 및 코딩 도우미를 포함한 다양한 애플리케이션에 대한 텍스트 출력을 생성합니다. 오픈 가중치로 출시되어 연구 및 제3자 제품에 통합할 수 있습니다.

추천AI 모델 및 LLM
AI 모델 TOP 5 보기

Inkling-Small은 텍스트, 이미지 및 오디오 입력을 처리하여 텍스트 출력을 생성하는 다목적 다중 모달 모델입니다. 개발자가 챗봇 및 코딩 도우미와 같은 AI 애플리케이션을 생성하는 데 지원하며, 연구 및 통합을 위한 공개 가중치를 제공합니다.

AI 모델 및 LLM

LLM 27위

도구 보기

텍스트, 이미지 및 오디오 입력을 처리하여 텍스트 출력을 생성하는 다목적 다중 모달 모델입니다. 개발자가 챗봇 및 코딩 도우미와 같은 AI 애플리케이션을 생성하는 데 지원하며, 연구 및 통합을 위한 공개 가중치를 제공합니다.Inkling-Small은 텍스트, 이미지 및 오디오 입력을 처리하여 텍스트 출력을 생성하는 다목적 다중 모달 모델입니다. 개발자가 챗봇 및 코딩 도우미와 같은 AI 애플리케이션을 생성하는 데 지원하며, 연구 및 통합을 위한 공개 가중치를 제공합니다.

AI 모델 및 LLM
LLM 27위

DeepSeek는 일반 인공지능 개발에 전념하는 AI 연구 회사입니다. DeepSeek-V4, DeepSeek-R1, DeepSeek-Coder와 같은 오픈 소스 최전선 LLM을 제공하여 사용자가 AI와 대화하거나 다양한 애플리케이션을 위해 API를 통해 통합할 수 있도록 합니다.

AI 모델 및 LLM

LLM 2위

도구 보기

일반 인공지능 개발에 전념하는 AI 연구 회사입니다. DeepSeek-V4, DeepSeek-R1, DeepSeek-Coder와 같은 오픈 소스 최전선 LLM을 제공하여 사용자가 AI와 대화하거나 다양한 애플리케이션을 위해 API를 통해 통합할 수 있도록 합니다.DeepSeek는 일반 인공지능 개발에 전념하는 AI 연구 회사입니다. DeepSeek-V4, DeepSeek-R1, DeepSeek-Coder와 같은 오픈 소스 최전선 LLM을 제공하여 사용자가 AI와 대화하거나 다양한 애플리케이션을 위해 API를 통해 통합할 수 있도록 합니다.

추천AI 모델 및 LLM
LLM 2위

TML-d24-varloop-research는 Thinking Machines Lab, Inc.에서 개발한 다중 모달 연구 모델입니다. 이 모델은 텍스트와 이미지 입력을 모두 수용하여 텍스트 출력을 생성합니다. 이 모델은 Inkling 2 Mini의 변형 루프 구조로, 추론 시 루프 레이어의 수를 선택할 수 있습니다.…

AI 모델 및 LLM

LLM 96위

도구 보기

Thinking Machines Lab, Inc.에서 개발한 다중 모달 연구 모델입니다. 이 모델은 텍스트와 이미지 입력을 모두 수용하여 텍스트 출력을 생성합니다. 이 모델은 Inkling 2 Mini의 변형 루프 구조로, 추론 시 루프 레이어의 수를 선택할 수 있습니다.…TML-d24-varloop-research는 Thinking Machines Lab, Inc.에서 개발한 다중 모달 연구 모델입니다. 이 모델은 텍스트와 이미지 입력을 모두 수용하여 텍스트 출력을 생성합니다. 이 모델은 Inkling 2 Mini의 변형 루프 구조로, 추론 시 루프 레이어의 수를 선택할 수 있습니다.…

AI 모델 및 LLM
LLM 96위

LLaVA

AI GitHub 저장소

LLaVA는 대규모 언어 및 시각 기능을 결합한 시각적 명령어 튜닝 모델입니다. GPT-4V 수준의 성능 달성을 목표로 하며, 멀티모달 이해 및 상호작용을 가능하게 합니다. 이 프로젝트는 연구원 및 개발자를 위한 코드, 모델 및 리소스를 제공합니다.

AI 모델 및 LLM
도구 보기

AI GitHub 저장소

대규모 언어 및 시각 기능을 결합한 시각적 명령어 튜닝 모델입니다. GPT-4V 수준의 성능 달성을 목표로 하며, 멀티모달 이해 및 상호작용을 가능하게 합니다. 이 프로젝트는 연구원 및 개발자를 위한 코드, 모델 및 리소스를 제공합니다.LLaVA는 대규모 언어 및 시각 기능을 결합한 시각적 명령어 튜닝 모델입니다. GPT-4V 수준의 성능 달성을 목표로 하며, 멀티모달 이해 및 상호작용을 가능하게 합니다. 이 프로젝트는 연구원 및 개발자를 위한 코드, 모델 및 리소스를 제공합니다.

AI 모델 및 LLM
AI GitHub 저장소 TOP 250 보기

Langflow

AI 프레임워크

Langflow는 AI 에이전트 및 검색 증강 생성(RAG) 애플리케이션을 생성하고 배포하도록 설계된 로우 코드 AI 빌더입니다. 드래그 앤 드롭 기능을 갖춘 시각적 인터페이스를 제공하여 사용자가 광범위한 코딩 없이 복잡한 워크플로우를 구축할 수 있도록 합니다. Langflow는 주요 LLM, 벡터 데이터베이스 및 AI…

AI 에이전트 빌더

AI 프레임워크 2위

도구 보기

AI 프레임워크

AI 에이전트 및 검색 증강 생성(RAG) 애플리케이션을 생성하고 배포하도록 설계된 로우 코드 AI 빌더입니다. 드래그 앤 드롭 기능을 갖춘 시각적 인터페이스를 제공하여 사용자가 광범위한 코딩 없이 복잡한 워크플로우를 구축할 수 있도록 합니다. Langflow는 주요 LLM, 벡터 데이터베이스 및 AI…Langflow는 AI 에이전트 및 검색 증강 생성(RAG) 애플리케이션을 생성하고 배포하도록 설계된 로우 코드 AI 빌더입니다. 드래그 앤 드롭 기능을 갖춘 시각적 인터페이스를 제공하여 사용자가 광범위한 코딩 없이 복잡한 워크플로우를 구축할 수 있도록 합니다. Langflow는 주요 LLM, 벡터 데이터베이스 및 AI…

추천AI 에이전트 빌더
AI 프레임워크 2위

Haystack AI 프레임워크

AI 프레임워크

Haystack은 프로덕션 준비가 된 LLM 애플리케이션 구축을 위한 오픈소스 AI 프레임워크입니다. AI 에이전트, 강력한 RAG 시스템, 확장 가능한 멀티모달 검색 솔루션 생성을 지원합니다. 개발자는 재사용 가능한 구성 요소로 파이프라인을 구축하고, 이를 사용자 정의하며, 다양한 AI 개발 요구에 맞춰 여러 기술을…

코딩 및 개발
도구 보기

AI 프레임워크

프로덕션 준비가 된 LLM 애플리케이션 구축을 위한 오픈소스 AI 프레임워크입니다. AI 에이전트, 강력한 RAG 시스템, 확장 가능한 멀티모달 검색 솔루션 생성을 지원합니다. 개발자는 재사용 가능한 구성 요소로 파이프라인을 구축하고, 이를 사용자 정의하며, 다양한 AI 개발 요구에 맞춰 여러 기술을…Haystack은 프로덕션 준비가 된 LLM 애플리케이션 구축을 위한 오픈소스 AI 프레임워크입니다. AI 에이전트, 강력한 RAG 시스템, 확장 가능한 멀티모달 검색 솔루션 생성을 지원합니다. 개발자는 재사용 가능한 구성 요소로 파이프라인을 구축하고, 이를 사용자 정의하며, 다양한 AI 개발 요구에 맞춰 여러 기술을…

코딩 및 개발
AI 프레임워크 TOP 50 보기
1/8