MiniCPM5: 온디바이스 LLM

LLMs-from-scratch

AI GitHub 저장소

사용자가 PyTorch를 사용하여 ChatGPT와 유사한 언어 모델을 구현하는 방법을 안내하는 GitHub 프로젝트입니다. 이 프로젝트는 처음부터 대형 언어 모델을 구축하는 단계별 접근 방식을 제공하여 AI 및 머신러닝에 관심이 있는 개발자와 연구자에게 이상적입니다.LLMs-from-scratch는 사용자가 PyTorch를 사용하여 ChatGPT와 유사한 언어 모델을 구현하는 방법을 안내하는 GitHub 프로젝트입니다. 이 프로젝트는 처음부터 대형 언어 모델을 구축하는 단계별 접근 방식을 제공하여 AI 및 머신러닝에 관심이 있는 개발자와 연구자에게 이상적입니다.

llama.cpp

AI GitHub 저장소

C/C++에서 LLM 추론에 중점을 둔 GitHub 리포지토리입니다. 개발자들이 개발에 기여하고 기계 학습 애플리케이션을 위한 기능을 활용할 수 있도록 합니다.ggml-org/llama.cpp는 C/C++에서 LLM 추론에 중점을 둔 GitHub 리포지토리입니다. 개발자들이 개발에 기여하고 기계 학습 애플리케이션을 위한 기능을 활용할 수 있도록 합니다.

MiniGPT-4 & MiniGPT-v2

AI GitHub 저장소

MiniGPT-4 및 MiniGPT-v2의 오픈 소스 코드로, 비전-언어 이해를 향상시키는 고급 대규모 언어 모델입니다. 이 모델들은 비전-언어 작업을 위한 멀티태스크 학습을 가능하게 하며, 이미지 이해 및 생성 기능을 제공합니다. Llama 2 및 Vicuna 모델을 기반으로 구축되어 연구원 및 개발자를 위한 강력한…

LocalAI

AI GitHub 저장소

#44

사용자가 GPU 없이 모든 하드웨어에서 LLM, 비전, 음성, 이미지 및 비디오를 포함한 다양한 모델을 실행할 수 있도록 하는 오픈 소스 AI 엔진입니다. 이러한 유연성 덕분에 다양한 애플리케이션에 접근할 수 있습니다.LocalAI는 사용자가 GPU 없이 모든 하드웨어에서 LLM, 비전, 음성, 이미지 및 비디오를 포함한 다양한 모델을 실행할 수 있도록 하는 오픈 소스 AI 엔진입니다. 이러한 유연성 덕분에 다양한 애플리케이션에 접근할 수 있습니다.

코드 라마

LLM

#21

메타의 코드 전문 대형 언어 모델 패밀리로, 코드 중심 데이터로 Llama 2를 추가 훈련하여 구축되었습니다. 코드와 관련된 자연어를 생성하고, 코드를 완성 및 보완하며, 채팅 형식으로 코딩 지침을 따릅니다. 일반 코드, 파이썬 및 지침 따르기를 위한 전용 변종이 있습니다.코드 라마는 메타의 코드 전문 대형 언어 모델 패밀리로, 코드 중심 데이터로 Llama 2를 추가 훈련하여 구축되었습니다. 코드와 관련된 자연어를 생성하고, 코드를 완성 및 보완하며, 채팅 형식으로 코딩 지침을 따릅니다. 일반 코드, 파이썬 및 지침 따르기를 위한 전용 변종이 있습니다.

MLX LM

AI GitHub 저장소

#162

MLX 프레임워크를 사용하여 대형 언어 모델(LLM)을 실행하는 것을 용이하게 하기 위해 설계된 GitHub 프로젝트입니다. 개발자들이 개발에 기여하고 기능을 향상시킬 수 있도록 합니다.MLX LM은 MLX 프레임워크를 사용하여 대형 언어 모델(LLM)을 실행하는 것을 용이하게 하기 위해 설계된 GitHub 프로젝트입니다. 개발자들이 개발에 기여하고 기능을 향상시킬 수 있도록 합니다.

EleutherAI GPT-NeoX

AI GitHub 저장소

GPU에서 모델 병렬 자기 회귀 변환기의 오픈 소스 구현입니다. 이는 Megatron 및 DeepSpeed 라이브러리를 활용하여 대규모 언어 모델의 효율적인 훈련 및 배포를 촉진합니다.EleutherAI GPT-NeoX는 GPU에서 모델 병렬 자기 회귀 변환기의 오픈 소스 구현입니다. 이는 Megatron 및 DeepSpeed 라이브러리를 활용하여 대규모 언어 모델의 효율적인 훈련 및 배포를 촉진합니다.

text-generation-webui

AI GitHub 저장소

#57

로컬 대형 언어 모델(LLM)을 위해 설계된 오픈 소스 데스크톱 애플리케이션입니다. 텍스트, 비전 및 도구 호출 기능을 지원하며, OpenAI 및 Anthropic API와 호환되어 100% 프라이버시를 보장합니다.text-generation-webui는 로컬 대형 언어 모델(LLM)을 위해 설계된 오픈 소스 데스크톱 애플리케이션입니다. 텍스트, 비전 및 도구 호출 기능을 지원하며, OpenAI 및 Anthropic API와 호환되어 100% 프라이버시를 보장합니다.