설명
Phi-4-reasoning-plus는 Microsoft Research에서 개발한 고급 추론 모델입니다. 이는 사고의 연쇄 추적 데이터셋에서 감독 학습과 강화 학습을 통해 Phi-4 모델에서 미세 조정되었습니다. 이 모델은 특히 수학, 과학 및 코딩에서 추론 작업을 잘 수행하도록 설계되었습니다. 140억 개의 매개변수를 가진 밀집 디코더 전용 Transformer 아키텍처를 사용하며, 특히 채팅 형식의 텍스트 입력에 최적화되어 있습니다. 모델의 훈련에는 160억 개의 토큰이 사용되었으며, 약 83억 개의 고유 토큰이 포함되어 있으며, 32개의 H100-80G GPU를 사용하여 2.5일 동안 진행되었습니다. 이 모델은 추론 체인 블록과 요약 블록을 생성하여 깊고 다단계의 추론이나 광범위한 맥락이 필요한 작업에 적합합니다.
Phi-4-reasoning-plus는 AIME, GPQA-Diamond, OmniMath 및 LiveCodeBench와 같은 다양한 벤치마크에서 평가되었으며, 추론 집약적인 작업에서 강력한 성능을 보여주었습니다. 이 모델은 Ollama, llama.cpp 및 Phi-4 호환 프레임워크와 같은 프레임워크에서도 지원됩니다. MIT 라이센스 하에 출시되었으며, 일반 목적의 AI 시스템 및 애플리케이션에서 사용되도록 설계되었으며, 특히 메모리/컴퓨팅 제약 환경 및 지연이 중요한 시나리오에서 사용됩니다.
이 모델은 Microsoft의 안전 지침을 준수하여 감독 미세 조정을 통한 강력한 안전 사후 훈련 접근 방식을 통합하고 있습니다. 이 모델은 적대적 대화 시뮬레이션 및 Microsoft의 독립 AI 레드 팀에 의한 평가를 포함하여 광범위한 안전 평가를 거쳤습니다. 그 능력에도 불구하고 개발자는 모델의 한계, 즉 잠재적인 편향, 부정확성 및 선거에 중요한 쿼리에서의 결함률 상승에 대해 인식해야 합니다. 개발자는 책임 있는 AI 모범 사례를 적용하고 모델을 배포할 때 관련 법률 및 규정을 준수하도록 권장됩니다.
Phi-4-reasoning-plus 모델 하이라이트
최첨단 추론 모델
Phi-4에서 미세 조정됨
140억 개의 매개변수
밀집 디코더 전용 Transformer 아키텍처
160억 개의 토큰으로 훈련됨
채팅 형식 입력 지원
추론 체인 및 요약 블록 생성
강력한 안전 사후 훈련 접근 방식
Phi-4-reasoning-plus 모델 시작하기
페이지 접근: Hugging Face 모델 페이지 방문
모델 로드: Phi-4-reasoning-plus 모델 다운로드 및 로드
환경 구성: 필요한 종속성으로 환경 설정
통합: 애플리케이션에서 모델 사용
미세 조정: 필요시 특정 작업에 맞게 모델 조정
Phi-4-reasoning-plus 모델의 사용 사례
- 고급 추론
- 코딩 지원
- 연구 가속화
- 일반 목적 AI
- 메모리 제약 환경
