描述
花岗岩开关 4.1 8B 是一个复杂的大型语言模型,旨在通过模块化的方法处理各种任务。它将基础模型与多个适配器和编码器相结合,使其能够在自然语言处理、决策制定和语音转文本功能之间无缝切换。该模型特别值得注意的是其能够使用控制令牌按需激活适配器,这些令牌嵌入在聊天模板中。
阅读更多
基础模型 ibm-granite/granite-4.1-8b 具有 80 亿个参数和 128K 令牌的上下文长度。它支持多种语言,包括英语、德语、西班牙语、法语、日语等。该模型的架构是一个密集的解码器仅变换器,结合了先进的技术,如 GQA、RoPE、SwiGLU 和 RMSNorm。
花岗岩开关 4.1 8B 包括两个主要适配器:决策 aLoRA 适配器,提供通用的决策制定能力,以及 guardian-core aLoRA 适配器,检测安全风险,如伤害、粗俗语言和社会偏见。此外,该模型通过花岗岩语音 5.0 TurboCTC 编码器具备嵌入式语音转文本能力,优化了快速转录任务。
该模型旨在灵活高效,具有单一托管端点,支持聊天、决策制定和音频转录,无需单独的服务器。它采用 Apache 2.0 许可证,确保开放访问和修改权。该模型与 HuggingFace Transformers 和 vLLM 后端兼容,使其适用于广泛的应用。
花岗岩开关 4.1 8B 非常适合希望寻找能够处理不同领域复杂任务的多功能大型语言模型的开发者和研究人员。其模块化设计和开源特性使其成为推动人工智能研究和应用的宝贵工具。
- 类别AI 模型与大语言模型
- 定价模式开源
- 部署云端
- 平台网页版
花岗岩开关 4.1 8B亮点
模块化 LLM 架构
具有 80 亿个参数的基础模型
支持多种语言
决策制定适配器
安全检测适配器
嵌入式语音转文本编码器
控制令牌激活
Apache 2.0 许可证
花岗岩开关 4.1 8B入门
访问模型页面:访问 Hugging Face 模型页面
身份验证:确保您拥有访问凭证
配置:设置所需的适配器
发送提示:使用聊天模板进行交互
微调:根据需要调整模型参数
花岗岩开关 4.1 8B的使用案例
- 多语言聊天
- 决策支持
- 语音转录
- 安全监控
- 人工智能研究















