AI 模型库

浏览所有可用 AI 模型,支持多个推理框架

查看更换模型部署指南
模型总数 105
当前结果 105
可用模型 105
显示 97-105 / 105 个模型
第 5 / 5
QWEN3.8
Qwen3.8_27b-mtp_128k_b1_2core_1chip
27 gguf w4a8 M50 131,072
文本 文本

24G卡可以跑

QWEN3.8
Qwen3.8_27b-mtp_128k_b1_2core_1chip(dynamic)
27 gguf w4a8 M50 131,072 视觉
文本 文本

Type: Qwen3.8 | Size: 27 | Quant: w4a8 | Context: 131072 | Chip: M50 | Build: 1.5.0 | Status: Temporary

QWEN3.8
Qwen3.8_27b-mtp_256k_b1_2core_1chip
27 gguf w4a8 M50 262,144
文本 文本
HLIEvLLM HLIELLama

需要24G+的卡

QWEN3.8
Qwen3.8_27b-mtp_256k_b1_2core_2chips
27 gguf w4a8 M50 262,144
文本 文本
HLIELLama HLIEvLLM

Type: Qwen3.8 | Size: 27 | Quant: w4a8 | Context: 262144 | Chip: M50 | Build: 1.5.0 | Status: Stable

QWEN3.8
Qwen3.8_27b-mtp_256k_b1_2core_2chips(dynamic)
27 gguf w4a8 M50 262,144 视觉
文本 文本

Type: Qwen3.8 | Size: 27 | Quant: w4a8 | Context: 262144 | Chip: M50 | Build: 1.5.0 | Status: Temporary

QWEN3.8
Qwen3.8_27b-mtp_256k_b1_2core_4chips
27 gguf w4a8 M50 262,144
文本 文本
HLIEvLLM HLIELLama

Type: Qwen3.8 | Size: 27 | Quant: w4a8 | Context: 262144 | Chip: M50 | Build: 1.5.0 | Status: Stable

OpenAI
Whisper_0.8b__b1_2core_1chip
0.8 gguf w4a8 M50
音频 文本
HLIECpp HLIEPython HLIEvLLM

Type: Whisper | Size: 0.8 | Quant: w4a8 | Chip: M50 | Build: 1.4.0 | Status: Stable

WHISPER-TURBO
Whisper-Turbo_0.8b__b1_2core_1chip
0.8 gguf w4a8 M50
音频 文本
HLIECpp HLIEPython HLIEvLLM

Type: Whisper-Turbo | Size: 0.8 | Quant: w4a8 | Chip: M50 | Build: 1.4.0 | Status: Stable

Z-IMAGE-TURBO
Z-Image-Turbo_6b_4k_b1_2core_1chip
6 gguf w8a8 M50 4,096
文本 文本

Type: Z-Image-Turbo | Size: 6 | Quant: w8a8 | Context: 4096 | Chip: M50 | Build: 1.4.0 | Status: Testing