QWEN3-RERANKER 8

阿里云

Qwen3-Reranker_8b_8k_b1_2core_1chip

QWEN3 Qwen3-Reranker 8 gguf w4a8 8,192 tokens M50 Stable 2.1.0

Download Model

https://llmoss.houmoai.com/application_software/models/general/1.4.0/HiModel_xh2_qwen3-reranker-8b_256_8k_b1_1chip_2cores_v1.4.0_20260720.gguf

Download Now

Build: 1.4.0

Note: Models built on v1.3 require NPU driver 1.3 or above to work properly.

Note: Models for inference framework 2.1.0 require inference framework 2.1.0 or above to work properly.

8

Parameters

8,192

Tokens

gguf

Format

—

Target

1

Batch

2

CPU Cores

Basic Info

Model ID / 模型 ID	Qwen3-Reranker_8b_8k_b1_2core_1chip
Vendor / 厂商	阿里云
Name (CN) / 中文名	QWEN3-RERANKER 8
Name (EN) / 英文名	QWEN3-RERANKER 8
Series / 系列	QWEN3
Type / 类型	Qwen3-Reranker

Tech Specs

Format / 格式	gguf
Parameters / 参数	8
Quantization / 量化	w4a8
Context Length / 上下文	8192
Batch / 批处理	✓ true
CPU Cores / 核心数	2
Chip Count / 芯片数	✓ true
Chip Type / 芯片类型	M50

Deployment

Available / 可用	✓ true
Status / 发布状态	Stable
Software Stack / 软件栈版本	2.1.0

Capabilities

Input / 输入	Text
Output / 输出	Vector
Features / 特性	gguf w4a8
Inference Engines / 推理引擎	HLIECpp HLIEPython HLIELLama HLIEvLLM
Frameworks / 框架	HLIECpp HLIEPython HLIELLama HLIEvLLM

Description

Description (CN) / 中文描述 Type: Qwen3-Reranker | Size: 8 | Quant: w4a8 | Context: 8192 | Chip: M50 | Build: 1.4.0 | Status: Stable

Build Info

Build Version / 编译版本

1.4.0

Timestamps

Created / 创建时间	2026-09-23 06:00:02
Updated / 更新时间	2026-09-23 06:00:02