---
title: Qwen3-8B-w8a8sc-310-vllm-tp1
canonical_url: "https://www.modelscope.ai/models/vllm-ascend/Qwen3-8B-w8a8sc-310-vllm-tp1"
md_url: "https://www.modelscope.ai/models/vllm-ascend/Qwen3-8B-w8a8sc-310-vllm-tp1.md"
repository: vllm-ascend/Qwen3-8B-w8a8sc-310-vllm-tp1
last_updated: 2026-07-10
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - qwen3
architectures:
  - Qwen3ForCausalLM
base_model:
  - Qwen/Qwen3-8B
base_model_relation: quantized
parameters: 6.2B
tensor_type:
  - I32
  - I8
  - I64
  - F16
  - F32
library_name:
  - safetensors
  - pytorch
frameworks:
  - PyTorch
downloads: 123
stars: 0
---

# Qwen3-8B-w8a8sc-310-vllm-tp1

> Qwen3-8B-w8a8sc-310-vllm-tp1 - An open-source model by vllm-ascend on ModelScope. 1. 基本信息 | 项目 | 信息 | |:------:|:------:| | 原始模型名 | Qwen3-8B | | 原始模型链接 | Qwen/Qwen3-8B | | msmodelslim commit id | 6a860e4a7b48b4573a8aeeaa12123d2bbc9ec9b8 | | msmodelslim 操作指引…

vllm-ascend/Qwen3-8B-w8a8sc-310-vllm-tp1 is a 6.2B-parameter text-generation model on ModelScope. licensed under Apache License 2.0. derived from Qwen/Qwen3-8B.

- **Repository**: vllm-ascend/Qwen3-8B-w8a8sc-310-vllm-tp1
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Parameters**: 6.2B
- **Base model**: Qwen/Qwen3-8B
- **Downloads**: 123
- **Stars**: 0
- **Last updated**: 2026-07-10

Source: https://www.modelscope.ai/models/vllm-ascend/Qwen3-8B-w8a8sc-310-vllm-tp1

---

# Qwen3-8B-w8a8s-310

## 1. 基本信息
| 项目 | 信息 |
|:------:|:------:|
| 原始模型名  | Qwen3-8B |
| 原始模型链接  | [Qwen/Qwen3-8B](https://huggingface.co/Qwen/Qwen3-8B) |
| msmodelslim commit id  | 6a860e4a7b48b4573a8aeeaa12123d2bbc9ec9b8 |
| msmodelslim 操作指引  | [Readme](https://gitcode.com/Ascend/msmodelslim/blob/master/example/Qwen/README.md) |
| 精度测试机型  | Atlas 300I DUO|
| 精度测试平台  | docker MindIE 镜像 |
| 版本  | MindIE 2.3.0 |


## 2 量化命令：
### 模型稀疏量化
```Shell
msmodelslim quant --model_path {浮点权重路径} --save_path {W8A8量化权重路径} --device npu --model_type Qwen3-8B --quant_type w8a8s --trust_remote_code True
```


## 3 精度测试结果

| 模型名 |  量化格式 | 数据集 | 测试精度 % | 浮点精度 % |
|:------:|:------:|:------:|:------:|:------:|
| Qwen3-8B-w8a8s-310 | w8a8s | BoolQ |87.77 | 87.03 |
| Qwen3-8B-w8a8s-310 | w8a8s | CEval |78.38 | 79.27 |
| Qwen3-8B-w8a8s-310 | w8a8s | GSM8K |92.34 | 93.33 |
* 精度数据来自于非深度思考模式的推理结果