---
title: Qwen3-Next-80B-A3B-Instruct-GGUF
canonical_url: "https://www.modelscope.ai/models/grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF"
md_url: "https://www.modelscope.ai/models/grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF.md"
repository: grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF
last_updated: 2026-02-11
pipeline_tag: text-generation
tasks:
  - text-generation
base_model_relation: quantized
library_name:
  - gguf
  - other
frameworks:
  - other
downloads: 51
stars: 0
---

# Qwen3-Next-80B-A3B-Instruct-GGUF

> Qwen3-Next-80B-A3B-Instruct-GGUF - An open-source model by grape-AI on ModelScope. What is this? Alibaba Cloudの次世代アーキテクチャ採用非思考モデルQwen3-Next-80B-A3B-InstructをGGUFフォーマットに変換したものです。 llama.cpp(#19324)のqwen3nextアーキテクチャの修正を反映しています。

- **Repository**: grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF
- **Tasks**: text-generation
- **Downloads**: 51
- **Stars**: 0
- **Last updated**: 2026-02-11

Source: https://www.modelscope.ai/models/grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF

---

# What is this?
Alibaba Cloudの次世代アーキテクチャ採用非思考モデル[Qwen3-Next-80B-A3B-Instruct](https://huggingface.co/Qwen/Qwen3-Next-80B-A3B-Instruct)をGGUFフォーマットに変換したものです。<br>
llama.cpp([#19324](https://github.com/ggml-org/llama.cpp/pull/19324))のqwen3nextアーキテクチャの修正を反映しています。

# imatrix dataset
日本語能力を重視し、日本語が多量に含まれる[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)データセットを使用しました。

# Chat template
```
<|im_start|>system
ここにSystem Promptを書きます。<|im_end|>
<|im_start|>user
ここにMessageを書きます。<|im_end|>
<|im_start|>assistant
```

# Quants
各クオンツとそのベンチマークスコア（API版Gemma3 27B採点によるElyza_tasks 100）をまとめておきます。
|クオンツ|スコア|コメント|
|---|---|---|
|Q5_K_M|4.54||
|Q4_K_M|4.48||
|IQ4_XS|4.58|推奨|
|MXFP4_MOE|4.55||

# Environment
Windows版llama.cpp-b7964および同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。

# License
Apache 2.0

# Developer
Alibaba Cloud