---
title: Qwen3-Next-80B-A3B-Instruct-GGUF-old
canonical_url: "https://www.modelscope.ai/models/grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF-old"
md_url: "https://www.modelscope.ai/models/grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF-old.md"
repository: grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF-old
last_updated: 2026-02-09
pipeline_tag: text-generation
tasks:
  - text-generation
library_name:
  - gguf
  - other
frameworks:
  - other
downloads: 56
stars: 0
tags:
  - gguf
---

# Qwen3-Next-80B-A3B-Instruct-GGUF-old

> Qwen3-Next-80B-A3B-Instruct-GGUF-old - An open-source model by grape-AI on ModelScope. What is this? Alibaba Cloudの次世代アーキテクチャ採用非思考モデルQwen3-Next-80B-A3B-InstructをGGUFフォーマットに変換したものです。

- **Repository**: grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF-old
- **Tasks**: text-generation
- **Tags**: gguf
- **Downloads**: 56
- **Stars**: 0
- **Last updated**: 2026-02-09

Source: https://www.modelscope.ai/models/grape-AI/Qwen3-Next-80B-A3B-Instruct-GGUF-old

---

# What is this?
Alibaba Cloudの次世代アーキテクチャ採用非思考モデル[Qwen3-Next-80B-A3B-Instruct](https://huggingface.co/Qwen/Qwen3-Next-80B-A3B-Instruct)をGGUFフォーマットに変換したものです。

# imatrix dataset
日本語能力を重視し、日本語が多量に含まれる[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)データセットを使用しました。

# Chat template
```
<|im_start|>system
ここにSystem Promptを書きます。<|im_end|>
<|im_start|>user
ここにMessageを書きます。<|im_end|>
<|im_start|>assistant
```

# Quants
各クオンツとそのベンチマークスコア（Gemini 2.0 Flash採点によるElyza_tasks 100）をまとめておきます。
|クオンツ|スコア|コメント|
|---|---|---|
|Q8_0|4.53||
|Q6_K|4.42||
|Q5_K_M|4.5|推奨|
|Q4_K_M|4.44||
|IQ4_XS|4.47||
|MXFP4_MOE|4.49|推奨|

# Environment
Windows版llama.cpp-b7186および同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。

# License
Apache 2.0

# Developer
Alibaba Cloud