Qwen3-4B
Qwen3-4B ist ein dichter kausaler Sprachmodell mit 4,0 Milliarden Parametern, das nahtloses Umschalten zwischen Denkmodus für komplexe Schlussfolgerungen und Nicht-Denkmodus für effiziente Dialoge ermöglicht, zusammen mit starken mehrsprachigen Fähigkeiten.
Steckbrief
Parameter
Kontextlänge
Architektur
Aufbau
Gewichte gespeichert als
Aufgabe
Sprachen
Basiert auf
Veröffentlicht
Zuletzt aktualisiert
Downloads (letzte 30 Tage)
Lizenz und Zugang
Lizenz
Zugang
Sicherheit
Sicherheitsscan von Hugging Face
Gewichtsdateien nach Format
Prüfungen von Facthory
Alle Gewichtsdateien sind Safetensors oder GGUF.
Der Scan ist nicht abgeschlossen.
Die Modellkarte gibt ihre Lizenz an.
GPU-Rechner
Wie viel Speicher dieses Modell bei einer Quantisierung, Kontextlänge und Zahl gleichzeitiger Sequenzen braucht, welche GPUs es aufnehmen und wie schnell es generieren kann. Schätzungen aus der veröffentlichten Größe und dem Aufbau des Modells, mit den Annahmen unten.
Gewichte
Kontext je Sequenz: 8K Token
Gleichzeitige Sequenzen: 1
KV-Cache
Speicher
9,7 GB
Gewichte: 8 GB
KV-Cache: 0,8 GB
Laufzeit: 0,9 GB
| GPU | Speicher | Benötigte GPUs | Je Sequenz | Alle Sequenzen |
|---|---|---|---|---|
| NVIDIA L4 | 24 GB | 1 × | 20 Token/s | 20 Token/s |
| NVIDIA L40S | 48 GB | 1 × | 59 Token/s | 59 Token/s |
| NVIDIA RTX 6000 Ada | 48 GB | 1 × | 65 Token/s | 65 Token/s |
| NVIDIA RTX PRO 6000 Blackwell | 96 GB | 1 × | 122 Token/s | 122 Token/s |
| NVIDIA A100 80GB SXM | 80 GB | 1 × | 139 Token/s | 139 Token/s |
| NVIDIA H100 SXM | 80 GB | 1 × | 228 Token/s | 228 Token/s |
| NVIDIA H200 SXM | 141 GB | 1 × | 327 Token/s | 327 Token/s |
| AMD Instinct MI300X | 192 GB | 1 × | 361 Token/s | 361 Token/s |
| AMD Instinct MI325X | 256 GB | 1 × | 409 Token/s | 409 Token/s |
Annahmen
- Laufzeitspeicher (Aktivierungen, Puffer) beträgt 10 % von Gewichten und KV-Cache, dazu 1 GB je GPU für das Framework.
- Eine GPU wird zu höchstens 90 % ihres Speichers belegt; Tensor-Parallelität nutzt 1, 2, 4 oder 8 GPUs in einem Server.
- Die Generierung ist durch die Speicherbandbreite bei 60 % der Herstellerangabe begrenzt: Jeder Schritt liest die Gewichte einmal und den KV-Cache jeder Sequenz. Ein Mixture-of-Experts-Modell liest nur seine aktiven Experten und läuft daher schneller als gezeigt.
- Speicher und Bandbreite der GPUs sind die veröffentlichten Herstellerangaben.
Profil
Art
Herkunft
Familie
Einsatz
Ein- und Ausgabe
Am 11.11.2026 von Workers AI (@cf/zai-org/glm-4.7-flash) aus der Modellkarte und den Metadaten des Hubs verfasst: eine Lesart des Anbietertexts, von Facthory nicht geprüft.
Veröffentlichte Benchmarks
Die Modellkarte veröffentlicht keine Benchmark-Ergebnisse.
EU AI Act
Was der EU AI Act von einem KI-Modell mit allgemeinem Verwendungszweck verlangt, hängt davon ab, wer es wie in der EU in Verkehr bringt. Diese Angaben sind dafür maßgeblich:
- Lizenz: apache-2.0
- Zugang: Gewichte ohne Freigabe herunterladbar
- Parameter: 4 Mrd.
KI-Modell mit allgemeinem Verwendungszweck (Artikel 3 Nummer 63)
Angezeigt. Epoch AI schätzt den Trainingsaufwand auf 8,6 × 10²³ FLOP (als qwen3-4b), über den 10²³ FLOP des Richtwerts der Kommission, und das Modell erzeugt Text, Audio, Bilder oder Video.
Systemisches Risiko (Artikel 51)
Nicht vermutet. Sein Trainingsaufwand, nach Schätzung von Epoch AI 8,6 × 10²³ FLOP (als qwen3-4b), liegt unter den 10²⁵ FLOP des Artikels 51 Absatz 2.
Open-Source-Ausnahme (Artikel 53 Absatz 2)
Gilt. Eine freie und quelloffene Lizenz, Gewichte, die jeder herunterladen kann, und kein systemisches Risiko: Artikel 53 Absatz 1 Buchstaben a und b und Artikel 54 binden den Anbieter nicht. Die Strategie zum Urheberrecht und die Zusammenfassung der Trainingsinhalte nach den Buchstaben c und d schuldet er weiter.
Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck
Alibaba Cloud (Qwen) steht nicht auf der Liste der Unterzeichner der Europäischen Kommission. Der Kodex ist freiwillig.
Was Modellkarte und Anbieter dokumentieren
Entfällt durch die Open-Source-Ausnahme (Artikel 53 Absatz 2).
