Empfohlener Einstieg~5.24 GB
Q4_K_M
Kompakt und praktisch als erste Wahl. Hier beginnen, ausser du weisst bereits, dass dein System genug RAM oder VRAM für größere Varianten hat.
pb_qwen3_5_9b_dora_v7_stable_q4_k_m.gguf
PowerBASIC Modellbibliothek
Weitere KI-Modell-Downloads
PowerBASIC-fokussierte Qwen 9B DoRA GGUF Modellvarianten für lokale KI-Runtimes wie LM Studio, Ollama, llama.cpp-kompatible Tools, KoboldCpp, text-generation-webui und andere lokale GGUF-fähige Inferenzumgebungen.
Wenn du lokal mit KI-Tools arbeitest und den Fokus bewusst auf PowerBASIC-Code legst, sind diese Modelle als gute Zusatzoption gedacht. Wähle die Quantisierung nach deinem verfügbaren RAM/VRAM: Q4_K_M für einen sparsamen Einstieg, Q6_K für mehr Qualität oder Q8_0/F16/BF16 für maximale Präzision.
Die GGUF-Dateien liegen im gemeinsamen Downloadbereich ausserhalb von AISPR und können in LM Studio, Ollama-Imports, llama.cpp-kompatiblen Runnern, KoboldCpp, text-generation-webui und ähnlichen lokalen Modell-Tools verwendet werden.
Einfach starten
Beginne mit Q4_K_M, ausser du weisst sicher, dass dein Rechner genug Speicher für größere Varianten hat.
Qualität erhoehen
Nutze Q6_K, wenn du staerkere Ausgabequalitaet willst und mehr Speicher einsetzen kannst.
Referenz-Einsatz
Nutze Q8_0 oder F16/BF16 nur für leistungsfähige Hardware, Archivierung, Konvertierung oder Referenz-Workflows.
Hugging Face
Repository und Modellkarten
Alle aktuellen Modell-Dateien und Release-Informationen liegen in einem Repo mit konsistenten Dateinamen, Metadaten und direkten Download-Links.
Verfügbare Dateien
Qwen 9B PowerBASIC GGUF Varianten
Online auf Hugging Face: https://huggingface.co/Theogott/pb-qwen3_5-9b-powerbasic-ggufs
Leichtgewichtig~4.98 GB
Q4_K_S
Noch kompakter mit guter Qualität. Ideal für CPU-Offloading oder wenn Speicher knapp ist.
pb_qwen3_5_9b_dora_v7_stable_q4_k_s.gguf
Kleinste Variante~4.95 GB
Q4_0
Die kleinste und schnellste Variante. Beste Wahl für reine CPU-Inferenz oder sehr beschraenkten Speicher.
pb_qwen3_5_9b_dora_v7_stable_q4_0.gguf
Hoehere Qualität~6.85 GB
Q6_K
Geeignet, wenn mehr Speicher für staerkere Antworten und stabileres codeorientiertes Verhalten verfügbar ist.
pb_qwen3_5_9b_dora_v7_stable_q6_k.gguf
Hohe Praezision~8.87 GB
Q8_0
Für leistungsfähige Hardware, wenn Qualität wichtiger ist als Downloadgröße und Speicherbedarf.
pb_qwen3_5_9b_dora_v7_stable_q8_0.gguf
Maximale Qualität~16.7 GB
F16
Für anspruchsvolle Workflows mit hoher Genauigkeit, z. B. Codeanalyse, Konvertierung und detailierte Tests.
pb_qwen3_5_9b_dora_v7_stable_f16.gguf
Maximale Qualität GPU~16.7 GB
BF16
Brain-float16 Variante für maximale GPU-Performance bei gleichbleibender hoher Qualität.
pb_qwen3_5_9b_dora_v7_stable_bf16.gguf
Jetzt verfügbar
SPR-Modelle
Online auf Hugging Face: https://huggingface.co/Theogott/spr-qwen3_5-9b-dora-vramsafe-gguf
SPR GGUF~5.2 GB
Q4_K_M VRAM-safe
VRAM-schonende Variante mit reduzierter Speicherbelastung bei weiterhin stabilem Verhalten.
spr_qwen3_5_9b_dora_vramsafe_q4_k_m.gguf
SPR GGUF~6.9 GB
Q6_K VRAM-safe
Hohe Qualität mit kontrollierterem VRAM-Einsatz.
spr_qwen3_5_9b_dora_vramsafe_q6_k.gguf
SPR GGUF~8.9 GB
Q8_0 VRAM-safe
Für bessere Ausgabequalitaet in lokalen Runtimes mit ausreichend Speicher.
spr_qwen3_5_9b_dora_vramsafe_q8_0.gguf
SPR GGUF~16.7 GB
BF16 VRAM-safe
Hoehere Praezisionsvariante für anspruchsvolle Inferenz- und Konvertierungs-Workflows.
spr_qwen3_5_9b_dora_vramsafe_bf16.gguf