Ihre Privatsphäre ist uns wichtig

Wir verwenden Cookies, um Ihr Surferlebnis zu verbessern, Inhalte zu personalisieren und unseren Datenverkehr zu analysieren. Mit einem Klick auf „Alle akzeptieren“ stimmen Sie der Verwendung von Cookies zu. Cookie-Richtlinie

Weitere Optionen
Zum Inhalt springen
FacthoryFacthory
FacthoryFacthory
    • Arbeitsbereich
    • Agent
    • Wissen
    • Analysen
    • Office-Apps
    • Desktop
    Alle Funktionen
    Neuigkeiten
    Herunterladen
  • Nach Aufgabe

    • Wissensrisiko & Wissenslücken im Unternehmen
    • Wissenschaftliche Forschung & Experimente
    • Autonome Analytik & Erkenntnisgewinnung
    • Einsatzbereitschaft der Belegschaft & adaptives Lernen
    • SOP-Governance & betriebliche Standardisierung
    • Prozesserkennung und kontinuierliche Optimierung
    • Alle Lösungen

    Nach Branche

    • Fertigung
    • Automobil
    • Bau & Infrastruktur
    • Immobilien
    • Öffentlicher Sektor
    • Life Sciences
    • Alle Branchen
  • Facthory für

    • Regulierte Branchen
    • On-Premises
    • Entwickler

    Entdecken

    • Neuigkeiten
    • Blog
    • Fallstudien
    • Webinare
    • Modelle

    Lernen

    • Dokumentation
    • Hilfecenter
  • Preise
  • Download
AnmeldenJetzt starten

Ein Arbeitsbereich für das, was Ihre Organisation weiß, mit einem Agenten, der damit arbeitet.

Produkt

  • Alle Funktionen
  • Arbeitsbereich
  • Agent
  • Wissen
  • Analysen
  • Office-Apps
  • Desktop
  • Herunterladen
  • Preise

Lösungen

  • Wissensrisiko & Wissenslücken im Unternehmen
  • Wissenschaftliche Forschung & Experimente
  • Autonome Analytik & Erkenntnisgewinnung
  • Einsatzbereitschaft der Belegschaft & adaptives Lernen
  • SOP-Governance & betriebliche Standardisierung
  • Prozesserkennung und kontinuierliche Optimierung
  • Alle Lösungen
  • Alle Branchen

Ressourcen

  • Blog
  • Fallstudien
  • Webinare
  • Dokumentation
  • Hilfecenter
  • Modelle
  • ROI-Rechner

Unternehmen

  • Über uns
  • Karriere
  • Presse
  • Markenkit
  • Philosophie
  • Kontakt

Unser Newsletter

Neuigkeiten zu Facthory per E-Mail.

​

© 2026 Facthory. Alle Rechte vorbehalten.
  • Datenschutz
  • Cookie-Richtlinie
  • Allgemeine Geschäftsbedingungen
  • Impressum
  • Cookie-Einstellungen
Alle Modellenvidia

NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-LiLiCorr

text-generation
673,5 Mio. Parameter
other
Keine Datei markiert

Dies ist ein LiLiCorr-speculatives-Decoding-Checkpoint für das NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-Zielmodell, mit NVFP4-Gewichten quantisiert. Es schlägt Entwurfstokenkandidaten vor, die das Zielmodell verifiziert, um die Textgenerierung zu beschleunigen.

Auf Hugging Face ansehenMit anderen Modellen vergleichen

Steckbrief

Parameter

673,5 Mio.

Kontextlänge

262.144 Token

Architektur

LiLiCorrDraftModel

Aufbau

5 Schichten, versteckte Größe 4.096, 32 Attention-Heads, 2 Key-Value-Heads

Gewichte gespeichert als

bfloat16

Aufgabe

text-generation

Sprachen

nicht veröffentlicht

Basiert auf

nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB

Veröffentlicht

12.10.2026

Zuletzt aktualisiert

19.10.2026

Downloads (letzte 30 Tage)

6.643

Lizenz und Zugang

Lizenz

other (openmdw-1.1) · Lizenz lesen

Zugang

Gewichte ohne Freigabe herunterladbar

Sicherheit

Sicherheitsscan von Hugging Face

Keine Datei markiert

Gewichtsdateien nach Format

Safetensors: 1
Pickle-basiert: 0
GGUF: 0
Andere Formate: 0
Pickle-basierte Dateien (.bin, .pt, .pth, .pkl, .ckpt) können beim Laden Code ausführen; Safetensors-Dateien nicht.

Prüfungen von Facthory

Automatisch
Erfüllt
Sichere Gewichtsformate

Alle Gewichtsdateien sind Safetensors oder GGUF.

Erfüllt
Malware- und Pickle-Scan des Hubs

Keine Datei markiert.

Erfüllt
Eine angegebene Lizenz

Die Modellkarte gibt ihre Lizenz an.

Erfüllt
Veröffentlichte Sicherheitsbewertungen

GPU-Rechner

Wie viel Speicher dieses Modell bei einer Quantisierung, Kontextlänge und Zahl gleichzeitiger Sequenzen braucht, welche GPUs es aufnehmen und wie schnell es generieren kann. Schätzungen aus der veröffentlichten Größe und dem Aufbau des Modells, mit den Annahmen unten.

Gewichte

BF16 / FP16 (16 bit)
​

Kontext je Sequenz: 8K Token

Gleichzeitige Sequenzen: 1

KV-Cache

Speicher

1,5 GB

Gewichte: 1,3 GB

KV-Cache: 0 GB

Laufzeit: 0,1 GB

GPUSpeicherBenötigte GPUsJe SequenzAlle Sequenzen
NVIDIA L424 GB
1 ×
130 Token/s130 Token/s
NVIDIA L40S48 GB
1 ×
373 Token/s373 Token/s
NVIDIA RTX 6000 Ada48 GB
1 ×
415 Token/s415 Token/s
NVIDIA RTX PRO 6000 Blackwell96 GB
1 ×
774 Token/s774 Token/s
NVIDIA A100 80GB SXM80 GB
1 ×
881 Token/s881 Token/s
NVIDIA H100 SXM80 GB
1 ×
1.447 Token/s1.447 Token/s
NVIDIA H200 SXM141 GB
1 ×
2.074 Token/s2.074 Token/s
AMD Instinct MI300X192 GB
1 ×
2.290 Token/s2.290 Token/s
AMD Instinct MI325X256 GB
1 ×
2.592 Token/s2.592 Token/s
Annahmen
  • Laufzeitspeicher (Aktivierungen, Puffer) beträgt 10 % von Gewichten und KV-Cache, dazu 1 GB je GPU für das Framework.
  • Eine GPU wird zu höchstens 90 % ihres Speichers belegt; Tensor-Parallelität nutzt 1, 2, 4 oder 8 GPUs in einem Server.
  • Die Generierung ist durch die Speicherbandbreite bei 60 % der Herstellerangabe begrenzt: Jeder Schritt liest die Gewichte einmal und den KV-Cache jeder Sequenz. Ein Mixture-of-Experts-Modell liest nur seine aktiven Experten und läuft daher schneller als gezeigt.
  • Speicher und Bandbreite der GPUs sind die veröffentlichten Herstellerangaben.

Profil

Art

Sonstiges

Herkunft

Quantisierung

Familie

Nemotron-3.5-Bolt

Quantisierung

nvfp4

Einsatz

Schlussfolgern
Agenten
Programmierung
Mathematik
Übersetzung

Ein- und Ausgabe

Text → Text

Am 10.11.2026 von Workers AI (@cf/zai-org/glm-4.7-flash) aus der Modellkarte und den Metadaten des Hubs verfasst: eine Lesart des Anbietertexts, von Facthory nicht geprüft.

Veröffentlichte Benchmarks

Die Modellkarte veröffentlicht keine Benchmark-Ergebnisse.

EU AI Act

Was der EU AI Act von einem KI-Modell mit allgemeinem Verwendungszweck verlangt, hängt davon ab, wer es wie in der EU in Verkehr bringt. Diese Angaben sind dafür maßgeblich:

  • Lizenz: other
  • Zugang: Gewichte ohne Freigabe herunterladbar
  • Parameter: 673,5 Mio.
Automatisch
Vom Crawler von Facthory aus den veröffentlichten Angaben bewertet; noch nicht von einer Person geprüft.

KI-Modell mit allgemeinem Verwendungszweck (Artikel 3 Nummer 63)

Nicht bestimmt. Es ist keine Schätzung des Trainingsaufwands veröffentlicht, die der Richtwert der Kommission (10²³ FLOP) braucht. Ist es ein KI-Modell mit allgemeinem Verwendungszweck, binden die folgenden Pflichten seinen Anbieter.

Systemisches Risiko (Artikel 51)

Nicht vermutet. Es ist keine Schätzung des Trainingsaufwands veröffentlicht; ohne sie oder eine Einstufung durch die Kommission nach Artikel 52 gilt Artikel 55 nicht.

Open-Source-Ausnahme (Artikel 53 Absatz 2)

Gilt nicht. Seine Lizenz (other) ist keine freie und quelloffene Lizenz, die jedem erlaubt, das Modell zu nutzen, zu untersuchen, zu ändern und weiterzugeben.

Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck

NVIDIA steht nicht auf der Liste der Unterzeichner der Europäischen Kommission. Der Kodex ist freiwillig.

Was Modellkarte und Anbieter dokumentieren

Teilweise erfüllt
Technische Dokumentation veröffentlicht (Artikel 53 Absatz 1 Buchstabe a, Anhang XI)

Die Modellkarte veröffentlicht einen Teil der Angaben der technischen Dokumentation.

Nicht angegeben: Trainingsaufwand, Energieverbrauch.
Quelle: Am 10.11.2026 von Hugging Face gelesen, Commit 449d241. huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-LiLiCorr

Die Modellkarte berichtet Sicherheits- oder Schadensbewertungen mit ihren Ergebnissen.

Vom Crawler von Facthory aus den veröffentlichten Angaben bewertet; noch nicht von einer Person geprüft. So bewerten wir
Teilweise erfüllt
Informationen für nachgelagerte Anbieter (Artikel 53 Absatz 1 Buchstabe b, Anhang XII)

Die Modellkarte gibt einen Teil der Angaben, die nachgelagerte Anbieter brauchen.

Nicht angegeben: vorgesehene Verwendungen.
Nicht belegt
Strategie zum Urheberrecht veröffentlicht (Artikel 53 Absatz 1 Buchstabe c)

Wir fanden keine veröffentlichte Strategie zum Urheberrecht. Der AI Act verlangt eine, nicht unbedingt ihre Veröffentlichung.

Teilweise erfüllt
Zusammenfassung der Trainingsinhalte (Artikel 53 Absatz 1 Buchstabe d)

Der Anbieter veröffentlicht Zusammenfassungen der Trainingsinhalte; ob die dieses Modells darunter ist, ist noch nicht geprüft.

Quelle: developer.download.nvidia.com, gelesen am 08.11.2026
Erfüllt
Bevollmächtigter in der EU (Artikel 54)

Der Anbieter benennt einen Bevollmächtigten in der EU.

Quelle: developer.download.nvidia.com, gelesen am 08.11.2026
Nicht anwendbar
Angriffstests (Artikel 55 Absatz 1 Buchstabe a)

Gilt nur für Modelle mit systemischem Risiko.

Nicht anwendbar
Systemische Risiken bewertet und gemindert (Artikel 55 Absatz 1 Buchstabe b)

Gilt nur für Modelle mit systemischem Risiko.

Verordnung (EU) 2024/1689, der EU AI Act · Quelle: Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck, gelesen am 08.11.2026

Die EU-AI-Act-Bewertung von Facthory erscheint, sobald eine Person diese Prüfungen geprüft hat. Die Artikel, nach denen wir bewerten