RTX 20, 30 und 40: Modder entfesseln verborgene KI-Leistung

Die Projekte gpu-unlock, gpu-unlock-ada und Turing-unlock gehen eine Durchsatzbegrenzung bestimmter Tensor-Instruktionen auf GeForce-Karten an. Am besten dokumentiert sind FP16- oder BF16-Berechnungen mit FP32-Akkumulation sowie TF32 auf kompatiblen Architekturen. Akkumulation bezeichnet die Präzision, mit der Zwischenergebnisse addiert werden: Zwei Berechnungen mit FP16-Daten nutzen daher nicht zwangsläufig denselben Hardwarepfad.

Die Freischaltung erfolgt vor dem Laden des NVIDIA-Treibers und verändert interne GPU-Einstellungen. Sie fügt weder Kerne noch Grafikspeicher hinzu und erfordert kein Flashen des VBIOS. Ihre Wirkung ist flüchtig: Wird die Stromversorgung der GPU unterbrochen, kann sie verloren gehen. Die Projekte greifen Arbeiten an CMP-Mining-Karten auf, die insbesondere von Zagitta angepasst wurden; die Ada-Variante baut auf Arbeiten von TOTORONG auf.

Die folgenden Ergebnisse stammen von den Entwicklern und ihren Mitwirkenden. Hardware Reference hat die Veröffentlichungen und Testverfahren abgeglichen; wir haben diese Versuche nicht auf unserem eigenen Teststand wiederholt.

Das Repository gpu-unlock von Zagitta fasst die folgenden Messungen für dichte Matrixmultiplikation mit FP32-Akkumulation zusammen. Die Zahlen sind in der Übersicht gerundet; die Prozentwerte entsprechen den Angaben des Projekts auf Grundlage der ursprünglichen Messungen.

Diese Berichte beruhen auf unterschiedlichen Konfigurationen: Sie zeigen den Vorher-nachher-Zuwachs der jeweiligen Karte und ergeben keine Rangliste nach einem einheitlichen Testverfahren. TFLOPS stehen hier für Rechendurchsatz, nicht für Bilder pro Sekunde in einem Spiel.

Der Vorher-nachher-Vergleich von gpu-unlock-ada ist besonders aufschlussreich. Dieselbe RTX 4090 wurde vor und nach der Aktivierung mit NVIDIA-Treiber 615.78.08, CUDA 13.4.92 und einem Limit von 450 W verglichen. Der Instruktionsdurchsatz steigt bei FP16/FP32 von 160,4 auf 320,4 TFLOPS und bei BF16/FP32 von 159,7 auf 320,2 TFLOPS.

Vergrößern

Die cuBLAS-Matrixmultiplikationen im selben Vergleich zeigen geringere Unterschiede. Alle verwenden FP32-Akkumulation; N bezeichnet die Größe quadratischer N-×-N-Matrizen. Die Werte sind die veröffentlichten Mediane; die folgenden Unterschiede wurden aus diesen Werten berechnet.

Der BF16-Fall mit 4 096³ bleibt damit praktisch unverändert. Der Bericht umfasst nur ein Messpaar bei aktivem Desktop und stellt keinen Nachweis langfristiger Stabilität dar. Auch FP16 mit FP16-Akkumulation und die INT8-Kontrolltests bleiben nahe am Ausgangsniveau.

Das Repository Turing-unlock dokumentiert einen am 22. Oktober durchgeführten Test mit einer ASUS RTX 2080 Ti mit 11 GiB. Der FP16-Instruktionsdurchsatz mit FP32-Akkumulation steigt von 46,9361 auf 93,6649 TFLOPS und verdoppelt sich damit nahezu. Bei der cuBLAS-Matrixmultiplikation mit 8 192³ steigt der Wert von 48,1488 auf 85,1705 TFLOPS, also um etwa 77 %. FP16 mit FP16-Akkumulation bleibt unverändert.

Diese Demonstration betrifft eine genau benannte Karte und Plattform. Der experimentelle Loader ist kein universelles Installationsprogramm. Sie zeigt außerdem, dass die Freischaltung der Rechenleistung keine Erweiterung der Speicherkapazität erfordert: Die 11 GiB dieser Karte blieben 11 GiB.

Der Test von Cryptolab liefert einen hilfreichen Gegenpunkt. Er vergleicht insgesamt 18 Anfragen mit Qwen3.8 27B Q4_K_M und MTP in Ollama 0.33.2 auf einer RTX 3090 mit 24 GiB und einem Limit von 350 W. Jedes Profil umfasst drei Durchläufe pro Zustand mit einer Ausgabe von 256 Token. Die folgenden Durchsatzwerte sind Mediane in Token pro Sekunde.

Bei der Interpretation ist Vorsicht geboten: Die Taktraten waren nicht fixiert, und die thermischen Bedingungen unterschieden sich zwischen den Testreihen. Insbesondere stieg der gemessene Median des SM-Takts von 1 470 auf 1 545 MHz. Diese Unterschiede beschreiben die beobachtete Leistung, ohne den alleinigen Effekt der Freischaltung zu isolieren. Die gepaarten Antworten weisen dennoch identische SHA-256-Hashes auf.

Diffusionsaufgaben können stärker von den betroffenen Berechnungen profitieren. Ein Mitwirkender am Projekt nv-uefi-unlocker meldet die ersten beiden folgenden Ergebnisse für eine RTX 3080 LHR unter Windows mit drei Durchläufen pro Zustand. Ein weiterer Bericht zur RTX 4090 misst LTX-2.5 in ComfyUI. Jede Zeile vergleicht dieselbe Aufgabe vor und nach der Freischaltung; Maschinen und Modelle unterscheiden sich zwischen den Zeilen.

Der Prozentwert gibt den Durchsatzzuwachs bei gleicher Arbeit an, berechnet als Dauer vorher / Dauer nachher − 1. Ein Durchsatzplus von 28,8 % entspricht somit einer Zeitersparnis von etwa 22,3 %. Bei der RTX 4090 hängt der Vorteil vom Leistungslimit ab; die Freischaltung allein hebt diese Einschränkung nicht auf.

Ein LLM verarbeitet zunächst den Prompt und erzeugt anschließend seine Antwort Token für Token. Die erste Phase kann viele Matrixmultiplikationen enthalten. Die zweite wird häufig durch Speichertransfers begrenzt, insbesondere bei einer einzelnen Anfrage. Schnellere Tensor Cores beheben diesen zweiten Engpass nicht.

Ein am 31. Oktober veröffentlichter Bericht zu einer RTX 3070 Ti veranschaulicht diesen Unterschied mit Qwen3-1.7B BF16 in llama.cpp: Bei der Verarbeitung von 4 096 Token steigt der Durchsatz von 9 382 auf 12 895 Token/s, also um etwa 37 %, während die Generierung mit 141,8 und anschließend 141,7 Token/s praktisch unverändert bleibt. Dasselbe Modell in Q8_0 gewinnt bei der Prompt-Verarbeitung nur etwa 2 %.

In der LocalLLaMA-Diskussion zum Projekt berichtet ein Nutzer einer RTX 3080 mit modifiziertem Speicher ebenfalls von keinem Zuwachs mit seinem Q6_K-Modell. Dieser Erfahrungsbericht ersetzt kein vollständiges Testverfahren, erinnert aber an einen wesentlichen Punkt: Das Format der Gewichte allein reicht nicht aus, um den Gewinn vorherzusagen. Entscheidend ist, welche Operationen die Inferenz-Engine tatsächlich verwendet.

INT8 und klassische CUDA-FP32-Berechnungen verdoppeln sich in den veröffentlichten Kontrolltests nicht. Bei FP8 ist eine differenziertere Betrachtung nötig: Das Ada-Repository beschreibt Zuwächse auf bestimmten FP8-Pfaden mit FP32-Akkumulation, aber auch nahezu unveränderte Testergebnisse. Es wäre daher irreführend, alle INT8- oder FP8-Modelle als automatisch beschleunigt darzustellen. Ein FPS-Zuwachs in Spielen wird durch diese Ergebnisse nicht belegt.

Die von VideoCardz vorgestellte Neuerung ist nv-uefi-unlocker von physicsdolphin. Dieses Tool startet vor dem Betriebssystem von einem USB-Stick, führt die Prozedur aus und übergibt die Kontrolle anschließend an den Bootloader von Windows oder Linux. Dadurch muss nicht bei jedem Versuch eine lange Abfolge manuell wiederholt werden. Vorbereitung und Prüfung auf der Zielmaschine bleiben jedoch erforderlich.

Standardmäßig fordert der Startbildschirm eine Bestätigung an. Die Dokumentation sieht einen ausdrücklich aktivierbaren automatisierten Modus vor und verlangt eine erneute Ausführung nach einem Kaltstart. Ein Test mit einer RTX 4060 Laptop misst bei FP16-GEMM mit 4 096 allein durch diese Freischaltung einen Anstieg von 29,89 auf 49,02–49,33 TFLOPS, also etwa 65 %.

Quelle: detaillierte Kompatibilitätsmatrix, abgerufen am 31. Oktober 2026.

Das standardmäßige UEFI-Verfahren erfordert deaktiviertes Secure Boot oder eine mit einem vertrauenswürdigen Schlüssel signierte EFI-Anwendung. Bei Laptops kann die Freischaltung verloren gehen, wenn die dedizierte GPU abgeschaltet wird. Die Autoren melden zudem Startfehler auf manchen Plattformen: Automatisierung macht aus einer experimentellen Modifikation keine offiziell von NVIDIA unterstützte Funktion.

Der unten eingebundene Beitrag von Mia vom 24. Oktober teilte die ersten Ampere-Ergebnisse, die sich damals vor allem auf Linux konzentrierten. Seitdem haben sich die Projekte weiterentwickelt, insbesondere durch das UEFI-Tool.