Sprachmodelle tippen heute wie ein Mensch, der jedes Wort einzeln in die Tastatur hackt: erst eins, dann das nächste, dann das übernächste. Google DeepMind stellt nun ein Modell vor, das anders arbeitet - es schiebt ganze Textblöcke gleichzeitig heraus. Das Ergebnis heisst DiffusionGemma, ist offen verfügbar und soll auf dem heimischen Rechner rund vier Mal schneller antworten als vergleichbare Modelle. Damit verschiebt sich, was 'lokale KI' überhaupt bedeuten kann.

Veröffentlicht wurde DiffusionGemma laut den vorliegenden Berichten am 10. Juni durch Google DeepMind als experimentelles offenes Modell. Es nutzt einen Diffusionsansatz - eine Technik, die bislang vor allem aus der Bildgenerierung bekannt ist, wo ein Modell aus zufälligem Rauschen schrittweise ein fertiges Bild herausarbeitet. DeepMind überträgt dieses Prinzip auf Text: Statt Wort für Wort entsteht der Output in parallelen Blöcken. NVIDIA hat das Modell parallel für seine eigenen Chips optimiert, konkret für GeForce-RTX-Grafikkarten, die RTX-PRO-Plattform und die DGX-Spark-Systeme - also von Endkunden-PCs bis hin zu Server-Hardware.

Relevant ist das aus zwei Gründen. Erstens trifft es einen wunden Punkt heutiger KI-Nutzung: Die Wartezeit, bis ein Chatbot seine Antwort fertig herausgetippt hat, ist ein spürbarer Bremsklotz - besonders bei längeren Texten und besonders dann, wenn das Modell lokal auf einem einzelnen Rechner läuft und nicht auf einer Cloud-Farm. Zweitens passt es in einen Trend, KI weg von zentralen Rechenzentren und hin zum eigenen Gerät zu bringen. Wer lokal arbeitet, gewinnt Datenschutz und Unabhängigkeit, zahlt aber bisher mit Geschwindigkeit. Genau hier setzt DiffusionGemma an - und NVIDIA profitiert offensichtlich davon, weil schnelle lokale Modelle die eigene Hardware attraktiver machen. Konkurrenten, die auf klassische, Wort-für-Wort arbeitende Sprachmodelle setzen, geraten durch solche Ansätze unter Erklärungsdruck.

Vieles bleibt allerdings offen. Die Berichte nennen zwar einen Geschwindigkeitsvorteil um den Faktor vier, aber nicht klar im Vergleich zu welchem Modell, in welcher Aufgabe und auf welcher Hardware genau dieser Wert gemessen wurde. Auch zur Textqualität - also ob die parallel erzeugten Blöcke inhaltlich genauso konsistent sind wie klassisch generierter Text - liefert das Material keine Belege. Diffusionsansätze für Sprache gelten generell als noch nicht so ausgereift wie für Bilder; ob DiffusionGemma diesen Abstand schliesst, ist im vorliegenden Material nicht belegt. Dass das Modell als 'experimentell' bezeichnet wird, deutet darauf hin, dass DeepMind selbst es noch nicht als Produktivreif einstuft.

Worauf in den nächsten Tagen zu achten ist: erste unabhängige Tests von Entwicklern, die das Modell auf eigener Hardware ausprobieren, sowie konkrete Vergleiche mit etablierten offenen Modellen wie der bisherigen Gemma-Reihe. Spannend wird auch, ob andere Anbieter nachziehen und Diffusion als Standardansatz für schnelle lokale Textmodelle etablieren - oder ob es eine Nischenlösung bleibt.