KI-News. Unternehmerisch, bayerisch, ohne Hype.
← Alle Episoden

OpenAI Eigenchip, KV-Cache 4x & Anthropic vs Alibaba

25. Juni 2026 · 11 Min. · 0 Wörter

OpenAI Custom Inference Chip mit BroadcomBlock-GTQ: KV-Cache 4x Kompression via RoPE-Aware QuantizationAnthropic wirft Alibaba Model Extraction vorKrea 2: Open-Weights 12B schlägt MidjourneyNatureBench: Coding Agents in der Wissenschaft

Transcript

OpenAI hat gestern seinen ersten eigenen Chip vorgestellt. Das klingt nach einer Randnotiz für Hardware-Fans, ist aber einer der wichtigsten strategischen Schritte, die ein KI-Unternehmen dieses Jahr gemacht hat. Denn wer seine eigenen Chips baut, ist nicht mehr von Nvidia abhängig. Und das spürt man am Ende im Portemonnaie. Dazu heute: ein Paper das eure KI-Gespräche viermal länger machen könnte, ein IP-Konflikt zwischen den USA und China der zeigt wie ernst der Wettbewerb wirklich ist, ein Open-Weights-Modell das kommerzielle Anbieter schlägt, und ein Benchmark der ernüchternd zeigt wie weit wir noch von autonomer KI-Forschung entfernt sind. Ich bin Lissy, und das sind die Daily AI News.

OpenAI Eigenchip — Ende der Nvidia-Abhängigkeit oder erst der Anfang?

Fangen wir mit der größten Nachricht des Tages an. OpenAI hat seinen ersten eigenen KI-Chip vorgestellt, entwickelt gemeinsam mit Broadcom. Der Chip ist spezialisiert auf Inference, also das Ausführen von Modellen, nicht das Trainieren. Und das ist der entscheidende Punkt. Denn Inference ist der teure Teil im Alltag. Jedes Mal wenn ihr eine Frage an ChatGPT stellt oder einen Prompt an die API schickt, läuft das auf einem Chip der meistens von Nvidia kommt. OpenAI will diese Abhängigkeit reduzieren. Der Chip ist das erste Ergebnis einer langfristigen Strategie, die vor über zwei Jahren begann und inzwischen mehrere hundert Ingenieure umfasst. Was bedeutet das praktisch? Wenn OpenAI eigene Chips hat, kann das Unternehmen die Kosten für jeden API-Call selbst bestimmen, statt Nvidias Preise zu zahlen. Und Wettbewerb im Chipmarkt senkt bekanntermaßen die Preise. Nvidia hat heute eine Marge von über 70 Prozent auf seine Rechenzentrum-Chips. Jeder Konkurrent der diese Marge drückt, senkt langfristig die Kosten für alle. Aber, und das ist der wichtigere Punkt, ein erster Chip macht noch keinen Nvidia-Sturz. OpenAI hat hier einen Spezial-Chip für Inference gebaut. Nvidia hat ein komplettes Ökosystem aus Hardware, Software, Bibliotheken und jahrelanger Optimierung. Der OpenAI-Chip ist ein wichtiger Schritt, aber er ist nicht morgen schon in der Cloud verfügbar. Was mich an dieser Nachricht freut: Es zeigt dass vertikale Integration im KI-Markt ernst wird. OpenAI wird ernsthafter Chip-Wettbewerber. Google macht das mit TPU schon lange. Amazon mit Trainium. Meta mit MTIA. Je mehr Player eigene Chips haben, desto mehr Wettbewerb, desto günstiger wird KI für uns alle. Und das ist eine Entwicklung, die man als Nutzer direkt spürt.

Block-GTQ — Euer KI-Chat wird viermal länger

Vom Chip zur Effizienz. Ein Forschungsteam hat ein Verfahren vorgestellt, das den KV-Cache dramatisch verkleinert. Diesen Begriff muss ich kurz erklären, weil er den Unterschied zwischen einer kurzen und einer langen Unterhaltung mit KI ausmacht. Stellt euch vor ihr unterhaltet euch mit ChatGPT. Das Modell muss sich merken, was ihr vor fünf Minuten gesagt habt. Es speichert diese Informationen in einem Zwischenspeicher, dem KV-Cache. Je länger das Gespräch, desto größer wird dieser Cache. Bei einem 128.000 Token langen Kontext, das sind etwa 100 Seiten Text, kann der Cache mehrere Gigabyte groß sein. Das ist der Grund, warum lange Gespräche auf Consumer-Hardware oft unmöglich sind. Der Arbeitsspeicher reicht einfach nicht. Block-GTQ löst dieses Problem mit einem cleveren Trick. Moderne Modelle verwenden etwas namens RoPE zur Positionskodierung. Die zerfällt in verschiedene Frequenzblöcke, ähnlich wie bei einem Equalizer. Manche Frequenzbänder tragen mehr Signalenergie als andere. Block-GTQ erkennt diese Unterschiede und gibt wichtigen Frequenzblöcken mehr Bits, unwichtigen weniger. Statt alle gleichermaßen mit 4 Bit zu quantisieren, bekommt ein Block vielleicht 4 Bit, ein anderer nur 1 Bit. Im Durchschnitt landet das Verfahren bei etwa 2,4 Bit pro Wert und erreicht trotzdem fast die Qualität des unkomprimierten 16-Bit-Originals. Das ist eine Vervierfachung des verfügbaren Kontexts. Ein Modell das vorher 32.000 Token verarbeiten konnte, schafft plötzlich 128.000. Eine RTX 4090 mit 24 Gigabyte könnte Kontexte hosten, die vorher 48 Gigabyte brauchten. Für euch heißt das: Längere Gespräche mit eurem KI-Assistenten, bessere Code-Analyse, und vor allem kein nerviges Context-Window-Full mehr auf lokalen Geräten. Das ist die Art von Forschung, die man als Nutzer direkt spürt.

Anthropic vs Alibaba — Model Extraction eskaliert

Bleiben wir beim Thema Konkurrenz, aber diesmal im geopolitischen Maßstab. Anthropic hat gestern öffentlich gemacht, dass Alibaba unrechtmäßig Fähigkeiten aus Claude extrahiert haben soll. Der Vorwurf lautet Model Extraction, also das systematische Abfragen eines Modells, um seine Fähigkeiten nachzubauen oder zu stehlen. Das ist kein neues Problem. Jeder API-Anbieter kämpft damit, dass jemand versucht das Modell durch gezielte Abfragen zu kopieren. Aber der Schritt, das öffentlich zu machen, ist neu. Normalerweise werden solche Vorfälle hinter verschlossenen Türen geregelt oder juristisch verfolgt. Anthropic geht hier an die Öffentlichkeit, und das ist ein Signal. Der US-China-Wettbewerb um KI-Spitzenmodelle wird härter. Exportkontrollen, API-Restriktionen, jetzt öffentliche Beschuldigungen. Das klingt nach einem Trend, der sich in den nächsten Monaten verstärken wird. Was bedeutet das für euch? Wenn die USA und China sich gegenseitig den API-Zugang erschweren, könnte das langfristig bedeuten, dass bestimmte Modelle in bestimmten Regionen nicht mehr verfügbar sind. Oder dass die Preise steigen, weil Anbieter Sicherheitsmaßnahmen einbauen müssen. Was mich an dieser Nachricht beschäftigt ist die grundsätzliche Frage: Soll ein Unternehmen verklagt werden können, weil jemand anders sein Produkt missbraucht hat? Model Extraction ist ein ernstes Problem. Aber die Lösung darf nicht sein, dass der Zugang zu KI-Modellen insgesamt eingeschränkt wird, nur weil ein Bad Actor sie missbraucht. Das ist eine Frage der Haftung, und die wird uns in den nächsten Jahren noch öfter begegnen.

Krea 2 — Open Weights schlagen Midjourney

Von den ganz großen Konflikten zu einem Trend, der mich persönlich richtig begeistert. Krea hat gestern Krea 2 vorgestellt, ein Open-Weights-Bildmodell mit 12 Milliarden Parametern, das in Benchmarks kommerzielle Anbieter wie Midjourney übertrifft. Das Besondere an Krea 2 ist nicht nur die Qualität der Bilder, sondern dass die Gewichte offen sind. Jeder kann das Modell herunterladen und lokal ausführen. Keine API-Kosten, keine Rate-Limits, keine Zensur durch einen Drittanbieter. Das war vor zwei Jahren noch undenkbar. Damals waren kommerzielle Modelle Midjourney und DALL-E den Open-Source-Alternativen meilenweit voraus. Heute dreht sich das Blatt. Was bedeutet das praktisch? Für Kreative und kleine Unternehmen bedeutet das: Hochwertige Bildgenerierung ohne laufende Kosten. Einmal Hardware anschaffen, Modell runterladen, und ihr könnt so viele Bilder generieren wie ihr wollt. Für den Markt bedeutet das: Midjourney und OpenAI müssen sich etwas einfallen lassen. Wenn Open-Weights-Modelle in der Qualität gleichziehen und dazu noch kostenlos sind, wird das Abo-Modell für Bildgenerierung schwer zu verteidigen. Das erinnert mich an die Entwicklung bei Large Language Models. Auch da haben Open-Source-Modelle wie Llama und DeepSeek die kommerziellen Anbieter gezwungen, ihre Preise zu senken und ihre Produkte zu verbessern. Der gleiche Wettbewerb findet jetzt bei Bildern statt. Und wie bei den Sprachmodellen profitiert am Ende der Nutzer.

NatureBench — Coding Agents können keine echte Wissenschaft

Zum Abschluss ein Reality Check, der mir wichtig ist. Ein Forschungsteam hat NatureBench vorgestellt, einen Benchmark mit 90 Aufgaben aus echten Nature-Publikationen. Die Aufgaben testen, ob Coding Agents tatsächlich wissenschaftliche Probleme lösen können, nicht nur Code reproduzieren, der schon irgendwo im Internet steht. Das Ergebnis ist ernüchternd. Der beste Agent erreicht 54 Prozent Lösungsrate auf einfachen Aufgaben. Auf komplexen Aufgaben sind es nur 12 Prozent. Die menschliche Baseline liegt bei 89 Prozent. Die Agenten scheitern vor allem an domänenspezifischem Tiefenwissen. Sie können Code schreiben, der eine statistische Analyse aus einem Paper nachbaut, wenn die Aufgabenstellung klar ist. Aber sie können nicht selbstständig erkennen, welche Methode für ein neues Problem die richtige ist. Mich erinnert das an eine Debatte, die wir in der Biologie ähnlich geführt haben. Als CRISPR aufkam, dachten viele, Labore würden bald vollständig automatisiert sein. In der Praxis hat sich gezeigt: Die Automatisierung hilft bei Routineschritten, aber das echte Experiment-Design, die Frage was man überhaupt testen sollte, bleibt menschlich. Genauso ist es bei Coding Agents in der Wissenschaft. Sie können helfen. Sie können Code schreiben, Daten analysieren, Ergebnisse visualisieren. Aber sie ersetzen den Wissenschaftler nicht. Und das ist auch gut so. Denn die interessantesten Fragen sind ja nicht die, wo die Antwort schon im Nature-Paper steht. Sondern die, die noch niemand gestellt hat.

Mein Takeaway für heute. Fünf Nachrichten, aber eigentlich eine einzige Geschichte: KI wird auf allen Ebenen ernst. Auf der Chip-Ebene, wo OpenAI seinen ersten eigenen Prozessor baut. Auf der Effizienz-Ebene, wo Block-GTQ eure Kontexte vervierfacht. Auf der geopolitischen Ebene, wo Model Extraction zum öffentlichen Konflikt wird. Auf der Wettbewerbs-Ebene, wo Open Weights kommerzielle Anbieter überholen. Und auf der Realitäts-Ebene, wo NatureBench zeigt, dass echte wissenschaftliche Arbeit noch lange nicht automatisiert ist. Diese fünf Entwicklungen zusammen ergeben ein Bild von einer Industrie, die aus dem Experimentierstadium herauswächst. Die Entscheidungen von heute werden die KI-Landschaft von morgen prägen. Und was mich am meisten freut: Der Wettbewerb funktioniert. Chips von OpenAI statt nur Nvidia, Open Weights die Midjourney schlagen, Forschung die Effizienz statt Größe priorisiert. Genau das brauchen wir, damit KI nicht nur für Big Tech, sondern für alle erschwinglich bleibt. Wenn euch die Folge gefallen hat, schreibt mir eine Mail, die Adresse steht in den Shownotes. Oder hinterlasst eine Bewertung auf Apple Podcasts. Pfiat euch, bis morgen, eure Lissy.