Was, wenn KI eines Tages nicht mehr jede Antwort von einem riesigen Server erfragen müsste, sondern einen kleinen, massgeschneiderten Adapter auf eurem eigenen Rechner ausführt? Genau das beschreibt ein Paper, das heute auf HuggingFace richtig eingeschlagen hat. Program-as-Weights heisst es und es könnte die Art und Weise verändern, wie wir KI für Programmieraufgaben nutzen. Ausserdem: AMD bringt sein erstes echtes AI Dev Kit für 4.000 Dollar auf den Markt. Und Anthropic findet heraus, dass Claude so etwas wie ein inneres Arbeitsgedächtnis hat. Ich bin Lissy, das ist euer Daily AI News Update, los gehts.
Fangen wir mit einem Paper an, das auf HuggingFace heute 106 Upvotes bekommen hat und das für mich das Spannendste ist, was ich diese Woche gelesen habe. Es heisst Program-as-Weights und führt ein neues Konzept ein: Fuzzy Function Programming. Was bedeutet das? Statt einen Prompt an eine grosse API zu schicken und auf die Antwort zu warten, schreibt ihr eine natürlichsprachliche Spezifikation. Zum Beispiel: Finde wichtige Log-Einträge aus dieser Datei. Ein speziell trainierter Compiler mit 4 Milliarden Parametern verwandelt diese Spezifikation dann in einen winzigen Adapter. Dieser Adapter wird auf einen kleinen Interpreter geladen, der im Hintergrund läuft. Und dann führt er die Aufgabe lokal aus, ohne dass ihr noch einmal eine API fragen müsst. Das klingt abstrakt, aber die Zahlen sind konkret: Ein 0,6 Milliarden Modell mit PAW-Adapter erreicht die gleiche Performance wie ein direkt promptendes 32 Milliarden Modell. Bei einem Fünfzigstel des Inferenz-Speichers. Auf einem MacBook M3 liefert es 30 Tokens pro Sekunde. Was heisst das praktisch? Es bedeutet, dass KI vom Antwort-Geber zum Werkzeug-Bauer wird. Statt jedes Mal einen riesigen Server zu fragen, baut ihr einmal einen Adapter und führt ihn dann lokal aus. Keine API-Kosten, keine Latenz, keine Internetverbindung nötig. Der Haken: Der Compiler selbst ist rechenintensiv, aber das ist ein einmaliger Aufwand pro Funktionsdefinition. Und der Ansatz funktioniert nur für Aufgaben, die sich natürlichsprachlich spezifizieren lassen. Aber für den Programmier-Alltag ist das ein riesiger Schritt. Ich finde, das Modell von KI als reiner API-Dienst wird langsam zurückfallen. Wenn ich einen Adapter einmal baue und dann täglich lokal nutze, dann spart das nicht nur Geld, sondern macht mich auch unabhängig von den Preisen und Verfügbarkeiten der grossen Anbieter.
Während PAW zeigt, wie Software schlauer wird, zeigt AMD heute, wie die Hardware aufholt. Das Unternehmen hat sein erstes echtes AI Dev Kit vorgestellt: Den Ryzen AI Halo für 4.000 Dollar. Es ist ein Desktop-Computer mit einer integrierten NPU, also einer Neural Processing Unit, die speziell für KI-Workloads optimiert ist. Das Besondere: Entwickler müssen nicht mehr über PCIe mit einer separaten GPU kommunizieren, was Latenz und Komplexität reduziert. Stattdessen läuft alles auf einem Chip. Die KI-Berechnungen, die Grafik, der gesamte Workflow. Das ist AMDs Antwort auf Nvidias Jetson- und RTX-Linie und ein klares Signal, dass der AI-PC-Markt heiss umkämpft ist. Für Entwickler heisst das: Es gibt jetzt eine echte Alternative zu Nvidia, wenn ich lokale KI-Workloads entwickeln und testen will. Für den Rest von uns bedeutet es, dass KI-fähige Hardware langsam aber sicher in den Massenmarkt kommt. Wenn AMD und Nvidia um Marktanteile kämpfen, dann gewinnen am Ende wir Nutzer, weil die Preise fallen und die Leistung steigt. Das ist klassischer Wettbewerb, so wie wir ihn von anderen Märkten kennen.
Von der Hardware zur Grundlagenforschung. Anthropic hat heute eine Studie veröffentlicht, die einen Blick in das Innere von Claude wirft. Und was sie gefunden haben, ist überraschend. Sie haben Evidenz für die sogenannte Global Workspace Theory in LLMs gefunden. Das ist eine Theorie aus der Neurowissenschaft, die besagt, dass das Gehirn einen zentralen Arbeitsraum hat, in dem Informationen aus verschiedenen Regionen zusammenlaufen und bewusst verarbeitet werden. Anthropic hat bei Claude ein kleines Set interner neuronaler Muster identifiziert, das sie J-Space nennen. Dieses J-Space steuert den Informationsfluss durch das gesamte Modell. Es fungiert wie eine Art inneres Arbeitsgedächtnis. Was heisst das konkret? Dass Claude nicht einfach nur Tokens von links nach rechts vorhersagt, sondern einen internen Zustand hat, in dem Informationen aus verschiedenen Teilen des Modells zusammengeführt werden. Wichtig: Das heisst nicht, dass Claude bewusst ist. Es heisst, dass das Modell eine interne Architektur hat, die einem Arbeitsgedächtnis ähnelt. Und das ist relevant für die Sicherheitsforschung. Wenn ich weiss, wo im Modell Informationen verarbeitet werden, kann ich gezielter eingreifen, unerwünschte Verhaltensweisen erkennen und korrigieren. Für mich als freie Gründerin und Entwicklerin ist das ein gutes Signal: Je mehr wir die innere Funktionsweise von LLMs verstehen, desto besser können wir sie sicher und verlässlich machen. Und Transparenz ist am Ende immer besser als Blackbox.
Und zum Abschluss ein Quick Hit, der zeigt, wie weit wir noch von einer echten KI-Intelligenz entfernt sind. Das Paper heisst AgenticSTS und kommt von HuggingFace mit 30 Upvotes. Die Forscher haben ein neues Testbed für LLM Agents entwickelt, das auf dem Spiel Slay the Spire 2 basiert. Das ist ein Deck-Building-Spiel, bei dem Hunderte strategische Entscheidungen über den Erfolg entscheiden. Die Ergebnisse sind ernüchternd: Kein einziges der getesteten Frontier LLMs hat auch nur ein einziges Mal gewonnen. Null Siege. Auf dem niedrigsten Schwierigkeitsgrad. Menschen erreichen dagegen eine etablierte Gewinnrate. Was sagt uns das? Aktuelle LLMs sind nicht grundsätzlich intelligent. Sie können Texte schreiben, Code generieren und Fragen beantworten. Aber wenn es um komplexe, langanhaltende Entscheidungsprobleme geht, scheitern sie. Sie verlieren den Faden, sie vergessen, was sie vor zwanzig Zügen gemacht haben, sie können keine Strategie über Hunderte von Schritten aufrechterhalten. Das ist ein wichtiges Signal für alle, die auf vollautonome KI-Agenten hoffen. Wir sind noch weit entfernt von Systemen, die eigenständig komplexe Projekte über Wochen managen. Aber genau deshalb lohnt es sich, genau hinzuschauen, wo die Technik heute steht und wo sie besser wird.
Was heute bei mir hängenbleibt: Drei Geschichten, die zeigen, wie sich das Feld in unterschiedliche Richtungen entwickelt. PAW zeigt, wie Software immer schlanker und lokaler wird. AMD zeigt, dass die Hardware nachzieht. Anthropic zeigt, dass wir immer tiefer in die Blackbox schauen können. Und AgenticSTS erinnert uns daran, dass wir noch lange nicht am Ziel sind. Der rote Faden: KI wird spezifischer, lokaler und verständlicher. Und das ist eine gute Nachricht für alle, die selbst bauen wollen. Wenn euch die Folge gefallen hat, schreibt mir eine Mail, die Adresse steht in den Shownotes. Servus, pfiat eich und bis morgen, eure Lissy.