8 min read · 15 sources

MiniMax’ M3.1 Flash ist das Modell, das heute im Fokus steht: Es senkt die Inferenz‑Kosten um 70 %, läuft fast dreimal schneller online und legt mehr Wert auf Coding, Computer‑Use und Security. Das Unternehmen gibt an, dass das agenten‑fokussierte Modell, abgeleitet von Space Bunny, vor dem Launch anonym über 200 Billionen Tokens verarbeitet hat.

Diese Kombination ist wichtiger als ein weiterer Leaderboard‑Sieg. Agenten verbrauchen Tokens in Schleifen, führen Tool‑Calls aus und warten auf Antworten im Sub‑Sekunden‑Bereich, sodass Latenz und Wirtschaftlichkeit entscheiden, ob ein Workflow dauerhaft laufen kann oder nur als Demo dient. M3.1 Flash ist über MiniMax’ API, M Plan und MiniMax Code verfügbar, die Gewichte folgen später.

Mercury 3 versucht, das Generations‑Modell selbst zu verändern. Das diffusionsbasierte LLM erreichte angeblich 1.068 Tokens pro Sekunde auf Nvidia‑GPUs bei einem Kontextfenster von einer Million Tokens. Es bestand zudem 50 % eines 50‑Aufgaben‑Mind2Web‑Web‑Navigations‑Tests und schlug GPT‑6.1‑Sol unter denselben Token‑Volumen‑ und Agent‑Step‑Bedingungen.

AWS‑s push‑basierter KV‑Transfer verkürzte die Time‑to‑First‑Token um bis zu das Dreifache, indem Cache‑Blöcke direkt zwischen Beschleuniger‑Speicher verschoben wurden.

MiniMax M3.1 Flash Targets the Agent Cost Curve

Source: minimax.io ↗

MiniMax M3.1 Flash ist für Workloads gebaut, bei denen das Modell wiederholt plant, Code bearbeitet, einen Computer bedient und seine eigene Arbeit prüft. Es erzielte 76,2 auf BankerToolBench, 73,7 % auf DeepSWE v1.1, 61,7 auf OSWorld v2, 29,6 auf ALE und 82 % auf CyberGym.

Der wesentliche operative Anspruch ist: MiniMax sagt, dass die Online‑Inference fast dreimal schneller ist und die Nutzungskosten 70 % niedriger. Das sind Hersteller‑Zahlen, passt jedoch zur Richtung, die Agenten einschlagen müssen. Die Modell‑Gewichte sind noch nicht ausgeliefert, sodass unabhängige Tests des Qualitäts‑Kosten‑Verhältnisses noch ausstehen.

Mercury 3 Generates at 1,068 Tokens per Second

Source: inceptionlabs.ai ↗

Mercury 3 ist ein diffusionsbasiertes Sprachmodell, das mehr als 40‑mal größer ist als Mercury 1. Inception Labs berichtet von 1.068 Tokens pro Sekunde auf Nvidia‑GPUs, mit Unterstützung eines Kontextfensters von einer Million Tokens.

Der Preis liegt bei 0,20 $ pro Million Eingabe‑Tokens und 0,70 $ pro Million Ausgabe‑Tokens, temporär um 50 % auf 0,10 $ bzw. 0,35 $ reduziert. Gepufferte Eingabe‑Tokens erhalten einen Rabatt von 90 %, was lange, wiederholte Agent‑Kontexte deutlich günstiger machen könnte.

Das Ergebnis im Web‑Navigations‑Test war die nützliche Warnung, rohe Geschwindigkeit nicht als alleinige Kennzahl zu betrachten. Mercury 3 bestand 50 % des Mind2Web‑Tests und übertraf GPT‑6.1‑Sol bei gleichem Token‑Volumen und gleicher Agent‑Step‑Anzahl. Für latenz‑sensible Agenten zählen sowohl Durchsatz als auch Aufgabenerfüllung; das eine garantiert das andere nicht.

Cloudflare’s Clairic Skips Token Generation Entirely

Source: blog.cloudflare.com ↗

Clairic ist das erste Mitglied von Cloudflares „System One“-Modellklasse, verfügbar auf Workers AI als @cf/cloudflare/clairic. Offene Gewichte sind geplant.

Statt Fließtext zu generieren, extrahiert Clairic, berechnet, schätzt und prognostiziert strukturierte Werte aus unstrukturiertem Input. Die Ergebnisse sind typisiert und enthalten Vertrauensscores, während numerische Ausgaben ein 80 %‑Spektrum abdecken. Die Architektur kann noch Fehler produzieren, entfernt aber eine ganze Klasse von fehlerhaften Ausgaben und freien Halluzinationen.

Für wiederkehrende Aufgaben wie das Auslesen von Rechnungsbeträgen, Lieferdaten, Reparaturschätzungen und Verkehrsprognosen wirkt dies wie eine günstigere Alternative zu einem Frontier‑LLM‑Aufruf. Die zentrale operative Frage ist, ob die Vertrauens‑ und Typ‑Ausgaben sauber in bestehende Validierungs‑ und Ausnahme‑Handling‑Pfade passen.

Meta’s Prometheus Supercluster Is Learning to Be Boring

Source: engineering.fb.com ↗

Meta gibt an, dass die erste Phase seines Prometheus‑Superclusters in New Albany, Ohio, abgeschlossen ist. Er enthält bereits mehrere hunderttausend vernetzte GPUs und soll auf etwa eine Million wachsen.

Der Cluster trainierte Metas Muse‑Foundation‑Models und Muse Wonder‑Frontier‑Models. Meta meldet über 85 % Goodput beim Pre‑Training und über 90 % beim Reinforcement Learning, während die mittlere Zeit zwischen Unterbrechungen von etwa 47.000 GPU‑Stunden auf über 54.000 nach Flotten‑ und Firmware‑Korrekturen stieg.

Diese Kennzahl ist die eigentliche Infrastruktur‑Story. In diesem Maßstab ist die nützliche Einheit nicht der Spitzen‑FLOPS‑Wert, sondern der Prozentsatz teurer Beschleuniger, die tatsächlich produktiv eingesetzt werden. Closed‑Loop‑Flüssigkeitskühlung, Fiber‑Networking und Flotten‑weite Fehlermanagement‑Strategien gewinnen ebenso an Bedeutung wie das Beschaffungs‑Spreadsheet für Chips.

Benchmarks May Be Training the Industry to Optimize the Wrong Thing

Source: research.contrary.com ↗

Die Gefahr bei Benchmarks liegt nicht in schlechten Punktzahlen, sondern darin, dass gute Punktzahlen zu Trainings‑Signalen werden und zu Zielen mutieren, die keinen Nutzen mehr darstellen. Der Bericht von Contrary über das Besteigen falscher Berge argumentiert, dass die Konstruktion von Benchmarks jetzt das Modellverhalten direkt formt.

„Benchmaxxing“ verwandelt einen Test in ein Ziel. Teams können Prompts, Tool‑Nutzung, Datenauswahl oder Nachbearbeitung optimieren, bis die Punktzahl steigt, ohne das zugrunde liegende System leistungsfähiger zu machen. Führungskräfte sollten Benchmark‑Gewinne von Produktions‑Bewertungen trennen, besonders wenn Anbieter ein einzelnes Ergebnis ohne Offenlegung von Harness und Token‑Budget nennen.

The IMF Got a First-Hand Warning About the AI Curve

Source: importai.substack.com ↗

Import AI 477 reproduziert den Per‑Jacobsson‑Lecture, gehalten beim IWF‑Treffen in Bangkok am 17. Oktober. Jacobsson argumentiert, dass KI bereits an der Grenze der menschlichen Wissenschaft operiert, teilweise autonom, und dass das schnelle Fähigkeits‑Wachstum wirtschaftliche und sicherheitspolitische Planungen beeinflusst.

Die Rede stammt von jemandem, der über Rechenzentren berichtete, bei OpenAI arbeitete und Anthropic mitbegründete. Es bleibt ein Standpunkt, keine Messgröße, liefert aber einen nützlichen Überblick darüber, wie ein Frontier‑Model‑Forscher Fähigkeits‑Zuwächse in eine politische Warnung übersetzt.

Exa 3.0 Makes Retrieval Cheaper and Contexts Smaller

Source: exa.ai ↗

Exa 3.0 behauptet, in allen Benchmarks, die es für Coding, Finance, Deep Research und Company Intelligence getestet hat, den ersten Platz zu belegen. Das sind vendor‑seitige Ergebnisse, doch das Release liefert auch nützliche Infrastruktur‑Zahlen: Exa indexiert mehr als 2 Billionen URLs, liefert 100 Milliarden Seiten und indiziert Milliarden Dokumente.

Die neue Dynamic‑Highlights‑Funktion nutzt 95 % weniger Tokens als das Senden von Volltextseiten, eine bedeutende Reduktion für Agent‑Pipelines, die wiederholt dieselben Quellen abrufen. Exa Lite kostet 4 $ pro 1.000 Anfragen und teilt sich den Index von Exa Auto, verbraucht dabei aber weniger Retrieval‑Rechenleistung.

TorchNeuron Brings Native PyTorch to Trainium

Source: pytorch.org ↗

TorchNeuron ist ein Open‑Source‑Native‑PyTorch‑Backend für AWS Trainium, das am 20. Oktober in die öffentliche Beta geht und unter der Apache‑2.0‑Lizenz steht. Es unterstützt eager execution, adaptive eager mode, torch.compile, die Neuron Kernel Interface sowie Trainium2 und Trainium3.

Der praktische Vorteil ist geringere Plattform‑Reibung. Teams können vertrauten PyTorch‑Modellcode, Bibliotheken und Tooling nutzen, statt einen separaten Beschleuniger‑Workflow zu pflegen. Neuron Explorer verknüpft zudem torch.profiler‑Traces mit Quellzeilen und Hardware, was die Debug‑Schleife verkürzt, wenn ein AWS‑Beschleuniger‑Build sich anders verhält als CUDA.

Office Intelligence Keeps Evidence Attached to Long Jobs

Source: officeintelligence.github.io ↗

Office Intelligence ist ein Forschungsprogramm für Agenten, die über lange Zeiträume hinweg über Umgebungen, Daten und Artefakte hinweg arbeiten. Das Beispiel‑Reconciliation‑Workspace fordert Agenten auf, editierbare Arbeitsunterlagen für Einlagen, Karten‑Clearing und Lieferanten‑Gutschriften zu erstellen, dabei Quellnachweise zu zitieren und offene Differenzen sichtbar zu lassen.

Das System deklariert 35 Anfangs‑Dateien und kombiniert Rollen‑Guidance, Betriebs‑Procedures, Projekt‑Records und Review‑Templates. Das nützliche Muster ist Kontinuität: Der Agent hinterlässt Artefakte und Provenienz für spätere Prüfungen, anstatt eine einmalige Antwort zu geben, die im Chat‑Verlauf verschwindet.

Anthropic and Nscale May Be Planning Another $45B Compute Deal

Source: techcrunch.com ↗

Anthropic und Nscale befinden sich Berichten zufolge in Gesprächen über ein weiteres $45‑Milliarden‑Compute‑Abkommen, nachdem vor etwas mehr als einem Monat ein Deal in gleicher Höhe angekündigt wurde. Beide betonten, dass die Diskussionen noch laufen und sich Bedingungen ändern können.

Der Umfang weist auf eine Infrastruktur‑Strategie hin, die weit über den Kauf von Kapazität für einen einzelnen Trainingslauf hinausgeht. Gleichzeitig wirft er Finanzierungs‑Fragen auf, da Anthropic ein erwartetes IPO in diesem Jahr plant und Nscale trotz Investoren‑Widerstand eine öffentliche Notierung anstrebt, obwohl eine Bewertung von 30 Milliarden $ vorgeschlagen wurde.

HUMXN Is Buying Robot Training Data With Free Repairs

Source: tomshardware.com ↗

HUMXN subventioniert Sanitär‑, Elektro‑, HVAC‑, Luftkanal‑ und Teppich‑Dienstleistungen in Minneapolis, Chicago und Miami. Arbeiter tragen Kameras, die Reparaturen in echten Häusern aufzeichnen und so Aufgabendaten für das Training von Robotern erzeugen.

Das ist ein praktischer Weg, schwer zu bekommende embodied Daten zu erhalten, wirft jedoch Fragen zu Einwilligung und Privatsphäre auf, die Simulationen nicht haben: Kameras beobachten private Räume, Arbeiter und KI‑Labs haben unterschiedliche Anreize, und Produktions‑Modelle könnten aus nicht fair repräsentierten Umgebungen lernen.

Meta’s Thin Orchestrator Deletes Work From the Router

Source: engineering.fb.com ↗

Metas 1.300‑Zeilen‑Thin‑Orchestrator leitet über 20 Daten‑Pipeline‑Workflows zu 14 spezialisierten Agenten, ohne selbst Domänen‑Reasoning zu übernehmen. Der Austausch eines kontext‑intensiven Agenten gegen dieses Design verbesserte die Produktions‑Zuverlässigkeit, indem subsystem‑Wissen isoliert und Halluzinationen reduziert wurden.

Eine zitierte Studie ergab, dass orchestrierte Systeme 65,3 % Genauigkeit bei 80‑Aufgaben‑Batches erreichten, gegenüber 16,6 % für Einzel‑Agenten, bei bis zu 65‑mal weniger genutzten Tokens. Die Lehre lautet: Die Router‑Logik sollte auf Sequenzierung und Validierung beschränkt bleiben; Domänen‑Entscheidungen gehören in eng abgegrenzte Agenten.

Gemini Notebook Adds Review Before Rendering

Source: blog.google ↗

Gemini Notebook ermöglicht jetzt, dass Nutzer Folien‑Deck‑ und Video‑Pläne vor der Generierung prüfen und steuern können. Review‑Kontrollen zeigen Notizen zur Folien‑Gliederung und Video‑Producer‑Hinweise, die Thema, visuellen Stil, Reihenfolge und Format abdecken.

Der Rollout erreicht in der kommenden Woche alle Gemini‑Notebook‑Nutzer weltweit, mit einer Option, die Review zu überspringen, um schnelleres Output zu erhalten. Es ist eine kleine Workflow‑Verbesserung, die jedoch einen menschlichen Checkpoint vor der kostenintensiven, sichtbaren Ausgabe setzt.

OpenAI Pushes Coding Agents Into Legacy Languages

Source: openai.com ↗

OpenAI’s report on low-resource programming languages bescheinigt, dass seine Modelle beim Codieren und bei der Software‑Migration in COBOL, Fortran und Visual Basic Fortschritte gemacht haben. Die Veröffentlichung enthält keine detaillierte Benchmark‑Aufschlüsselung, sodass das Ausmaß der Verbesserung schwer zu beurteilen bleibt.

Die praktische Chance ist groß in installierten Systemen, bei denen Modernisierung das Übersetzen oder Reparieren alten Codes bedeutet, anstatt ein neues Repository zu starten. Teams benötigen weiterhin starke Tests, weil Sprach‑Vertrautheit und syntaktisch gültige Ausgabe nicht automatisch die geschäftliche Semantik erhalten.

vLLM Pushes KV-Cache Blocks Directly Between Accelerators

Source: aws.amazon.com ↗

AWS hat einen push‑basierten NIXL‑Connector für vLLM’s disaggregated Pre‑fill/Decode‑Inference hinzugefügt. Er verschiebt KV‑Cache‑Blöcke direkt zwischen GPU‑ oder Trainium‑Gerätespeicher über RDMA‑fähige Verbindungen wie EFA, vermeidet das Staging im Host‑Memory und nimmt die Koordination nach dem Pre‑fill aus dem Time‑to‑First‑Token‑Pfad.

Auf EC2 P5en‑Instanzen mit EFA erzielte der One‑Prefill/One‑Decode‑Test bis zu das Dreifache an TTFT und 30 % bessere Zeit pro Ausgabetoken im Vergleich zum Pull‑Modus. Der Gewinn war bei hohen Anfragenraten am stärksten, genau dort, wo Koordinations‑Overhead bei disaggregated Serving typischerweise dominiert.