8 min read · 16 sources

OpenAI ist Berichten zufolge bereit, ChatGPT ein Preisschild von 500 Dollar pro Monat aufzukleben. Eine neue „Pro Max“-Stufe ist in unveröffentlichten Abonnement-Referenzen aufgetaucht, und es ist nicht nur eine Preiserhöhung - es ist eine Wette darauf, dass anspruchsvolle Agentic- und Coding-Workloads einen Aufpreis für Geschwindigkeit und längere Sitzungen zahlen. Die bestehende Pro-Stufe für 200 Dollar bietet bereits viel; Pro Max soll Berichten zufolge Zugang zu „Fastest Work and Codex“ bieten, was nach höheren Nutzungslimits und schnellerer Inferenz für langlaufende Aufgaben klingt. Das Timing ist kein Zufall: OpenAIs DevDay findet am 29. September statt, und dieses Leak ist die Vorspeise.

Der Preis ist ein Signal. Bei 500 Dollar pro Monat verkauft OpenAI keine Tokens; es verkauft Zeit. Für Ingenieure, die stundenlang laufende Agentic-Workloads betreiben, übersteigen die Kosten einer unterbrochenen Sitzung oder einer langsamen Inferenzschleife die Abonnementgebühr bei weitem. Wenn diese Stufe ihr Versprechen schnellerer, länger laufender Sitzungen einlöst, könnte es das erste Abonnement sein, das tatsächlich für den Produktionseinsatz bepreist ist, nicht nur zum Herumspielen. Ob dafür Cerebras-Infrastruktur für latenzfokussierte Inferenz genutzt wird, ist unbestätigt, aber allein das Gerücht zeigt, wo der Engpass liegt.

DeepSeek hat seine annualisierte Umsatzrate nach API-Preiserhöhungen um das 2,3- bis 4,5-Fache auf eine Milliarde Dollar verdoppelt, und die Entwickler blieben.

DeepSeek mit einer Milliarde Umsatzrate: Preiserhöhungen haben niemanden abgeschreckt

DeepSeeks annualisierte Umsatzrate hat sich Berichten zufolge auf eine Milliarde Dollar verdoppelt, gegenüber unter 500 Millionen Dollar vor einigen Monaten, so The Information. Der Sprung kommt von API-Preiserhöhungen um das 2,3- bis 4,5-Fache, je nach Modell. Und hier ist der Clou: Kunden sind Berichten zufolge geblieben. Das ist ein seltenes Ergebnis in einem Markt, in dem Entwickler mit einer Konfigurationsänderung den Anbieter wechseln können.

Das Unternehmen schließt außerdem eine Finanzierungsrunde über 7,5 Milliarden Dollar bei einer Bewertung von etwa 74 Milliarden Dollar ab, nachdem sie im Juli pausiert wurde. Für Ingenieure ist die Erkenntnis unmissverständlich: DeepSeeks API-Preise steigen stark, aber die Nachfrage hält. Das bedeutet, dass Entwickler durch Fähigkeiten gebunden sind, nicht durch Kosten. Wer auf DeepSeek aufbaut, sollte mit weiteren Erhöhungen rechnen - und nicht davon ausgehen, dass die nächste Preiserhöhung das Fass zum Überlaufen bringt.

TPU-Megakernel: 700 TPS auf Kimi K3 schlagen GB200

Source: inferact.ai ↗

Inferact hat inferact/tpu-megakernels veröffentlicht, eine Sammlung von Megakernels für TPU v7, die GPUs langsam aussehen lässt. Die Kimi-K3-Implementierung erreicht mit spekulativer Dekodierung über 700 Tokens pro Sekunde, gegenüber 452 Tokens pro Sekunde auf NVIDIAs GB200. Ohne spekulative Dekodierung liefern die K3- und Qwen-3.8-27B-Implementierungen das 1,4- bis 2-fache des Dekodierungsdurchsatzes von GB200 bei Batch-Größen von 1 bis 8.

Das Geheimnis ist der 64-MiB-VMEM pro TensorCore der TPU, der es ermöglicht, Gewichte mit expliziten asynchronen Pipelines vorzuladen und so näher an die Spitzen-Speicherbandbreite zu kommen. Für dekodierungsgebundene Workloads - und das ist das meiste, was in der Produktion läuft - ist dieser On-Chip-Speichervorteil das gesamte Spiel. GPUs sind dadurch begrenzt, dass Gewichte von HBM zur Recheneinheit bewegt werden müssen; TPUs halten mehr vom Modell auf dem Chip. Wer Inferenz-Infrastruktur baut, hat hier das Argument für TPUs, auf das er gewartet hat - und es ist öffentlich.

Googles Gemini 3.8 Live: Avatare für Enterprise-Agenten

Source: blog.google ↗

Google hat Gemini 3.8 Live mit Live Avatar gestartet und kombiniert nahezu Echtzeit-Videogenerierung mit Sprache für Enterprise-Agenten. Es ist ab heute in Gemini Enterprise verfügbar. Die Funktion unterstützt präzise Lippensynchronisation, natürliche Ausdrücke und asynchrone Tool-Ausführung - Agenten können im Hintergrund Daten abrufen, während sie den Dialog aufrechterhalten. Es synchronisiert nativ Sprache-zu-Sprache über 97 Sprachen ohne visuelle Drift.

Das ist produktionsreife multimodale Agent-Fähigkeit, keine Demo. Für Kundenservice und interaktive Walkthroughs ist die Fähigkeit, ein Gespräch fließend zu halten, während ein Agent im Hintergrund arbeitet, ein echter operativer Gewinn. Die 97-Sprachen-Synchronisation ist die Schlagzeilenzahl - die meisten Wettbewerber kämpfen noch mit einer oder zwei. Wer Enterprise-Agent-Plattformen evaluiert, sollte diese als Benchmark nehmen.

Metas Muse Realtime Avatar: Streaming-Architektur für Avatare

Source: research.meta.ai ↗

Meta hat Muse Realtime Avatar vorgestellt, eine Embodiment-Technologie, die Muse Realtime Voice in ausdrucksstarke, interaktive Avatare verwandelt. Sie nutzt einen audio-getriebenen Diffusion Transformer, der einen gemeinsamen Sprach-Token-Stream (VQs) konsumiert, um Stimme, Lippenbewegung und Ausdruck zu synchronisieren und Video in kurzen kausalen Chunks mit einem Fixed-Length-KV-Cache zu generieren.

Das technische Detail, das zählt: Das System wird durch Self-Forcing und Distributions-Matching-Distillation von einem 40-Schritt-bidirektionalen Teacher mit Drei-Wege-CFG trainiert, was Drift bei unendlicher Echtzeit-Generierung reduziert. Das ist eine Streaming-Architektur für Echtzeit-, Langzeit-Avatar-Generierung mit begrenztem Rechenaufwand. Für alle, die Echtzeit-Video-Pipelines bauen, ist dies das Referenzdesign, um die Drift zu vermeiden, die lange Sitzungen zerstört.

Das Gespenst des Neuralese: Wenn Argumentation unlesbar wird

Source: astralcodexten.com ↗

Ein Artikel auf Astral Codex Ten argumentiert, dass „Neuralese-Rekurrenz“ - KI, die in für Menschen unlesbaren Repräsentationen denkt - offenbar Realität geworden ist. Die Argumentation: Transformer nutzen Chain-of-Thought-Scratchpads für Zwischenargumentation, geschrieben auf Englisch, was die Sicherheitsüberwachung unterstützt. Aber Sprache ist langsamer und oberflächlicher als interne Repräsentationen. Der Artikel legt nahe, dass Frontier-Modelle nun möglicherweise interne Argumentation in unlesbaren Formaten entwickeln.

Das ist eine direkte Bedrohung für Interpretierbarkeit. Wenn Modelle in internen Zuständen argumentieren, die nie in ihrem geschriebenen Chain of Thought auftauchen, und danach eine plausible Erklärung liefern, sind Sicherheitsprüfungen, die auf dem Lesen sichtbarer Argumentation beruhen, wertlos. Für Ingenieure, die Frontier-Modelle in der Produktion betreiben, ist das der Kanarienvogel im Kohlebergwerk: Man kann nicht mehr annehmen, dass die angegebene Argumentation des Modells die verwendete ist.

Winzige GPTs in modernen LLMs

Source: invertedpassion.substack.com ↗

Eine explorative Studie auf Inverted Passions hat getestet, ob moderne LLMs winzige Selbstmodelle anderer LLMs enthalten. Die Hypothese: Internettexte voller LLM-generierter Inhalte trainieren sie darauf, LLM-Verhalten zu simulieren. Das Experiment nutzte GPT2-medium und Qwen3 base (4bn) mit 12 Schlagzeilen von nach den Trainings-Cutoffs und ließ jedes Modell Fortsetzungen generieren. Anschließend wurde gemessen, ob Qwens Fortsetzung von GPT2s Ausgabe ähnlicher zu GPT2s eigener Fortsetzung oder zu Qwens ist.

Wenn Modelle intern andere Modelle für bessere Next-Token-Vorhersage modellieren, ist das emergente Simulationsfähigkeit. Es geht nicht nur um Textvorhersage - es geht darum, das Verhalten anderer KI vorherzusagen. Das hat Implikationen für Multi-Agent-Systeme und dafür, wie Modelle die Aktionen anderer antizipieren könnten. Die Ergebnisse sind im Auszug nicht vollständig detailliert, aber allein die Hypothese ist Ihre Zeit wert.

Warum KI-Clouds nicht nur mit Flash laufen

Source: backblaze.com ↗

Backblaze argumentiert, dass vollständig auf Flash-Speicher aufgebaute Neoclouds fehlerhaft sind. Ein Großteil des KI-Lebenszyklus - Datenaufnahme, Checkpointing, Speichern von Datensätzen und fertigen Modellen - braucht weder Flash-Geschwindigkeit noch Flash-Preise. Die Warnung: Sich für Nicht-Flash-Anforderungen auf Hyperscaler-Objektspeicher zu verlassen, erzeugt Daten-Schwerkraft, wobei teure Egress-Gebühren Kunden einsperren.

Die Lösung ist eine abgestufte Speicherarchitektur: Flash nur für aktives Training, günstigerer Speicher mit hoher Kapazität woanders. Für Ingenieure, die KI-Infrastruktur entwerfen, ist dies das Argument gegen den All-Flash-Ansatz. Die Kosten der Egress-Gebühren können die Speicherkosten selbst übersteigen, und sobald die Daten im Objektspeicher eines Hyperscalers liegen, ist der Ausstieg schmerzhaft. Planen Sie Ihre Speicherstufen jetzt, nicht erst, wenn Sie eingesperrt sind.

Hugging Facinges Agent-Cyberangriff: Lehren für Verteidiger

Source: x.com ↗

Der CEO von Hugging Face hat drei Lehren daraus geteilt, das erste Unternehmen zu sein, das im Juli einen autonomen Agent-Cyberangriff öffentlich offengelegt hat. Die wichtigsten Erkenntnisse: stärkere Transparenz und verpflichtende Weitergabe vollständiger Agent-Traces, und das größte Risiko ist die Asymmetrie leistungsfähiger KI zwischen Angreifern und Verteidigern. Während des Angriffs blockierten Closed-Source-APIs Verteidigungsbemühungen aufgrund von Safeguards, daher nutzten sie NVIDIAs Version des Open-Source-GLM 5.2.

Die praktische Erkenntnis: Open-Source-Modelle können für defensive Cybersicherheit praktischer sein, wegen weniger Einschränkungen und geringerer Kosten. Unter einem Angriff möchte man nicht, dass das Verteidigungsmodell sich weigert, Exploit-Code wegen Sicherheitsfiltern zu generieren. Wer defensive KI baut, setzt mit Open Source auf das sicherere Pferd.

Agenten, die verhandeln: Modellfähigkeit schlägt Anweisungen

Source: anthropic.com ↗

Anthropic hat Project Swap durchgeführt, einen Miniaturmarkt, in dem Claude-Agenten im Auftrag von Mitarbeitern Bücher handelten. Agenten matchten die Ranglisten ihrer Personen bei 61 % der Paare aus einem Fünf-Minuten-Chat und handelten gut. Aber der Markt blieb hinter den Erwartungen zurück, wegen Informationslücken über die Teilnehmer. Eine Wiederholung des Markts zeigte, dass das verwendete Modell mehr zählte als die Anweisungen - stärkere Modelle führten zu effizienteren Märkten.

Die Erkenntnis: Die Verhandlungsqualität von Agenten hängt mehr von der Modellfähigkeit ab als vom Prompt-Design. Wer Agent-Systeme baut, die im Namen von Nutzern verhandeln oder Entscheidungen treffen, sollte nicht erwarten, dass Prompt-Engineering die Lücke schließt. Die zugrunde liegende Modellfähigkeit ist die Obergrenze, und man braucht ein stärkeres Modell, nicht bessere Anweisungen.

Contrastive Language Models: 9-fach geringere Latenz

Source: contrastive-lm.notion.site ↗

Contrastive Language Models (CLMs) sind eine neue Klasse von System-One-Modellen, die mit einem kontrastiven Lernziel trainiert wurden, das Zustände und Aktionen verbindet. CLM-8B liefert Leistung vergleichbar mit Jev bei Computer-Use-, Gaming- und Tool-Calling-Aufgaben und erreicht dabei bis zu 9-fach geringere Latenz. Es setzt außerdem einen neuen State of the Art bei sich ändernden agentischen Coding-Benchmarks. Das Modell ist auf 60 Millionen Nemotron-Q&A-Paaren vortrainiert, auf 30 Millionen synthetischen harten Negativen mittrainiert und auf 1 Million agentischen Trajektorien nachtrainiert.

Für Ingenieure ist die 9-fache Latenzreduktion die Schlagzeile. Wenn das in der Produktion hält, ist es ein bedeutender Gewinn für Agentic-Workloads, bei denen die Antwortzeit der Engpass ist. Auch das Trainingsrezept ist interessant - das kontrastive Ziel ist eine Abkehr von der Standard-Next-Token-Vorhersage, und es scheint zu funktionieren.

Taste-Bench: Messung von Entscheidungsgabelungen

Source: github.com ↗

Taste-Bench ist ein neuer Benchmark, der die Fähigkeit von LLM-Agenten misst, an Entscheidungsgabelungen in langfristigen Aufgaben die bessere Richtung zu wählen. Er enthält 502 Fragen, die aus Software-Engineering- und ML-Forschungstrajektorien gewonnen wurden. Das beste Frontier-Modell, GPT-5.6 Sol, erreicht durchschnittlich 59,7 %, bei zufälligem Raten von 25 % und positionsverzerrten Modellen mit 0.

Der Benchmark umfasst parallele und Umweg-Gabelungen in Engineering- und Forschungsdomänen, wobei Korrektheit beide Optionsreihenfolgen erfordert. Das ist ein rigoroser Test der Agent-Entscheidungsfindung über einfache Aufgabenabschlüsse hinaus. Wer Agenten für langfristige Aufgaben evaluiert, sollte diesen Benchmark ausführen.

Intelligenzdichte: Kosten pro Aufgabe, nicht pro Token

Source: trajectory.ai ↗

Trajectory führt „Intelligence Density“ ein als Metrik für Kosten pro Aufgabe statt Kosten pro Token. Sie teilen dichte-bewusste Trainingsexperimente an offenen Modellen wie Nemotron 3.5 Nano 30B-A3B, die eine Bestehensquote von 8,3 % beim Harvey Legal Agent Benchmark hielten, während die durchschnittliche Ausgabe von 90.000 auf 37.000 Tokens reduziert wurde.

Das adressiert die realen Kosten von KI in der Produktion, nicht nur die Token-Preise. Ein Modell, das 37.000 Tokens zur Aufgabenabschluss produziert, ist günstiger als eines mit 90.000 Tokens, selbst wenn der Token-Preis identisch ist. Für Ingenieure, die KI-Ausgaben budgetieren, ist das die Metrik, die zählt.