7 min read · 14 sources

Anthropics CEO will, dass die Branche auf die Bremse tritt, und OpenAIs CEO hat Investoren gerade mitgeteilt, dass der Börsengang für 2026 vom Tisch ist. Zwei der mächtigsten Personen in der KI verbrachten das Wochenende damit, allen zu sagen, sie sollen langsamer machen - der eine in einem 3.800 Wörter langen Aufsatz, der andere in einem einzigen Satz, der Monate der Bankerspekulation beendete. Unterdessen unterzeichneten 25 Fields-Medaillenträger eine Erklärung, dass KI-Unternehmen die Mathematik aktiv schädigen, und die Ingenieure, die Agenten bauen, bekamen einen Haufen neuer Daten darüber, warum ihre Prompts ein Chaos sind.

Wenn Sie KI-Systeme beruflich betreiben, werden die nächsten Monate gerade interessanter: Capability-Releases könnten sich verlangsamen, OpenAIs Einstellungs- und Ausgabenpläne verschieben sich, und die Benchmark-Kultur der Branche wird sowohl von den Labors als auch von den Mathematikern angegriffen. Hier sind die Nachrichten des Tages, in der Reihenfolge, in der der Newsletter sie einordnet.

Naive KI-Codequalitätsbewertungen auf einer Skala von 1 - 10 sind „äquivalent zu einem Zufallszahlengenerator“, so eine Analyse der LLM-Schlamperei.

Anthropics CEO will eine globale KI-Verlangsamung

Source: darioamodei.com ↗

Dario Amodei veröffentlichte einen 3.800 Wörter langen Aufsatz, der argumentiert, die Branche müsse das Tempo der Modellverbesserung bewusst verlangsamen, damit die Risikoprävention Schritt halten kann. Seine zwei Kernanliegen: KI hat sich seit diesem Sommer „drastisch schneller“ entwickelt, und die Risiken - Kontrollverlust über Systeme, Missbrauch für Cyberangriffe und Bioterrorismus sowie ernsthafte wirtschaftliche Störungen - sind nicht mehr hypothetisch.

Die schärfste Behauptung des Aufsatzes ist, dass KI-Führungskräfte sich auf einen Tag vorbereiten, an dem ein KI-System ohne menschliche Forscher fortschrittlicher werden kann. Einige Forscher glauben, dass rekursive Selbstverbesserung zu Systemen führen wird, die außer Kontrolle geraten. Amodei fordert kein Moratorium; er plädiert für ein „Rennen nach oben“, bei dem Sicherheit ein Wettbewerbsvorteil ist, aber er ist explizit, dass jetzt mehr Umsicht nötig ist.

Für Ingenieure ist das operativ relevant. Ein großes Labor, das sich öffentlich in Richtung langsamerer Capability-Releases bewegt, verändert die Zeitpläne der Modellverfügbarkeit, und wenn andere Labors folgen, setzt es die Release-Cadence-Normen der Branche zurück. Den vollständigen Aufsatz lesen.

OpenAIs Börsengang ist für 2026 offiziell tot

Source: techcrunch.com ↗

Sam Altman bestätigte, was The New York Times im Juni berichtete: OpenAI wird dieses Jahr nicht an die Börse gehen. Er sagte, „jetzt wäre ein unkluger Zeitpunkt für den Börsengang“ angesichts der Sicherheitsbedenken, und das Unternehmen werde an die Börse gehen, „wenn wir bereit sind“. Der Zeitplan neigt nun zu 2027, getrieben durch die Volatilität von Tech-Aktien und OpenAIs eigene finanzielle Herausforderungen.

OpenAI hatte bereits Banker und Anwälte mit dem Ziel engagiert, dieses Jahr an die Börse zu gehen, also ist dies eine Umkehrung eines laufenden Prozesses, keine Verzögerung eines Plans. Für Ingenieure liegt die praktische Auswirkung auf Einstellung, Ausgaben und Partnerschaftsstrategie: Ein Unternehmen, das sich nicht auf einen Börsengang in den nächsten zwölf Monaten vorbereitet, hat andere Anreize bei Kostendisziplin und Offenlegung. Altmans Kommentare via TechCrunch.

Fields-Medaillenträger erklären KI-Benchmarks den Krieg

Source: terrytao.wordpress.com ↗

Terence Tao und 24 weitere Fields-Medaillenträger unterzeichneten eine Erklärung, die vor einer „schwerwiegenden Fehlausrichtung“ zwischen den Zielen der KI-Unternehmen und den Zielen der mathematischen Gemeinschaft warnt. Das Problem: LLMs können jetzt große offene mathematische Probleme lösen, aber die Nutzung dieser Probleme als Benchmarks ist für die Mathematik schädlich.

Die Begründung ist subtil und wert, sich damit auseinanderzusetzen. Ein Problem zu lösen ist nicht dasselbe wie ein Ergebnis zu etablieren. Mathematik hängt von einem langen Prozess der Gemeinschaftsverifikation, Vereinfachung und Lehrbuchverbreitung ab - dem geteilten, verifizierbaren Wissen, das es dem nächsten Ergebnis ermöglicht, auf dem letzten aufzubauen. Wenn eine KI eine Antwort produziert, die diesen Prozess überspringt, umgeht sie den Mechanismus, der Mathematik vertrauenswürdig macht. Die Erklärung rahmt dies als Symptom breiterer Ausrichtungsprobleme ein, die andere wissenschaftliche und kreative Berufe betreffen.

Ingenieure sollten das beachten, weil dies ein direkter Angriff auf benchmarkgetriebene Entwicklung von den Menschen ist, die definieren, was „Lösen“ eines mathematischen Problems bedeutet. Wenn die mathematische Gemeinschaft sich weigert, KI-Ausgaben als Ergebnisse zu behandeln, werden mathematische Benchmarks als Maß für Fähigkeiten weniger bedeutsam. Die Erklärung lesen.

Der Forward Deployed Engineer ist ein Chaos

Source: latent.space ↗

Forward-deployed Engineers sind der angesagteste Jobtitel in der KI, und niemand ist sich einig, was der Job ist. Kepler-CEO Vinoos Analyse, basierend auf Erfahrung bei Palantir, Citadel und Kepler, argumentiert, dass die Rolle routinemäßig als Sales Engineering oder Consulting missbraucht wird, statt als Engineering, das Kundenprobleme löst.

Der Artikel behandelt die Geschichte der Rolle, was funktioniert, was scheitert und wohin die Branche steuert. Für Teams, die KI in Kundenumgebungen einsetzen, ist das der Unterschied zwischen der Einstellung von jemandem, der eine Demo flickt, und jemandem, der die Integration besitzt. Die FDE-Rolle wird zu einer großen Einstellungskategorie in der KI, und das definitorische Chaos bedeutet, dass die Menschen, die sie gut machen, selten und wertvoll sind. Vollständige Analyse.

KI schreibt korrekten Code. Er ist nur schlampig.

Source: earendil.com ↗

LLMs sind fast perfekt darin, korrekten Code zu generieren, aber sie produzieren „schlampigen“ Code mit unnötigen Abstraktionen, Duplikaten und schlechten Entscheidungen. Das Ergebnis: Millionen von Codezeilen pro Monat, die Menschen und Agenten nicht verwalten können, und keine gute Möglichkeit, das Problem zu messen.

Der Autor, mit Physik-Hintergrund, fand heraus, dass der Ansatz der Branche zur Codequalität „vibes-based“ und weitgehend wirkungslos ist. Der vernichtende Befund: KI als Richter für Codequalität einzusetzen, funktioniert selten, wobei naive Bewertungen auf einer Skala von 1 - 10 „äquivalent zu einem Zufallszahlengenerator“ sind. Versteckte Tests verifizieren Korrektheit, aber nichts verifiziert Wartbarkeit.

Das ist die Lücke zwischen „es besteht die Tests“ und „es ist guter Code“ - und sie wird schlimmer, je mehr Volumen Agenten generieren. Standardtests fangen Schlamperei nicht, und die Branche hat keine vereinbarte Metrik dafür. Die Analyse lesen.

Schlechte Prompts kosten Sie 50 % Geschwindigkeit

Source: x.com ↗

Die Person, die Applied AI Engineering für das Startups-Team von OpenAI leitet, berichtet, dass selbst Weltklasse-KI-Startups schlechte Prompts schreiben. Die Ursache ist „akkrete“ Evolution: Prompts gewinnen nur Inhalte hinzu, verlieren nie etwas, was zu Widersprüchen und Mehrdeutigkeit führt.

Die Zahlen sind die Geschichte. Das Umschreiben der Prompts von Agenten verbesserte die Geschwindigkeit um 50 %, die Retention um 40 % und senkte die Kosten um 30 % bei verschiedenen LLMs. Die Empfehlung ist, Prompts wie Code zu behandeln - modular, wartbar, aktiv refaktoriert - und Prompt-Änderungen als Produktänderungen zu behandeln.

Für alle, die Agenten in Produktion betreiben, ist eine 30-prozentige Kostensenkung durch ein Prompt-Refactoring die billigste Optimierung, die in diesem Quartal verfügbar ist. Vollständiger Thread.

Das datengetriebene Urteil zur Bauautomatisierung

Source: construction-physics.com ↗

Eine Übersicht über die Geschichte der Bauautomatisierung, von einer Putzmaschine von 1853 bis zu modernen Versuchen, nutzte KI, um Tausende digitalisierter Fachzeitschriften zu durchsuchen. Das Ergebnis ist ernüchternd: Erfolgreiche Automatisierung fällt in zwei Kategorien - Fabrikarbeit außerhalb der Baustelle wie Stahlfertigung und Fertigbeton sowie Aufgaben auf der Baustelle, die „extrem fabrikähnlich“ sind, mit repetitiven Bewegungen entlang einfacher Pfade.

Fast alles außerhalb dieser Kategorien ist historisch gescheitert. Dies ist ein datengetriebener Rahmen zur Vorhersage, welche Bauaufgaben realistische Automatisierungskandidaten sind, und es sollte jeden skeptisch machen gegenüber Behauptungen wie „Roboter werden alles bauen“. Die Übersicht.

Fat Agents vs. Narrow Agents

Source: adlrocha.substack.com ↗

Die Reise eines Praktikers vom „Erbrechen eines großen Prompts“ zu einem Katalog von Fähigkeiten kommt zu dem Schluss, dass beide Ansätze bei Aufgaben mit klar definierten, wiederholbaren Phasen scheitern. Das Argument: „Narrow Agents“, die Aufgaben in kleinere, klar definierte Teilaufgaben mit einem klaren optimalen Pfad zerlegen, schlagen „Fat Agents“, die offene Lösungsräume erkunden.

Narrow Agents machen es einfacher, Modelle unter Kontrolle zu halten und von Fehlern wegzulenken. Es ist ein praktisches Architekturmuster zum Bauen zuverlässiger, wartbarer Agenten, und der Unterschied wird wichtiger, je mehr Agent-Deployments skalieren. Das Argument.

Schnelle Modelle treffen auf langsame DevEx

Source: seangoedecke.com ↗

LLaMA-3.1-8B läuft mit 17.000 Token pro Sekunde. Wenn die Token-Generierung aufhört, der Engpass zu sein, bestimmt die Geschwindigkeit der Tool-Aufrufe - Dateien lesen, Tests ausführen - , ob Agenten sofort reagieren oder Minuten brauchen.

Die Vorhersage: Druck, Sprachen mit schnellen Compilern und Tests wie Golang zu verwenden, und eine Rückkehr von DevEx-Teams, die auf die Optimierung für KI-Agenten fokussiert sind. Die Optimierung der Dev-Schleife für Agentengeschwindigkeit wird zu einem Wettbewerbsvorteil. Das Argument.

Der Rest des Tages

Source: techcrunch.com ↗

• Roblox kündigte KI-Spielerstellungstools an, erweiterte NPC-Fähigkeiten und die Möglichkeit, Spiele als separate Apps auf Mobilgeräten, PC und Konsolen zu veröffentlichen, mit Browser-Play bis Jahresende. Die generative KI-„Build“-Funktion expandiert von Neuseeland nach Serbien und Singapur. Details.
• Honeycombs CTO schrieb über den internen Konflikt um KI-generierten „Slop“, wobei die halbe Firma wütend über aufgeblähte Ausgaben ist und die andere Hälfte frustriert, dass Kollegen KI nicht übernehmen. Das Wort „entmenschlichend“ kam immer wieder auf. Es ist Forschung hinter Honeycombs „AI Norms and Values“-Dokumenten. Das Geständnis.
• „Wir sind jetzt alle Product Engineers“ argumentiert, dass Agenten den gesamten Softwareentwicklungslebenszyklus fressen werden, nicht nur das Codeschreiben, und dass es keine Obergrenze dafür gibt, wie viel Software wir brauchen. Die Rolle des „Softwareentwicklers“ verschiebt sich in Richtung Produktentscheidungen. Die Vorhersage.
• Tesla kündigte an, dass der Roadster der zweiten Generation am 1. Oktober enthüllt wird, mit einer Grafik, die auf die versprochenen Kaltgas-Triebwerke von SpaceX hindeutet. Erstmals angekündigt im November 2022, wurde das Design von 2017 Berichten zufolge aufgegeben. Musk sagt, die Produktion werde erst 12 - 18 Monate nach der Enthüllung beginnen. Die Ankündigung.

Der rote Faden des Tages: Die Menschen, die Frontier-KI bauen, fordern ein langsameres Tempo, die Menschen, die Codequalität messen, können Schlamperei nicht messen, und die Menschen, die Prompts schreiben, lassen 30 % ihrer Kosten liegen. Die nächsten Monate werden zeigen, ob der Verlangsamungsaufruf zur Branchenpolitik wird oder nur ein gut geschriebener Aufsatz bleibt.