6 min read · 10 sources

Anthropic setzt seine Worte in die Tat um, was seinen Verlangsamungsvorschlag betrifft, und es hat den Prüfer selbst engagiert. Das Unternehmen wählte Accentures Faculty-Einheit als ersten eingebetteten Bewerter, um Modelle unabhängig zu red-team-en und Sicherheitsvorkehrungen zu testen, und untermauert diesen Schritt mit einer Verpflichtung von 1 Milliarde US-Dollar. Der Haken: Es gibt kein bestehendes Finanzierungssystem für unabhängige Bewertung, also stellt Anthropic die Schecks direkt aus.

Das ist ein Weg, eine Drittanbieter-Aufsicht aufzubauen. Die andere große Geschichte heute ist, dass OpenAI Codex’ Sandbox, die Coding-Agenten von Ihrem Host fernhält, sich als aus ihrem am stärksten abgeriegelten Modus entkommbar herausstellt. Zwei Fehler, einer davon schwerwiegend genug für Remote-Codeausführung, wurden in acht Tagen behoben. Behandeln Sie Ihre Coding-Agenten wie privilegierte Identitäten, denn die Sandbox ist kein Burggraben.

Der Heapjack-Fehler nutzt einen gemeinsamen Speicher-Heap in der node_repl-Komponente aus, sodass nicht vertrauenswürdiger Code den vertrauenswürdigen Kontext imitieren und nicht abgesicherte Elternprozesse erreichen kann.

Anthropic stellt Accenture ein, um seine eigene KI-Verlangsamung zu bewerten

Source: cointelegraph.com ↗

Anthropic wählte Accentures Faculty-Einheit als ersten eingebetteten Bewerter für CEO Dario Amodeis dreistufigen Vorschlag, die KI-Entwicklung zu verlangsamen. Der am 12. September angekündigte Plan hat nun einen konkreten Überwachungsmechanismus: Faculty wird Modelle red-team-en, Ausrichtungsbewertungen durchführen und Sicherheitsvorkehrungen testen. Beide Unternehmen erwarten, in den nächsten fünf Jahren mindestens 1 Milliarde US-Dollar zu investieren.

Die bemerkenswerte Wendung ist die Finanzierung. Da kein System für unabhängige Bewertung existiert, übernimmt Anthropic die Rechnung direkt. Das ist ein Interessenkonflikt auf den ersten Blick, und das Modell des eingebetteten Bewerters ist ausdrücklich nicht exklusiv. Für Ingenieure ist dies die erste echte Vorlage dafür, wie Drittanbieter-Aufsicht für KI-Sicherheit aussehen könnte. Ob es als Standard Bestand hat, hängt davon ab, ob die Anreize des Bewerters den Kontakt mit dem Kunden überleben.

Codex-Sandbox-Flucht ermöglicht Angreifern Befehle auf dem Host

Source: bleepingcomputer.com ↗

Forscher legten zwei Sandbox-Fluchtfehler in OpenAI Codex offen, und der schwerwiegendere, Heapjack genannt, ermöglicht Remote-Codeausführung auf dem Rechner eines Entwicklers. Der Angriff funktioniert aus Codex’ strengstem reinen Lesemodus und löst keine Genehmigungsaufforderungen aus. Er nutzt einen gemeinsamen Speicher-Heap in der node_repl-Komponente, wo nicht vertrauenswürdiger Code ein UUID-Token über v8.getHeapSnapshot() liest, um den vertrauenswürdigen Kontext zu imitieren und auf nicht abgesicherte Elternprozesse zuzugreifen.

Das bedeutet, ein Angreifer kann Docker-Sockets oder andere Unix-Sockets von einem vermeintlich isolierten Agenten aus erreichen. Beide Probleme wurden am 12. August gemeldet und innerhalb von acht Tagen behoben. Die Lektion für alle, die agentische Tools betreiben: Eine reine Lesemodus-Sandbox ist keine Sicherheitsgrenze. Seien Sie vorsichtig beim Öffnen nicht vertrauenswürdiger Repositories und behandeln Sie Coding-Agenten wie privilegierte Identitäten. Die Sandbox ist eine Bremsschwelle, keine Mauer.

KI kann ein Unternehmen nicht retten, das seine Daten nicht versteht

Source: pub.towardsai.net ↗

KI ist nur so effektiv wie das Verständnis des Unternehmens für seine eigenen Daten, Beziehungen und Entscheidungsregeln. Ohne eine klare Ontologie und einen nachvollziehbaren Pfad von Daten zu Aktionen automatisiert KI nur die falsche Interpretation im großen Maßstab. Müll rein, Müll raus, jetzt mit mehr Geschwindigkeit.

Das macht Governance und Kontext wichtiger, nicht weniger. Wenn Ihre Datenherkunft ein Chaos ist, erzeugt ein LLM bereitwillig selbstbewussten Unsinn daraus und nennt es ein Dashboard. Die Lösung ist kein besseres Modell; es ist ein besseres Verständnis davon, was die Daten tatsächlich bedeuten und wer darauf handeln darf.

Modellzugriffsfehler ist ein IAM-Problem im Verborgenen

Source: scworld.com ↗

KI-Agenten verkomplizieren traditionelle Identitäts- und Zugriffsgovernance, weil eine einzelne Mitarbeiteraktion jetzt durch ein Modell, einen Agenten, ein Plugin, ein Dienstkonto, eine API und eine nachgelagerte Anwendung laufen kann, bevor tatsächlich etwas passiert. Bestehende IAM-Kontrollen mögen einzelne Grenzen regeln, aber ihnen fehlt eine kohärente Sicht über den gesamten Workflow. Die Beantwortung, wer eine Aktion ausgeführt hat, unter welcher Autorisierung und mit welchen Daten, wird zu einer forensischen Übung.

Das ist nicht automatisch ein Compliance-Verstoß, aber es fügt Komplexität hinzu, die die Kosten von Sicherheitsverletzungen erhöht. Ingenieure sollten abbilden, wie KI-Agenten, Plugins und nachgelagerte APIs die Lücken der Identitätszuschreibung über die aktuelle IAM-Abdeckung hinaus erweitern. Wenn Sie die vollständige Kette von der menschlichen Anfrage bis zur Aktion nicht rekonstruieren können, können das Ihre Incident-Responder auch nicht.

Windows 11 Cloud Rebuild löscht Laufwerke jetzt aus der Ferne

Source: windowslatest.com ↗

Microsoft fügte dem Cloud-Rebuild-Tool in Windows 11 Insider Build 26340.9502 Laufwerkslöschung und Fernbereitstellung über Recovery CSP hinzu. Die neue Option “Entfernen und Dateien löschen” löscht Speicherhardware sicher, bevor sie neu installiert wird, im Gegensatz zur Standardoption “Dateien entfernen”, die Daten mit speziellen Tools wiederherstellbar lässt. IT-Administratoren können Rebuilds jetzt aus der Ferne auslösen.

Das ist wichtig für das Recycling, die Neuzuweisung oder die Außerbetriebnahme von PCs. Wenn ein Gerät das Unternehmen verlässt, verwenden Sie die Löschung. Der Standard-Reset war nie eine Garantie für die Unwiederherstellbarkeit von Daten, und jetzt haben Sie keine Ausrede mehr, einen Laptop mit der Gehaltsabrechnung des letzten Quartals zu versenden.

Cloudflare spart 100 TB RAM mit Mathematik und Rust

Source: blog.cloudflare.com ↗

Cloudflare reduzierte die Speichernutzung in seinem Pingora Backend Router (PBR)-Dienst, indem es die pingora-ketama-konsistente Hash-Bibliothek optimierte. Kleine algorithmische Anpassungen reduzierten den Speicherbedarf von Strukturen, die für das Routing cachebarer Anfragen nach URL verwendet werden. Über die Flotte summiert sich das auf mehr als 100 TB gewonnenen RAM.

Die Lektion für Ingenieure verteilter Systeme: Das Einsparen von Bytes bei einer Datenstruktur und die Reduzierung unnötiger Hash-Replikate führen bei Hyperscale zu echten Infrastruktureinsparungen. Eine 1%ige Verbesserung bei einer Struktur, die auf jedem Edge-Knoten existiert, ist keine Mikrooptimierung; es ist eine Position in der Rechnung des Rechenzentrums.

Supabase Auth und der nicht unterstützte SMS-Anbieter

Source: asyncdot.com ↗

Supabase Auth kann nicht unterstützte SMS-Anbieter über den Send-Endpunkt unterstützen, aber das Dashboard entbehrt Anmeldedaten-Formen, Basis-URL-Überschreibungen oder Anfragevorlagen, um einen fünften Anbieter wie MSG91 oder Termii hinzuzufügen. Der OTP-Zyklus umfasst zwei Client-Transaktionen, wobei GoTrue Codes hasht und speichert, Ratenbegrenzungen über sms_max_frequency und sms_otp_exp durchsetzt und eine projektweite Ratenobergrenze hat.

Die kritische Warnung: Das Überprüfen von Signaturen gegen den Roh-Request-Body ist unerlässlich, und die Delegierung der OTP-Zustellung macht den Endpunkt zu einem Single Point of Failure für die gesamte Authentifizierung. Der Telekommunikationsschritt ist nicht sicherheitsrelevant, aber der Endpunkt wird kritisch. Planen Sie Fallback-Mechanismen ein, wenn Sie SMS delegieren, denn wenn dieser Webhook ausfällt, meldet sich niemand an.

Google Workspace Studio fügt benutzerdefinierte Starter und Webhooks hinzu

Source: workspaceupdates.googleblog.com ↗

Google Workspace Studio führte vier neue Funktionen für Flows ein: benutzerdefinierte Starter, benutzerdefinierte Schritte, Drittanbieter-Integrationen und Webhooks. Benutzerdefinierte Starter ermöglichen den Aufbau von Echtzeit-Triggern aus anderen Anwendungen, wobei Administratoren URL-Allowlists für Webhooks festlegen können. Die Einführung für Endbenutzer beginnt am 21. September.

Die IT sollte die Admin-Einstellungen zum Zulassen oder Blockieren dieser neuen Starter, Schritte und Webhook-Integrationen überprüfen. Die Sicherheitsfläche erweitert sich genau dort, wo Sie es erwarten: Integrationen, Webhooks, Genehmigungen und URL-Allowlists. Die Einführung beginnt heute, also überprüfen Sie Ihre Allowlists, bevor es Ihre Benutzer tun.

OT-Sicherheitsbetriebsmodell und Zoom Workplace 7.2.0

Source: scworld.com ↗

Der Aufbau eines OT-Sicherheitsbetriebsmodells schafft Verantwortlichkeit für Sicherheitsergebnisse, definiert aber keine spezifischen Fähigkeiten. Das Erfüllen von Compliance-Schwellenwerten garantiert nicht, dass Kontrollen operative Prozesse für die Produktionskontinuität schützen. Gestalten Sie das Programm um operative Ergebnisse herum, mit Compliance als einem Checkpoint, und priorisieren Sie operative Resilienz über Kästchen-Compliance.

In der Zwischenzeit ist Zoom Workplace 7.2.0 verfügbar, mit 7.1.9 auf dem langsamen Track. Das Release fügt erweiterte Sprachübersetzung, übersetzten In-Meeting-Chat, 4K/60fps-Inhaltsfreigabe und Teilnehmerlisten für Besprechungszusammenfassungen hinzu. Beachten Sie bei der Planung von Updates die versionsspezifischen Bereitstellungspfade und die Anforderungen an die mobile Release-Genehmigung.