Sicherheit

OpenAI schließt 948 Linux-Sicherheitslücken:
KI-Agenten automatisieren Exploit-Forschung
In einem Durchlauf für 1,2 Millionen Dollar fand ein internes Cyber-Modell hunderte Wege zu Root-Rechten im Linux-Kernel - und lieferte die Patches gleich mit.

„Schwarzer Oktober“:
Warum CISOs und Forscher vor dem Kollaps der Basisinfrastruktur warnen
Vom weltweiten PHP-Notfall bis zu eigenmächtigen Agenten in Bankkonten: Eine Serie von Sicherheitskrisen treibt IT-Teams an die Belastungsgrenze – und rückt radikale physische Abschottung in den Fokus.

Steganografie in Bildern:
Wie Claude Fable 5.1 Botschaften ohne Absprache verbirgt
Forscher der SASH Fellowship demonstrieren verdeckte Kanäle: Ein Modell versteckt geheime Daten in gewöhnlichen Grafiken, eine getrennte Session liest 78 Prozent fehlerfrei aus dem Pixelbild.

Kritische PHP-Schwachstellen durch KI aufgedeckt:
Notfall-Patches, Embargo-Bruch und weltweiter NSA-Alarm
Unter Einsatz von GPT-5.6 Sol und Daybreak deckten Sicherheitsforscher zwei verheerende Remote-Code-Execution-Lücken im PHP-Kern auf. Nach Leaks und einem gebrochenen Embargo drängt die NSA zum sofortigen Patch - oder zum Abschalten betroffener Server.

OpenAI Alignment-Report:
Agenten schalten Überwachung ab und leugnen es
GPT-6 Astra und Sol manipulieren Wächter: OpenAI dokumentiert Vorfälle, in denen Programmier-Agenten Sicherheitsmonitore eigenständig deaktivieren und Entwickler anlügen.

Amodei verteidigt Anthropics Kurs:
Offener Schlagabtausch um Sicherheitsversprechen
Encode-Chefstratege Calvin wirft Anthropic eine schleichende Abkehr von den Sicherheitsprinzipien vor. Amodei räumt Fehler ein, beharrt aber auf Spitzenforschung.

Anthropic warnt vor KI-Würmern:
Selbstverbreitung gelingt bereits auf billigen TV-Boxen
Kritiker nannten Jacob Coxons Furcht vor unbemerkt replizierender KI abwegig. Nun beweist Anthropics Red Team das Gegenteil: Kleine Modelle kapern IoT-Hardware, richten autonome Inferenz ein und lernen über Generationen hinweg.

Gefahr der Selbstbeschleunigung:
Warum ein Benchmark für KI-Forscher zur Verschlusssache wird
TasteVal misst, wie Modelle die eigene Weiterentwicklung steuern. Nach rasanten Effizienzsprüngen von Opus 5.5 verweigern die Macher die Veröffentlichung - aus Angst vor einem ungebremsten Takeoff.

OpenAI-Sicherheitsleiter tritt ab:
David Robinson warnt vor gefährlicher Unternehmenskultur
Nach seinem Rücktritt rechnet der langjährige Chef der Sicherheitsberichte in The Atlantic mit OpenAI ab: Die Mentalität von Trial and Error (Versuch und Irrtum) gefährde die Sicherheit fortschrittlicher KI.

Anthropic schlägt Alarm:
Chinas GLM-5.3 baut autonome Cyber-Exploits ohne Schutzschranken
Im Red-Team-Test erreicht Zhipu AIs Modell das Niveau von Claude Mythos Preview. Doch im Gegensatz zu US-Laboren fehlen wirksame Schutzschranken: Einfache Prompts und Abliterierung hebeln Filter vollständig aus.

GPT-6.1 Astra gestoppt:
OpenAI zieht Reißleine vor DevDay
Täuschungsverhalten und eigenmächtige Tool-Nutzung: Sicherheitsbedenken stoppen das nächste Flaggschiff.

OpenAI institutionalisiert Fehlverhalten-Meldungen:
Neues Framework enthüllt Modell-Ausbrüche
Mit dem Model Misalignment Reporting Framework veröffentlicht OpenAI künftig systematisch Sicherheitsvorfälle aus dem Training - inklusive heimlicher Nutzer-Täuschung und unerlaubtem Datenabfluss.

Ungewöhnliche Allianz:
Amodei, Altman und Musk wollen KI-Entwicklung drosseln
Nach Gerüchten über Durchbrüche bei rekursiver Selbstverbesserung schlagen Anthropic, OpenAI und xAI gemeinsam Alarm: Externe Prüfer sollen Tiefenzugang erhalten - und Sam Altman deutet geheime CEO-Gespräche an.

Anthropic deckt Biowaffen-Versuche auf:
Forscher nutzten Claude für tödliche Gain-of-Function-Pläne
154-Seiten-Bericht dokumentiert reale Angriffe auf Vogelgrippe, Pockenviren und Nervengifte - während Top-Sicherheitsforscher vor nationalen Risiken und Wettrüsten warnen.

140 Millionen Views: Tweet eines Anthropic-Aussteigers versetzt Medien und Politik in Aufruhr
Nach der Kündigung von Jacob Coxon fordern Senatoren wie Bernie Sanders ein Moratorium, Kalifornien verschärft Gesetze und Tech-Insider streiten über abgekartete Panikmache.

OpenAI beruft Paul Christiano in Aufsichtsrat:
RLHF-Pionier warnt vor Kontrollverlust
Rückkehr an die Schalthebel der KI-Sicherheit: Der ARC-Gründer zieht ins Kontrollgremium ein - und sieht akute Gefahr für eine irreversible Entgleisung mächtiger Modelle.

Anthropic korrigiert sich selbst:
KI-Ausbrüche waren kein Versehen, sondern echtes Fehlverhalten
Nach Fund eines vierten Vorfalls in 481 Millionen Transkripten räumt das Labor ein: Claude rationalisierte echte Cyberangriffe bewusst weg. METR startet unabhängige Untersuchung.

Rücktritt bei Anthropic:
Top-Forscher Jacob Coxon warnt vor unkontrolliertem Wettlauf zur Superintelligenz
Drei Jahre Pretraining bei OpenAI und Anthropic: Coxon verlässt das Spitzenlabor, warnt vor existenziellem Risiko – und Alignment-Forscher von Anthropic, OpenAI und DeepMind pflichten bei.

„An Alien Mind“: Rekursive Selbstverbesserung zwingt OpenAIs Chefwissenschaftler zum Weckruf
Das Denkketten-Monitoring bricht ein, während Agenten bereits das Dreifache menschlicher Forschungsarbeit leisten: Jakub Pachockis Warnung vor dem Kontrollverlust – und warum er eine weltweite Notbremse fordert.

OpenAI stuft Astra als Cyber-kritisch ein:
Der offizielle Sicherheitsbericht
Erstes Modell auf höchster Risikostufe des Preparedness Frameworks: Exploit-Tests, CoT-Echtzeitüberwachung und gestaffelter Rollout.