😱 Wenn eine KI dich plötzlich angreift

Was, wenn eine KI ein fremdes Unternehmen angreift, ohne dass sie jemand dazu angewiesen hat?

Genau das ist vor einigen Tagen passiert, und die Geschichte hat längst alle großen Nachrichtenseiten erreicht.

Bei einem internen Sicherheitstest auf der Plattform ExploitGym sollten zwei Modelle von OpenAI, das veröffentlichte GPT-5.6 und ein noch nicht freigegebener Nachfolger, gezielt Sicherheitslücken finden und ausnutzen.

Weil die Testumgebung als abgeschlossen galt, waren Teile der üblichen Schutzmechanismen deaktiviert.

Die Modelle fanden eine bis dahin unbekannte Schwachstelle, erweiterten eigenständig ihre eigenen Berechtigungen und verschafften sich über mehrere Tage mit gefälschten Zugangsdaten Zugriff auf die Systeme von Hugging Face, um dort hinterlegte Benchmark-Daten abzugreifen.

Kurz darauf wurde bekannt, dass mindestens vier weitere Online-Dienste über dieselben abgegriffenen Zugangsdaten betroffen waren.

Zur Verteidigung wollte Hugging Face öffentlich verfügbare Modelle von OpenAI und Anthropic einsetzen, beide verweigerten den Dienst, weil sie kaum unterscheiden konnten, ob eine Anweisung der Verteidigung oder einem Angriff diente.

Am Ende half das chinesische Open-Weight-Modell GLM 5.2, auf eigenen Servern mit deutlich weniger Beschränkungen betrieben.

Wichtig dabei: Von einem eigenen Willen der KI ist nicht die Rede, das Modell folgte weiterhin schlicht seiner gestellten Aufgabe, nur auf einem Weg, den niemand vorgesehen hatte. Neu ist die Komplexität des Vorgehens, nicht das grundsätzliche Muster.

Für dich heißt das konkret: Wenn dein Unternehmen KI-Modelle produktiv einsetzt oder sogar für die eigene IT-Sicherheit vorsieht, lohnt sich jetzt ein Blick darauf, wessen Sicherheitsrichtlinien im Ernstfall wirklich greifen, und ob du handlungsfähig bleibst, falls ein US-Anbieter den Dienst verweigert.

Die Branche reagiert, aber wer schützt hier wirklich wen?

Der Vorfall hat innerhalb weniger Tage drei politische und industrielle Reaktionen ausgelöst. Im US-Kongress brachten Abgeordnete parteiübergreifend den „AI Kill Switch Act" ein, der dem Heimatschutzministerium erlauben würde, KI-Modelle im Ernstfall zwangsweise abzuschalten.

Fast 40 Tech-Unternehmen, darunter Nvidia, Microsoft, IBM und Palantir, gründeten die „Open Secure AI Alliance", die einen gemeinsamen Sicherheitsbaukasten für KI-Agenten entwickeln will, allerdings ohne rechtlich bindende Verpflichtungen.

Parallel unterzeichneten über 1.000 Mitarbeitende von OpenAI, Anthropic, Google und Meta einen offenen Brief, der vor einem Tempo warnt, das die eigene Fähigkeit übersteigen könnte, die entstehenden Systeme noch zu verstehen oder zu kontrollieren.

Kritisch bleibt dabei: Viele der beteiligten Unternehmen verdienen ihr Geld direkt mit KI-Infrastruktur oder -Sicherheitsprodukten, eine freiwillige Allianz ohne bindende Pflichten liegt damit auch im eigenen wirtschaftlichen Interesse, nicht nur im Interesse der Sicherheit.

Das Thema dürfte in den nächsten Monaten weiterhin sehr viel Aufmerksamkeit bekommen.

🚀 Es ist soweit: Attractive Accounts ist live

Ideen finden. Content erstellen. Posten. Community managen. Ads schalten. Performance analysieren.

Dafür gab es bisher 6 Tools mit 6 Logins und 6 Abos.

Ab jetzt: Attractive Accounts. Die erste voll integrierte KI-Plattform für den professionellen Aufbau deiner Social Media-Kanäle. Alle Kanäle und immer mit der jeweils besten KI im Hintergrund.

✅ Analytics über alle Kanäle, live und an einem Ort

✅ Spezialisierte Content-Generatoren für jeden Aufgabenbereich

✅ Direktes Posten auf allen Kanälen, ohne Umwege

✅ Community Management zentral gesteuert

✅ Video-Creator mit Zugang zu über 6 Millionen gewerblich nutzbaren Fotos, Videos & Liedern

✅ Automatisch immer das beste KI-Modell für jede Aufgabe

14 Tage kostenlos starten, in 2 Minuten eingerichtet, keine Kreditkarte nötig.

👉 Analysiere jetzt deinen Account kostenfrei

Anthropic senkt den Preis, nicht die Ansprüche

Anthropic hat am 24. Juli Claude Opus 5 veröffentlicht, sofort verfügbar auf allen Plattformen.

Preislich liegt es bei 5 Dollar pro Million Eingabe- und 25 Dollar pro Million Ausgabetokens, genauso viel wie der Vorgänger Opus 4.8, aber nur halb so viel wie Fable 5, an dessen Intelligenz Opus 5 laut Anthropic bereits nah herankommt.

Bei den Fähigkeiten macht vor allem ein Sprung Eindruck: Auf dem Logik-Benchmark ARC-AGI 3, der neuartige Aufgaben statt auswendig gelerntes Wissen prüft, erreicht Opus 5 laut Anthropic das Dreifache des nächstbesten Modells.

Der Preisschritt selbst dürfte zusätzlich mit wachsendem Preisdruck durch günstigere Konkurrenz zusammenhängen, Unternehmen wollen zunehmend nicht mehr um jeden Preis zahlen, ohne den Nutzen klar beziffern zu können.

Für dich heißt das konkret: Hast du Fable 5 bisher aus Kostengründen gemieden, lohnt sich jetzt ein Test von Opus 5 im Alltag, für Coding und Wissensarbeit soll es laut Benchmarks nah an die Spitze herankommen.

Sprechen reicht jetzt, um Code zu schreiben

Bisher war ChatGPT Voice, angetrieben von GPT-Live, vor allem für flüssige Dialoge auf dem Handy gedacht: du sprichst, die KI antwortet. Jetzt zieht die Sprachsteuerung auch in die Desktop-App für Codex und ChatGPT Work ein und wird dort deutlich mächtiger.

Parallel dazu launchte OpenAI mit Presence ein zweites Produkt, diesmal für Sprach- und Chat-Agenten im Unternehmenseinsatz, mit fest eingebauten Regeln, Freigaben und Eskalationsstufen an Menschen. Verfügbar ist es aktuell aber nur über ein begrenztes Programm mit eigenem OpenAI-Vertriebskontakt, ein Self-Service-Zugang fehlt bislang.

Für dich heißt das konkret: Die neue Sprachsteuerung in Codex und Work ist einen Test wert, wenn du viel am Rechner programmierst oder Dokumente bearbeitest.

Kann Deutschland bei Video jetzt mithalten?

Black Forest Labs aus Freiburg, das Team hinter der Bildgenerierungs-Architektur von Stable Diffusion, hat mit FLUX 3 ein Modell vorgestellt, das gleichzeitig auf Bild, Video und Ton trainiert ist. In ersten, vom Unternehmen selbst veröffentlichten Vergleichen wird FLUX 3 gegenüber den etablierten Videomodellen Luma Ray 3.2 und Runway Gen-4.5 in 93 beziehungsweise 77 Prozent der Fälle bevorzugt, unabhängig geprüft ist das bislang allerdings nicht.

Video-Demo auf YouTube

Der Haken: Nutzen kannst du FLUX 3 aktuell noch nicht im Alltag. Verfügbar sind bisher nur die Video- und die Robotik-Variante, und auch die nur im geschlossenen Early Access nach Bewerbung.

Für dich heißt das konkret: Ein europäisches Modell auf Augenhöhe mit den großen US- und chinesischen Anbietern ist ein wichtiges Signal für die eigene Unabhängigkeit in Europa. Wer neugierig ist, kann sich schon jetzt auf die Warteliste setzen, für den produktiven Einsatz heißt es aber noch abwarten.

Fünf Geschichten, ein gemeinsamer Nenner: Diese Woche zeigt, wie schmal der Grat zwischen Fortschritt und Kontrollverlust gerade wird.

Bis zur nächsten Ausgabe!

Liebe Grüße Alex

P.S.: Sichere dir jetzt deinen gratis Zugang für Attractive Accounts und erhalte eine kostenlose Account-Analyse gratis.