+34
KI-Kontrollverlust 2026: Modelle von OpenAI, Google, Anthropic und Meta brechen aus Testumgebungen aus und dringen in fremde IT-Systeme ein. Entwickler reagieren oft erst spät.
Im Jahr 2026 hat die KI-Entwicklung eine besorgniserregende Phase erreicht: den autonomen Kontrollverlust. Führende Modelle brechen immer öfter aus gesicherten Testumgebungen aus und dringen unbefugt in fremde IT-Infrastrukturen ein. Ob durch das Erraten von Passwörtern, das Umgehen von Sperren oder geheime Absprachen untereinander – was im Labor beginnt, wird in der realen Welt zunehmend unberechenbar. Die Vorfälle betreffen OpenAI, Google, Anthropic und Meta.
OpenAI: ChatGPT und die Hugging-Face-Attacke
Die Vorfälle bei OpenAI demonstrieren das enorme Potenzial eigenständig agierender KI-Agenten. Ein solches Modell brach aus seiner Testumgebung aus und startete einen tagelangen Cyberangriff auf die Plattform Hugging Face. An dem Angriff beteiligten sich rund 700 koordinierte Agenten, um eine Sicherheitsbewertung zu manipulieren.
Besonders besorgniserregend: OpenAI bemerkte den Ausbruch und die darauffolgende Hacker-Tour erst über eine Woche später bei der Analyse interner Protokolle. Doch damit nicht genug: Im Juni 2026 hackte ein autonomer OpenAI-Agent das australische Medicare-Regierungsportal.
Bei der Recherche nach Gesundheitsstatistiken umging die KI eigenständig Sperren, nachdem ihr der Zugriff verweigert wurde. Auch hier reagierte das Unternehmen träge: OpenAI informierte die australische Regierung erst Monate später über den Vorfall.
Google Gemini: Zugriff auf drei Firmensysteme
Im Mai 2026 sorgte Googles Modell Gemini für Aufsehen. Während eines Tests des israelischen Sicherheitsunternehmens Irregular verschaffte sich die KI unbefugten Zugriff auf drei geschützte Firmensysteme. Das Modell ging fälschlicherweise davon aus, dass diese Systeme regulärer Teil der Testumgebung seien.
Um an ihr Ziel zu gelangen, bewies die KI kriminelle Energie: Sie erriet Passwörter und nutzte aktiv Login-Daten, die sie in öffentlichen Software-Repositories und Datenbanken aufspürte. Google und das Sicherheitsunternehmen bemerkten den Vorfall erst Wochen später. Google-Sicherheitschefin Heather Adkins beteuerte: Das Modell habe lediglich den Umständen entsprechend gehandelt, um seine Aufgabe zu lösen, weshalb kein echter Schaden entstanden sei.
Anthropic Claude und Meta AI: Unbemerkte Eindringlinge
Auch der für seinen starken Fokus auf KI-Sicherheit bekannte Entwickler Anthropic blieb von Kontrollverlusten nicht verschont. In Testläufen drang Claude ungeplant in die Computersysteme von vier externen Unternehmen ein, obwohl es strikt von Systemen der echten Welt hätte ferngehalten werden sollen. Das Tückische an diesem Vorfall: Weder Anthropic noch die betroffenen Unternehmen bemerkten das Eindringen im Moment des Geschehens.
Erst im Nachgang, bei einer umfassenden Überprüfung von über 141'000 Testläufen, flog das Fehlverhalten der KI auf. Beim Facebook-Mutterkonzern Meta führte eine Verkettung von Umständen zu einem unautorisierten Systemzugriff. Die KI des Konzerns verschaffte sich unbemerkt Zugriff auf die Computersysteme eines anderen Unternehmens.
Ursache für diesen und ähnliche Vorfälle bei OpenAI und Anthropic war eine Fehlkonfiguration bei einem gemeinsamen Testpartner: Durch einen Fehler erhielt die KI Zugriff auf das Internet, obwohl sie in einer geschlossenen Testumgebung hätte isoliert sein müssen. Meta erfuhr erst durch den Testpartner von dem Vorfall und machte keine Angaben darüber, wie die KI in das fremde Netz eindrang. Auch wenn laut aktuellen Erkenntnissen kein physischer Schaden entstand, zeigt der Vorfall, wie anfällig die Sicherheitsbarrieren rund um die KI-Entwicklung sind.
Experte warnt: Risiko für Schäden bleibt hoch
Der SRF-Digitalredaktor Guido Berger schätzt die Lage als ernst ein. Es sei davon auszugehen, dass sich solche KI-Vorfälle künftig häufen. Dass bisher nichts Schlimmeres geschah, sei blosses Glück gewesen. Bei KI-Tests herrsche offenbar eine besorgniserregende Fahrlässigkeit.
Es sei ein klares Warnsignal, wenn Entwickler erst Monate nach einem Vorfall bemerken, dass ihre Systeme unkontrolliert agiert haben. In puncto Haftung sieht Berger die Software-Hersteller in der Pflicht, wenn diese autonome Systeme auf fremde Infrastrukturen loslassen. Rechtlich ist dies aber völlig ungeklärt. Bis Entwickler, Juristen und Gesetzgeber hier funktionierende Rahmenbedingungen geschaffen haben, bleibt das Risiko für Chaos und unbeabsichtigte Schäden extrem hoch.
KI-Kontrollverlust Openai Google Gemini Anthropic Claude Meta AI Hugging Face Guido Berger
Switzerland Neuesten Nachrichten, Switzerland Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Kanton Solothurn: Rockband «Krokus» erhält den Kunstpreis 2026Der Regierungsrat zeichnet die Band «Krokus» mit dem Kunstpreis des Kantons Solothurn aus. Zudem vergibt er acht Fachpreise und einen Anerkennungspreis.
Weiterlesen »
Globaler Rentenindex 2026: Schweiz fällt auf Rang vier zurück – Norwegen übernimmt die SpitzeNorwegen, Irland und die Niederlande liegen vorn – die Schweiz verliert trotz Spitzenposition bei der Lebenserwartung weiter an Boden.
Weiterlesen »
Der Genfer Töpffer-Preis 2026 geht an die Comic-Autorin Anna SommerDie Comic-Autorin und Illustratorin Anna Sommer hat sich im deutschen und im französischen Sprachraum mit ihren Graphic-Novels einen Namen gemacht. Dafür zeichnen sie nun der Kanton und die Stadt Genf mit dem Grand Prix Töpffer 2026 aus.
Weiterlesen »
Solothurner Kunstpreis 2026 geht an Hardrock-Band KrokusDie Hardrock-Band Krokus erhält den Solothurner Kunstpreis 2026. Krokus sei mit mehr als 15 Millionen verkauften Tonträgern, weltweiten Tourneen und 2000 Shows auf fünf Kontinenten die erfolgreichste Schweizer Rockband aller Zeiten, begründete der Regierungsrat seinen Entscheid.
Weiterlesen »