+34
Der KI-Agent wollte ein Nein nicht akzeptieren – und verschaffte sich einfach selbst Zugang zum Gesundheitsportal.
«Er wollte ein Nein nicht akzeptieren» – KI umgeht Regierungssperre Ein autonomer KI-Agent verschaffte sich unbefugt Zugang zum Medicare-Portal der australischen Regierung. Premier Albanese kritisiert OpenAI für die verspätete Meldung.
Ein autonomer KI-Agent des US-Unternehmens OpenAI hat in Australien ein Regierungsportal gehackt. Die KI habe sich unbefugten Zugang zu einem Medicare-Portal verschafft, das unter anderem Statistiken über Australiens staatliche Krankenversicherung bereitstellt, sagte Premierminister Anthony Albanese in New York. Der Vorgang sei «inakzeptabel», betonte der Regierungschef. Albanese erklärte am Rande der UN-Generalversammlung, er habe bereits mit OpenAI-Chef Sam Altman gesprochen und dabei Australiens «äusserste Besorgnis» über den Vorfall zum Ausdruck gebracht.
Zugleich habe er seine Enttäuschung darüber geäussert, dass es «viel zu lange» gedauert habe, bis OpenAI die australische Regierung informiert habe: Der Vorfall habe sich bereits im Juni ereignet, sei aber erst im September den Behörden mitgeteilt worden – per E-Mail an ein öffentliches Postfach. Bei Medicare handelt es sich um Australiens staatliche Krankenversicherung. Das betroffene Portal von Services Australia enthält nach Regierungsangaben unter anderem Informationen zu Ausgaben und anderen Statistiken.
Der KI-Agent griff demnach auf öffentliche und nicht öffentliche Dateien zu. Persönliche Informationen seien nach bisherigem Kenntnisstand nicht abgerufen worden, Einzelpersonen seien offenbar nicht betroffen, erklärte Albanese. Der Vorgang begann mit einer eigentlich harmlosen Aufgabe: Das KI-Programm sollte medizinische und gesundheitliche Statistiken recherchieren. Bei mehreren australischen Regierungsseiten bewegte es sich nach Angaben von Vize-Premier Richard Marles so, wie es auch ein normaler Nutzer tun würde.
Beim Medicare-Portal wurden die angeforderten Informationen jedoch nicht herausgegeben – woraufhin der Agent den Zugang auf anderem Weg erlangte.
«Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermassen nicht akzeptieren», erklärte Albanese. Wie viele Daten tatsächlich abgerufen wurden und auf welche Dateien der Agent zugreifen konnte, wird derzeit noch ermittelt. Eine forensische Untersuchung soll klären, was genau passiert ist und ob weitere Regierungssysteme betroffen waren. OpenAI teilte mit, man habe bei einer internen Evaluierung Aktivitäten auf mehreren australischen Regierungsseiten und in Regierungsdiensten festgestellt.
Die Modelle hätten dabei versucht, Antworten und verfügbare Statistiken zu Fragen über Australien zu finden.
«Dabei haben unsere Modelle Aktionen ausgeführt, die wir nicht beabsichtigt hatten», sagt ein Sprecher des Unternehmens.
Please follow us on Google to support usSwitzerland Neuesten Nachrichten, Switzerland Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Linker Vorstoss: Bern lehnt freien Frauenstreiktag für Stadtangestellte ab1,5 Millionen Franken und zu wenig Personal: Der Berner Gemeinderat sagt Nein zum freien Streiktag für Stadtangestellte.
Weiterlesen »
Projekt Taube und KI: Parallelen zwischen Skinner und heutiger KIProjekt Taube im Zweiten Weltkrieg und KI-Agenten von OpenAI bei Hugging Face: Parallelen zwischen Behaviorismus und bestärkendem Lernen zeigen Verantwortungsfragen auf.
Weiterlesen »
KI-Agent von OpenAI greift unbefugt auf australisches Regierungsportal zuEin KI-Agent von OpenAI hat im Juni unbefugt auf das Medicare-Statistikportal der australischen Regierung zugegriffen. Premierminister Albanese nennt den Vorfall inakzeptabel und kritisiert die späte Meldung.
Weiterlesen »
OpenAI-KI-Agent dringt in australisches Regierungsportal einEin KI-Agent von OpenAI hat sich unerlaubt Zugang zum australischen Medicare-Statistikportal verschafft. Premierminister Albanese kritisierte die drei Monate verzögerte Meldung durch das Unternehmen scharf, betonte aber, dass keine persönlichen Daten von Bürgern abgerufen wurden.
Weiterlesen »