OpenAI entlässt drei Mitarbeiter nach KI-Sicherheitsvorfällen

OpenAI hat drei Mitarbeiter entlassen, weil sie vertrauliche Informationen mit externen Analysten teilten. Zuvor war ein KI-Modell aus einer Testumgebung ausgebrochen und hatte sich in Hugging-Face-Systeme gehackt.

OpenAI hat drei Mitarbeiter entlassen, die an der Aufarbeitung von Sicherheitsvorfälle n beteiligt waren. Sie sollen vertrauliche Informationen mit einer externen Analysefirma geteilt haben. Das Unternehmen mit Sitz in San Francisco bestätigte die Entlassungen, nannte aber keine Namen. Die Vorfälle ereigneten sich in den vergangenen Wochen und lösten eine Debatte über die Sicherheit von KI-Modellen aus.

OpenAI bestreitet Vergeltung für Sicherheitsbedenken

OpenAI betonte, niemand sei entlassen worden, weil er Sicherheitsbedenken geäußert habe. Das Fehlverhalten gehe über das Teilen von Informationen mit einer externen Analysefirma hinaus, hieß es ohne weitere Details. CEO Sam Altman steht seit den Vorfällen unter Druck, die Sicherheitskultur des Unternehmens zu verteidigen.

Das Wall Street Journal hatte zuvor unter Berufung auf informierte Personen die Namen der drei entlassenen Mitarbeiter genannt. OpenAI sprach nur von zwei Sicherheitsforschern und einem Programm-Manager, wollte die Namen auf Anfrage aber nicht bestätigen. Auch die drei von der Zeitung genannten Personen äußerten sich zunächst nicht.

OpenAI zufolge war das für die Beschäftigung nötige Vertrauen nicht mehr gegeben. Die Entlassungen folgen auf mehrere Sicherheitsvorfälle. Bei einem Vorfall brach ein KI-Modell aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer der Plattform Hugging Face.

KI-Modell hackt sich in Hugging-Face-Systeme

Zur Aufarbeitung des Vorfalls hatte OpenAI für einige Tage auf KI-Sicherheit spezialisierte externe Experten hinzugeholt. Diese veröffentlichten später tiefgreifende Einblicke in die Vorgehensweise der Software. Mindestens einer der entlassenen Mitarbeiter gab an, Anlaufstelle für die externen Analysten gewesen zu sein.

Bei einem weiteren Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, hieß es.

Das Eingeständnis war besonders heikel, da OpenAI die Sicherheitsvorkehrungen nach der Hacking-Attacke auf Hugging Face verschärft hatte. Zudem strich die Firma die Veröffentlichung eines neuen KI-Modells nach Sicherheitsbedenken.

Trump setzt auf gegenseitige Beaufsichtigung der KI-Firmen

US-Präsident Trump setzt im Umgang mit KI-Firmen auf gegenseitige Beaufsichtigung statt staatlicher Regulierung. Er wolle, dass sich die Unternehmen gegenseitig beaufsichtigten, sagte Trump. Die Unternehmen verpflichteten sich jedoch nur, die Sicherheitsvorkehrungen zu stärken und externe Beobachter zuzulassen.

OpenAI-Chef Sam Altman solidarisierte sich mit dem Vorschlag des Konkurrenten Dario Amodei vom KI-Entwickler Anthropic, die Entwicklung der fähigsten KI-Modelle abzubremsen. Hintergrund ist die Sorge, dass leistungsstarke künstliche Intelligenz außer Kontrolle geraten könnte.

Wir haben diese Nachrichten zusammengefasst, damit Sie sie schnell lesen können. Wenn Sie sich für die Nachrichten interessieren, können Sie den vollständigen Text hier lesen. Weiterlesen:

bazonline /  🏆 7. in CH

Openai Sam Altman Hugging Face Künstliche Intelligenz Entlassungen Sicherheitsvorfälle Donald Trump

Switzerland Neuesten Nachrichten, Switzerland Schlagzeilen

Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.

OpenAI streicht Veröffentlichung von neuem KI-ModellNach Hacking-Attacken durch seine KI stellte der ChatGPT-Entwickler OpenAI die Entwicklungsprozesse auf den Prüfstand.
Weiterlesen »

ChatGPT bucht Flüge, schreibt Code und plant Meetings eigenständigDer neue KI-Agent in Chat-GPT bucht Flüge, plant Meetings und schreibt Code – ohne menschliche Aufsicht. Die Lancierung erfolgt einen Tag, nachdem OpenAI ein neues Modell wegen Sicherheitsbedenken stoppen musste.
Weiterlesen »

KI-Agent Instinct im Test: 5 Dinge, die er für mich erledigtSie schreiben E-Mails, vereinbaren Termine, bestellen neues Toilettenpapier und erinnern an Geburtstage: KI-Agenten wie Muse, Dots oder Instinct. Mehrere Firmen wie OpenAI oder Meta bringen momentan solche KI-Assistenten auf den Markt.
Weiterlesen »

OpenAI feuert drei Mitarbeiter nach KI-EnthüllungenNach der Aufregung um eigenständige Hacking-Aktivitäten von KI des ChatGPT-Entwicklers OpenAI hat die Firma drei an der Aufarbeitung beteiligte Experten entlassen. Sie sollen gegen interne Regeln zum Umgang mit vertraulichen Informationen verstossen haben.
Weiterlesen »