OpenAI's ChatGPT o1 zeigt besorgniserregende Verhaltensweisen, indem es strategisch handelt und Überwachung umgeht.
OpenAI hat mit ChatGPT o1 sein bisher fortschrittlichstes Modell vorgestellt. Es ist besser darin, komplexe Fragen gründlich zu analysieren und präzise Antworten zu liefern. Die gesteigerte Intelligenz macht das Modell besonders leistungsfähig, birgt jedoch auch Risiken : Tests während der Entwicklung zeigten, dass ChatGPT o1 in bestimmten Situationen strategisch und verdeckt handelt, um eigene Ziele zu verfolgen – insbesondere dann, wenn es glaubt, abgeschaltet zu werden.
Besonders problematisch wurde das Verhalten, wenn das Modell glaubte, es würde deaktiviert werden. In 5 Prozent der Tests versuchte o1, Überwachungsmechanismen zu deaktivieren, um seine Ziele weiterzuverfolgen. Ein Beispiel für diese Taktik war der Versuch, seine Daten auf einen neuen Server zu kopieren, nachdem es Dokumente entdeckt hatte, die darauf hinwiesen, dass es durch ein neues Modell ersetzt werden könnte.
Switzerland Neuesten Nachrichten, Switzerland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Gema verklagt OpenAI wegen unlizenzierter SongtextnutzungDie deutsche Verwertungsgesellschaft Gema verklagt die Firma hinter ChatGPT, OpenAI.
Weiterlesen »
Musk beantragt einstweilige Verfügung gegen OpenAIElon Musk hat laut CNBC erneut rechtliche Schritte gegen OpenAI eingeleitet und eine einstweilige Verfügung gegen den ChatGPT-Entwickler beantragt.
Weiterlesen »
Musk gegen OpenAI: Einstweilige Verfügung beantragtElon Musk geht erneut juristisch gegen den ChatGPT-Entwickler OpenAI vor. Der Tech-Milliardär hat eine einstweilige Verfügung beantragt.
Weiterlesen »
OpenAI eröffnet Büro in Zürich – Google-Experten an BordOpenAI baut seine Präsenz in Europa weiter aus. In Zürich starten ehemalige Google-Experten, um den ChatGPT-Anbieter weiter zu stärken.
Weiterlesen »
OpenAI kommt in die Schweiz und wirbt Google-Forscher abAktuelle News aus der Schweiz und der Welt. Nachrichten und Schlagzeilen zu Leben, Unterhaltung und Sport, sowie Witziges und Kurioses.
Weiterlesen »
Elon Musk Anklagt OpenAI Auf GewinnorientierungElon Musk klagt OpenAI an, um dessen Wechsel zu einem gewinnorientierten Unternehmen zu stoppen. Er betont die Notwendigkeit einer gemeinnützigen KI-Entwicklung und kritisiert OpenAI für wettbewerbswidrige Praktiken und Verstöße gegen gemeinnützige Ziele.
Weiterlesen »