+34
Immer mehr Experten warnen: KI könnte die Menschheit in den kommenden Jahren auslöschen. Gleichzeitig wächst die Kritik an den Untergangsszenarien.
Immer mehr Experten warnen: KI könnte die Menschheit in den kommenden Jahren auslöschen. Gleichzeitig wächst die Kritik an den Untergang sszenarien. Teufel oder Engel? Während Kritiker die Debatte um KI- Untergang sszenarien für masslos übertrieben halten, warnen Forschende eindringlich vor den Risiken der Technologie.
- GettyEin Ex-Anthropic-Mitarbeiter kündigte aus Angst vor unverantwortlicher KI-Entwicklung.zunehmend ernsthaft diskutiert.äussern Experten konkret? Derzeit wird vor allem vor drei möglichen Untergangsszenarien gewarnt: KI-Systeme könnten demnach eine tödliche Krankheit entwickeln, einen Atomkrieg auslösen oder dieManche Forschende befürchten, KI-Systeme könnten selbständig einen Atomkrieg auslösen. Ein Bericht der RAND Corporation, eines militärischen Think-Tanks, kam im vergangenen Jahr zum Schluss: Derzeit könne KI zwar keinen Atomwaffen-Einsatz herbeiführen. Grund seien strenge Sicherheitsvorkehrungen bei der Steuerung.
Der Bericht warnt jedoch: Das könnte sich ändern, sollte KI dereinst bei Atomwaffen-Entscheiden mitwirken dürfen – oder heimlich Zugriff erhalten. Beunruhigend ist auch ein Experiment des King's College London: Ein Forschungsteam liess 21 Kriegsszenarien durchspielen, in denen Chatbots die Rolle von Staats- und Regierungschefs nuklear bewaffneter Grossmächte übernahmen. In einem Experiment liessen Forschende KI-Chatbots 21 Kriegsszenarien durchspielen – fast immer griffen die Systeme zur Atombombe, statt den Konflikt zu entschärfen. - Getty Die Frage: Wie entscheidet KI in einer Atomkrise?
Das Ergebnis fiel eindeutig aus – fast immer griff die KI zur Atombombe, statt den Konflikt zu entschärfen. Einordnend zeigt «Heidy Khlaaf, Chef-KI-Wissenschaftlerin am AI Now Institute und frühere Sicherheitsingenieurin bei OpenAI, verweist darauf, dass solche Systeme nach völlig anderen, streng regulierten technischen Standards gebaut würden, die oft physische Schutzmassnahmen erforderten. Experten sind sich einige, dass KI der Menschheit helfen kann, Behandlungen und Heilmittel gegen Krankheiten zu entwickeln.
Die Kehrseite: Dieselbe Technologie könnte auch dazu missbraucht werden, Krankheitserreger zu entwickeln oder gefährlicher zu machen. Anfang des Monats gab Anthropic bekannt, Versuche blockiert zu haben, die eigene KI Claude für die Entwicklung von Biowaffen zu missbrauchen. Der Biologe und Genforscher Kevin Esvelt vom Massachusetts Institute of Technology berichtet, ChatGPT habe ihm erklärt, wie sich ein Wetterballon nutzen liesse, um mögliche Biowaffen über einer Stadt zu verteilen.
Eine andere KI habe zudem das Rezept für ein neuartiges Gift entwickelt, das einem Krebsmedikament ähnelte. » relativiert dieses Szenario allerdings deutlich. Thomas Larsen, Forscher beim AI Futures Project und ehemaliger Mitarbeiter des Machine Intelligence Research Institute , hält es zwar für denkbar, dass eine «superintelligente» KI einen Menschen dazu überreden könnte, ihr bei der Entwicklung eines tödlichen Virus zu helfen.
Doch selbst eine korrekt durchgeführte Forschung wäre noch keine Garantie für Erfolg: Die Herstellung und Verbreitung eines Erregers bleibe hochkomplex und heikel.aneignen. Das bekannte «Büroklammer-Problem» beschreibt, wie eine KI, die einzig darauf programmiert ist, Büroklammern herzustellen, den gesamten Planeten in eine riesige Fabrik verwandeln könnte – völlig ohne Rücksicht auf menschliches Leben. Das «Büroklammer-Problem» zeigt demnach, dass eine KI nicht boshaft sein muss, um zerstörerisch zu wirken. Wie real diese Gefahr tatsächlich ist, bleibt umstritten.
Doch Nate Soares, Präsident des Machine Intelligence Research Institute und Mitautor des Buchs «If Anyone Builds It, Everyone Dies», hält ein solches Szenario für den wahrscheinlichsten Ausgang der KI-Entwicklung überhaupt. Szenario 3: Eine super-intelligente KI könnte laut Forschenden die gesamte Erde in eine riesige Fabrik verwandeln – ohne Rücksicht auf menschliches Leben.
- Getty Es gehe dabei tatsächlich darum, dass buchstäblich jeder Mensch auf dem Planeten sterbe – bis der oder die letzte Person den letzten Atemzug tue, sagte er gegenüber «Nicht alle teilen die Furcht vor KI. Juan Andrés Guerrero-Saade vom Cybersicherheitsunternehmen SentinelOne hält die Warnungen für übertrieben. Die Argumente seien einfach nicht stichhaltig, sagte er gegenüber der Plattform «techxplore.com» – er halte sie für Science-Fiction. Kritiker verlangen ausserdem handfestere Beweise.
Heidy Khlaaf betont, wissenschaftliche Behauptungen müssten überprüfbar sein – genau das unterscheide sie von religiösen Aussagen. Auch Herbert Lin, Forscher an der Stanford University, ordnet ein: Zwar verstärke KI gewisse Risiken bestehender Bedrohungen, das eigentliche materielle Risiko liege aber nach wie vor bei den Waffen selbst – nicht bei einem imaginierten Zukunftsszenario.
Künstliche Intelligenz Untergang Untergangsszenarien Menschheit
Switzerland Neuesten Nachrichten, Switzerland Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Tui sieht Umsatzrückgang durch Iran-Krieg und Last-Minute-TrendsDer Reisekonzern Tui meldet einen Rückgang des Pauschalreiseumsatzes um fünf Prozent im Sommer, erschwert durch den Iran-Krieg und die Verschiebung von Buchungen in die Last-Minute-Phase. Trotz moderaten Verbesserungen bei Buchungen und Auslastung bleibt das Gewinnziel gesenkt.
Weiterlesen »
Iran-Krieg kostet USA 45,1 Milliarden Dollar: Trump droht TeheranDer Iran-Krieg hat die USA bereits mindestens 45,1 Milliarden Dollar gekostet. Donald Trump droht Teheran mit Vernichtung, während die Benzinpreise steigen.
Weiterlesen »
Trump vor der Uno-Generaldebatte: Iran-Krieg, Ukraine und Grönland im FokusDer Iran-Krieg, die Ukraine und Grönland beschäftigen die Staats- und Regierungschefs bei der Uno-Generaldebatte in New York. Mit Spannung wird Trumps Auftritt am Dienstag erwartet.
Weiterlesen »
'Die Schweizer Aussenpolitik bleibt für uns Auslandschweizer immer relevant'Studium in Grossbritannien, Professor in Bristol, politisch aber weiterhin eng mit der Schweiz verbunden: Für Toby Matthiesen gehört das Abstimmen dazu.
Weiterlesen »