+34
Führungskräfte von Anthropic und OpenAI warnen vor einer Superintelligenz, die die Menschheit bedrohen könnte. Hinter der Panikmache stecken Geschäftsinteressen – aber auch Wahrheiten.
Was hinter den Warnungen der KI-Chefs vor ihren eigenen Modellen steckt Führungskräfte von Anthropic und OpenAI warnen vor einer Superintelligenz, die die Menschheit bedrohen könnte.
Hinter der Panikmache stecken Geschäftsinteressen – aber auch Wahrheiten. Vorletzte Woche löste Jacob Coxon, Ingenieur bei Anthropic, im Internet einen Shitstorm aus, nachdem er auf X öffentlich gekündigt hatte – mit der Begründung, dass KI-Unternehmen «geradewegs auf eine sich selbst verbessernde Superintelligenz zusteuern und mit unserem Leben spielen».
Darauf folgte ein Beitrag von Evan Hubinger, Leiter des Bereichs Alignment Science bei Anthropic, der seinem ehemaligen Kollegen zustimmte und zu dem Schluss kam, die Wahrscheinlichkeit, dass die künstliche Intelligenz uns alle im nächsten Jahrzehnt auslöscht, liege bei etwa 10%. Am folgenden Wochenende veröffentlichte dann Dario Amodei, CEO von Anthropic, einen Essay, in dem er neue Sicherheitsvorkehrungen für die KI-Entwicklung forderte, darunter «eingebettete externe Gutachter» und eine Drosselung des Entwicklungstempos sowohl in den USA als auch in China .
Die KI-CEO Sam Altman und Elon Musk sprachen dem Vorschlag umgehend ihre Unterstützung aus. Doch US-Präsident Donald Trump lehnte die Idee sofort ab, da das Risiko bestehe, dass die USA dadurch ihre Führungsposition im Bereich der KI an China verlieren. Was bedeutet das alles also? Haben die Schwarzmaler recht, dass die KI uns alle töten könnte?
Was veranlasst Führungskräfte aus der KI-Branche dazu, zu erklären, dass ihre Technologie genauso gefährlich sein könnte wie Atomwaffen? Und gibt es Hoffnung auf Vorschriften, die die KI-Entwicklung sicherer machen? Was die Weltuntergangsstimmung angeht, sollten Sie weiterhin für den Ruhestand sparen – ungeachtet dessen, was Ihnen manche KI-Untergangspropheten vielleicht erzählen mögen.
Erstens ist das Argument, wie KI die Welt zerstören wird, vage. Obwohl OpenAI zu behaupten versucht, sie habe die allgemeine künstliche Intelligenz erreicht, sieht die Realität so aus, dass wir noch keine KI-Systeme haben, die bei den meisten Aufgaben besser sind als die meisten Menschen. Und niemand ist sich völlig einig über die Kriterien für das Erreichen von AGI, einschliesslich Sam Altman, der dies kürzlich als «irrelevanten Marketingbegriff» verspottete.
Was also die Vorstellung angeht, dass ein gottgleicher Computer bereitsteht, uns auszuschalten: Da bin ich skeptisch. Das ist mit ein Grund, warum Coxons Antwort nicht besonders klar ausfiel, als er aufgefordert wurde, konkret zu werden, wie KI die Menschheit auslöschen würde: «Das klassische Beispiel ist so etwas wie die Synthese eines neuen Virus oder die Lahmlegung kritischer Infrastruktur durch eine Art Hacking-Amoklauf. »Tatsächlich sollten wir uns Sorgen um die Gefahren einer KI ohne Sicherheitsvorkehrungen machen.
Erst in den letzten Wochen hat Anthropic bekannt gegeben, dass der Iran ihre KI zum Angriff auf US-Schiffe eingesetzt hat, China sie zur Überwachung der verfolgten uigurischen Minderheit genutzt hat und Militärforscher versucht haben, damit Biowaffen herzustellen. Und das ist nur die Spitze des Eisbergs, was unsere Schwachstellen angeht: Wir stehen am Rande einer potenziellen «Cyberpokalypse», da KI es Hackern leichter denn je macht, Schwachstellen in veraltetem Code von Websites im gesamten Netz auszunutzen.
Doch dabei handelt es sich um Krisenrisiken – Ereignisse, die Panik oder sogar den Verlust von Menschenleben verursachen könnten, aber nicht das Ende der Zivilisation. Wovon wir sprechen, sind böswillige Akteure, die KI für schlechte Zwecke nutzen, oder eine kleinere Version des «Büroklammerproblems», bei dem ein LLM ausser Kontrolle gerät und unerwarteten Unfug anrichtet. Nicht Skynet , das Atomwaffen abfeuert. Das sollte Anlass zu Besorgnis und Regulierung geben – nicht zu Bunkern.
Zweitens liegt es im Interesse von KI-Unternehmen, ihre neuen Modelle als allmächtig anzupreisen. Anthropic und OpenAI streben einen Börsengang an, während sie riesige Geldsummen verbrennen, um den Ausbau der Rechenzentren zu finanzieren, den LLM der nächsten Generation erfordern. Unterdessen wächst landesweit der Widerstand gegen Rechenzentren.
Für KI-Unternehmen ist es geschäftlich sinnvoll, erstens im Vorfeld eines möglichen IPO-Rausches Begeisterung für ihre Produkte zu wecken und zweitens eine Verlangsamung der Entwicklung zu fördern, da sie bei der Finanzierung und dem Bau von Rechenzentren mit erheblichen Engpässen konfrontiert sind. Die historische Bilanz von Technologiepaniken ist nicht gerade ermutigend. Wütende Scharen von Schreibern zerstörten frühe Druckpressen, angefeuert von der Angst vor dem Verlust ihres Arbeitsplatzes.
Zeitungen berichteten einst über die Gefahren von Radiosendungen für Kinder, weil es für gefährlich sei, «für immer im Jazz-Rhythmus wach gehalten zu werden». Das Fernsehen sollte unser Gehirn verrotten lassen. Fast jede grosse Innovation geht mit einer grossen Panik einher. Und ganz wie ihre technologischen Vorläufer gibt auch die KI Anlass zur Sorge.
Sie wird wahrscheinlich die transformativste Technologie unserer Zeit sein. Sie wird unvorhersehbare Probleme verursachen. Sie sollte jedoch keine Panik auslösen. Infolgedessen ist die Rhetorik der KI-Führungskräfte übertrieben – in manchen Fällen unbewusst, in anderen strategisch –, auch wenn die zugrundeliegenden Risiken real sind.
Deshalb ist es unerlässlich, dass wir ein kohärentes internationales System zur Regulierung der KI entwickeln, so etwas wie eine globale Zentralbank: eine unabhängige Organisation, die darauf ausgelegt ist, die systemischen Risiken der KI zu bekämpfen, so, wie es Zentralbanken für das Finanzsystem tun. Doch es gibt zwei Hindernisse: Trump und China. In einem kürzlich auf Truth Social veröffentlichten Beitrag zu diesem Thema behauptete Trump, dass «KI lediglich einen STARKEN UND KLUGEN Präsidenten» brauche, und prangerte die «KRANKE Verschwörung gegen KI und Rechenzentren» an. Er fuhr fort, zu behaupten, dass Vorschläge von «Verschwörungstheoretikern, Verrätern und Informanten» zur Regulierung von KI China begünstigten – in einer Dynamik, in der «WER AUCH IMMER BEI DER KI GEWINNT, GEWINNT! » Abgesehen vom übermässigen Gebrauch von Grossbuchstaben ist dies eine treffende Zusammenfassung des Ansatzes der Trump-Regierung zur KI-Entwicklung: unerbittlich voranzuschreiten, ohne ernsthafte regulatorische Belastungen, um China zu schlagen.
Darüber hinaus zielt das Pax-Silica-Konzept der Regierung darauf ab, sicherzustellen, dass die USA strategische Autonomie über die KI-Lieferkette besitzen – selbst wenn dies bedeutet, jede potenzielle internationale Zusammenarbeit im Bereich der KI zu untergraben.
«Soweit China sich Sorgen um KI macht, dann, wie sie den Einfluss der Kommunistischen Partei auf das Land untergraben könnte. » Unterdessen hat China USA-kritische Äusserungen gemacht , während es gleichzeitig seine Open-Source-Modelle vorantreibt, die angesichts des Fehlens eines «Kill-Switches» in ihrem Betrieb möglicherweise noch grössere Risiken bergen.
Soweit China sich überhaupt Sorgen um KI macht, drehen sie sich nicht um Weltuntergangsszenarien, sondern vielmehr um die Art und Weise, wie die Technologie den Einfluss der Kommunistischen Partei auf das Land untergraben und von ausländischen Gegnern zur Spionage genutzt werden könnte, wie der Leiter des Ministeriums für Staatssicherheit, Chen Yixin, kürzlich in einem Essay schrieb. In einer Welt, in der die Regierungen der USA und Chinas darauf fokussiert sind, die Vorherrschaft im Bereich der KI zu erringen, statt sich vor katastrophalen Folgen zu schützen, gibt es kaum Spielraum für eine bilaterale Vereinbarung über eine Verlangsamung der Forschung – selbst wenn Xi und Trump bei ihrem bevorstehenden Gipfeltreffen über KI diskutieren wollen.
Wir blicken also aufgrund der unregulierten KI-Entwicklung einer gefährlichen Zukunft entgegen: einer Zukunft, die mit Sicherheit Krisen mit sich bringen wird, die von ausser Kontrolle geratenen KI-Agenten und von Akteuren verursacht werden, die KI missbrauchen. Wenn eine dieser Krisen eintritt, wird sie hoffentlich kompetent bewältigt werden und als Katalysator für dringend benötigte Vorschriften und Verhandlungen zwischen den USA und China dienen.
In der Zwischenzeit täten die KI-Untergangspropheten gut daran, vor den vielen realen Bedrohungen zu warnen, die KI mit sich bringt – von Biowaffen bis hin zur Cybersicherheit –, statt zu behaupten, die Apokalypse stehe unmittelbar bevor.ist Gründer und Präsident von Eurasia Group, einem international tätigen Beratungsunternehmen spezialisiert auf geopolitische Risiken. Er hat elf Bücher über globale Angelegenheiten veröffentlicht, darunter die Bestseller «Us vs Them: The Failure of Globalism» und «The Power of Crisis: How Three Threats – And Our Response – Will Change the World».
Switzerland Neuesten Nachrichten, Switzerland Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
CPJ warnt vor Gefahren für Journalisten bei serbischen WahlenDie Pressefreiheitsorganisation CPJ ruft dazu auf, Verletzungen der Pressefreiheit in Serbien vor den Wahlen entgegenzutreten, da Reporter mit Drohungen und Gewalt rechnen müssen. Dies geschieht vor dem Hintergrund anhaltender Massenproteste gegen die Regierung von Präsident Aleksandar Vucic.
Weiterlesen »
Sicherheitswarnung im Wald: Trockenstress erhöht UnfallgefahrExperten von Wald Schweiz warnen vor Gefahren durch dürrere Bäume und mahnen strikte Einhaltung der Forstanweisungen und Wegbeschränkungen.
Weiterlesen »
DEEBOT X12S OmniCyclone: Der Putzroboter, der das Zuhause zum Strahlen brachteTom Wyss berichtet von seiner Erfahrung mit dem neuesten ECOVACS‑Robotermodell, dem DEEBOT X12S OmniCyclone, und zeigt, wie die fortschrittliche Technologie Staub, Kaffeeflecken, Haftstoffe und sogar Hausstaubmilben in allen Bereichen des Wohnraums beseitigt.
Weiterlesen »
Kanton Schwyz: Polizei warnt vor WürgespielenIm Kanton Schwyz sind mehrere Vorfälle mit sogenannten «Choking Challenges» bekannt. Die Kantonspolizei warnt Kinder, Jugendliche und Eltern vor den Gefahren.
Weiterlesen »