Die Macher von Systemen mit Künstlicher Intelligenz preisen die Technik als grosse Hilfe an. Was passiert aber, wenn der KI-Helfer sich nicht an die Regeln hält, sondern täuscht und manipuliert?
Die Macher von Systemen mit Künstlicher Intelligenz preisen die Technik als grosse Hilfe an. Was passiert aber, wenn der KI-Helfer sich nicht an die Regeln hält, sondern täuscht und manipuliert?Obwohl sie darauf trainiert sind, hilfreich und ehrlich zu sein, können Systeme mit Künstlicher Intelligenz Menschen täuschen.
«Wir fanden heraus, dass die KI von Meta gelernt hatte, ein Meister der Täuschung zu sein», sagte Hauptautor Peter S. Park, ein Postdoktorand am MIT. Meta habe es zwar geschafft, seine KI so zu trainieren, dass sie im Diplomacy-Spiel überdurchschnittlich häufig gewinnt. So habe Cicero zu den besten 10 Prozent der Spieler gehört, die mehr als ein Spiel gespielt hatten. «Es gelang Meta aber nicht, seine KI so zu trainieren, dass sie ehrlich gewinnen konnte.
«Wenn KI die Fähigkeit zur Täuschung erlernt, kann sie von böswilligen Akteuren, die absichtlich Schaden anrichten wollen, effizienter eingesetzt werden», schreiben die Autoren der Übersichtsstudie. Die Täuschungen mithilfe von KI könne zu einem Anstieg des Betrugs führen. So könnte der Betrug auf bestimmte Ziele individuell angepasst werden. Ausserdem könnten die Betrugsversuche massenhaft gestartet werden.
Switzerland Neuesten Nachrichten, Switzerland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Künstliche Intelligenz kann laut Studie lügen und betrügenDie Macher von Systemen mit Künstlicher Intelligenz preisen die Technik als grosse Hilfe an. Was passiert aber, wenn der KI-Helfer sich nicht an die Regeln hält, sondern täuscht und manipuliert?
Weiterlesen »
Künstliche Intelligenz: 100 Milliarden Dollar für die KI-EvolutionGoogle, Meta und Microsoft geben Unsummen für die künstliche Intelligenz aus. So wollen sie ihre Vormachtstellung sichern. Wieso das bei den Aktionärinnen und Aktionären nicht nur gut ankommt.
Weiterlesen »
Chipkonzern TSMC profitiert von KI-BoomDie Nachfrage nach Halbleitern für Künstliche Intelligenz (KI) hat das Geschäft des taiwanischen Chipherstellers TSMC angekurbelt.
Weiterlesen »
Künstliche Intelligenz bedroht MusikindustrieCoole Songtexte, poppiger Sound: Programme, die mit künstlicher Intelligenz arbeiten, können inzwischen ganze Musikstücke komponieren. Musikerinnen und Musiker könnten so in Zukunft einen grossen Teil ihrer Einnahmen verlieren.
Weiterlesen »
Künstliche Intelligenz: Nvidias neuer SuperchipDer Chipkonzern lanciert revolutionäres neues Computersystem und optimiert Apples Vision Pro.
Weiterlesen »
Eine künstliche Intelligenz übersetzt Texte ohne ethischen Kompass: Warum Übersetzen menschlich bleiben mussDie KI versetzt auch die Übersetzerbranche in Aufregung. Doch neben der Technik sollte die Ethik und die gesellschaftspolitische Rolle des Übersetzens nicht vergessen gehen.
Weiterlesen »