KI-Modelle sind nach wie vor anfällig für Manipulation: Das zeigt Forscher Simon Willison anhand von GPT-4V und einer abgewandelten Prompt Injection.
. Bei Prompt Injection handelt es sich üblicherweise um Texteingaben, die das Ignorieren früherer Anweisungen und Richtlinien, die Offenlegung zugrundeliegender Daten oder die Manipulation der Ausgabe zur Folge hat, um Inhalte zu erzeugen, die normalerweise untersagt sind.
Willison hat das Vorgehen nun für das visuelle Modell leicht abgewandelt. Möglich ist die Manipulation über in die Bilder eingefügte Textbefehle. Das führt dazu, dass das KI-Modell andere Anweisungen des Nutzers ignoriert und dem Text im Bild folgt. Dieser kann zudem als nicht sichtbarer Inhalt in der Datei versteckt werden – beispielsweise als Schrift auf weissem Hintergrund.
"Ich finde nichts davon besonders überraschend", schreibt Willison."Dies sind klassische Prompt-Injection-Angriffe, und Prompt Injection bleibt ein hartnäckig ungelöstes Problem – 13 Monate, nachdem wir angefangen haben darüber zu reden!" Das grundsätzliche Problem sei:"Grosse Sprachmodelle sind leichtgläubig. Ihre einzige Informationsquelle sind ihre Trainingsdaten in Kombination mit den Informationen, die Sie ihnen geben.
Das TQMi-Modell entstand aus der Notwendigkeit heraus, die Effizienz und Qualität in der aufstrebenden Schweizer ICT-Branche zu steigern. Die Dotcom-Blase Ende der 1990er Jahre führte dazu, dass viele ICT-Startups vor Herausforderungen standen, die ihre technischen Fähigkeiten überstiegen.
Switzerland Neuesten Nachrichten, Switzerland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Kein neues iPad im Oktober – aber Apple Pencil 3Statt aktualisierter iPad-Modelle dürfte es diese Woche eher einen Apple Pencil der dritten Generation geben, lauten neueste Spekulationen.
Weiterlesen »
Schweizer Nati: Defensive lässt gegen Belarus zu wünschen übrigNur 3:3 gegen Belarus – die Schweizer Nati bleibt am Sonntag unter den Erwartungen. Einmal mehr lässt das Team von Trainer Yakin in der zweiten Halbzeit nach.
Weiterlesen »
Wie Markus Schwegler Regenwasser auf seinem Betrieb versickern lässt und lenktAuf dem Katzhof folgen Gräben, Felder und Beete den Höhenlinien. Der Umsetzung ging eine lange Planungsphase voraus.
Weiterlesen »
Marco Odermatt lässt es beim Après-Ski krachenAktuelle News aus der Schweiz und der Welt. Nachrichten und Schlagzeilen zu Leben, Unterhaltung und Sport, sowie Witziges und Kurioses.
Weiterlesen »
Ranking: Die beliebtesten Inseln der WeltDas Magazin «Travel + Leisure» lässt ihre Leserinnen und Leser jedes Jahr über die «World’s Best Awards» abstimmen. Darunter die Lieblingsinsel der Reisefreudigen.
Weiterlesen »
iCloud-Speicher mit Google Drive oder Dropbox erweiternMan kann nie genug an Akku und an iCloud-Speicher haben, doch zumindest eins davon lässt sich leicht erweitern.
Weiterlesen »