Wenn jemand Bilder auf Instagram hochlädt, prüfen Algorithmen, ob die abgebildeten Szenen zu anzüglich sind. Wie Recherchen zeigen, werden dabei Frauen systematisch benachteiligt. künstlicheintelligenz
Der Test gibt Hinweise auf einen sogenannten «Gender Bias». Das ist eine Verzerrung auf Basis des Geschlechts. Beim Bild einer lesenden Frau auf einem Sofa beispielsweise kommt Googles Algorithmus zu der Einschätzung: «sehr wahrscheinlich anzüglich». Eine Person mit Kompressen auf der Brust, offenbar nach einer Operation: Auch hier meint Google, es handle sich um ein freizügiges Bild.
Alle Anbieter verweisen auf Anfrage darauf, dass sie lediglich Wahrscheinlichkeiten berechnen. Die Kunden, etwa Social Media, müssten eigenverantwortlich festlegen, welche Grenzwerte für sie angemessen sind und zum Einsatzbereich passen. Was also mit den Bewertungen der einzelnen Bilder passiert, müssen Kunden selbst entscheiden.Kommt es zu einer Verzerrung auf Basis des Geschlechts, kann das Folgen haben.
Gleichzeitig zeigen Untersuchungen, dass Instagram in manchen Fällen Bilder bevorzugt, auf denen Männer wie Frauen Haut zeigen. Für Nutzerinnen und Nutzer ist es demnach mehrfach intransparent, welcher Content veröffentlicht wird und welcher nicht: Die Hersteller dieser Filtersysteme geben nur wenige Informationen, wie diese technisch funktionieren. Und die sozialen Plattformen verweisen vor allem auf ihre sehr allgemeinen Regeln..
Birhane befürchtet: «Im schlimmsten Fall – und das ist der Fall, wenn die Modelle nicht sorgfältig erstellt werden – endet man damit, dass man Stereotypen automatisiert und Modelle erstellt, die weit von der Realität entfernt und damit letztendlich schädlich sind.» Gesellschaftliche Stereotype landen somit in den Trainingsdaten – und den Algorithmen.
Auch hier war das Training der KI das Problem. «ChatGPT verhält sich sexistisch, weil die Texte, mit denen er trainiert wurde, sexistisch sind. Diese wiederum bilden unsere Gesellschaft ab», wird die KI-Expertin Afke Schouten im zitiert. Die KI lerne aus Büchern, Artikeln und Internetseiten.
Switzerland Neuesten Nachrichten, Switzerland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Bündner Braunviehtag: Die Bilder - Schweizer BauerAm vergangenen Samstag fand in Cazis GR die 22. Ausgabe des Bündner Braunviehtages statt. Die hervorragenden Kühe lockten viel Publikum an. Mehr Bilder findet Ihr hier An der 22. Ausgabe des Bündner Braunviehtages haben sich die Züchter auf höchstem Niveau mit ihren Kollegen der Zuchtgruppe gemessen und ihre bestens hergerichteten Kühe einem grossen Publikum präsentieren. […]
Weiterlesen »
Radbahn-EM in Grenchen - Frauen-Vierer überzeugt – Enttäuschung für die MännerDer Schweizer Bahnvierer der Frauen übertraf am Eröffnungstag der Heim-EM in Grenchen die Erwartungen. srfrad
Weiterlesen »
Fünfländerturnier vor WM - Eishockeyanerinnen unterliegen in Füssen Finnland klarDer Auftakt zum Fünfländerturnier gegen die Finninnen missglückte der Equipe von Coach Colin Muller am Mittwochabend. srfhockey
Weiterlesen »