Technik

Studie wirft Frage auf: Sind autonome Autos rassistisch?

von
Leonie Butz

US-Forscher haben in einer Studie herausgefunden, dass autonome Autos dunkelhäutige Menschen eher übersehen als hellhäutige.

Ein Zebrastreifen, auf dem Menschen gehen.
In Menschenmassen erkannten autonome Autos dunkelhäutige Menschen seltener als hellhäutige. Sind die Fahrzeuge deshalb rassistisch? Foto: Unsplash / Daryan Shamkhali

Das erfahren Sie gleich:

  • Mit welchen Fragen sich KIs in autonomen Autos beschäftigen müssen
  • Wie bei der Betrachtung jetzt auch Rassismus eine Rolle spielt
  • Warum die Auswahl der Testpersonen einen Einfluss auf dieses Ergebnis haben könnte

Autonome Autos müssen noch viel lernen. Wie sollen sie sich in kritischen Situationen verhalten – das soll die Moral Machine beantworten. Wer soll bei einem Unfall haften – die Unternehmen hinter der autonomen Technik oder die Fahrer? Bei dieser Frage urteilte die US-Staatsanwaltschaft jüngst im Sinne der Hersteller.

Lesen Sie auch

Alternative Antriebstechnologien im Mittelpunkt

Nachhaltigkeit bei Audi

Alternative Antriebstechnologien im Mittelpunkt

Forscher des Georgia Institute of Technology fanden jetzt in der Studie "Predictive Inequity in Object Detection" heraus, dass die Systeme nicht gleichermaßen auf dunkelhäutige und hellhäutige Passanten reagieren.

Sind selbstfahrende Autos rassistisch?

Der Studie zufolge erkannte die Technik Menschen mit heller Hautfarbe häufiger als jene mit dunkler Hautfarbe. Die Abweichung dabei liegt bei fünf Prozent. Dabei sind auch Sicht- oder Lichtverhältnisse irrelevant – die Systeme erkannten dunkelhäutige Menschen grundsätzlich schlechter.

Auf Twitter gibt Kate Crawford, Co-Direktorin des AI Now Research Institute, das an der Studie beteiligt war, deshalb gleich zwei Aspekte zu bedenken. Einerseits kritisiert sie die unzureichende Systemerkennung, die der Technik den Rassismus-Vorwurf überhaupt erst einbrachte. Andererseits weist sie aber auch darauf hin, dass es für die Forschung fatal ist, nur auf veraltete und öffentlich zugängliche Systeme zugreifen zu können.

Technik

Updates abonnieren und Dossier "E-Mobility" gratis erhalten.

Veraltete Systeme und enger Kreis an Testpersonen

Denn die aktuellen Systeme, die die Entwickler von autonomen Autos derzeit testen, halten diese auch vor Forschern und Universitäten geheim. Um jedoch ein realistisches Bild der aktuellen Technik zu erhalten, wären vor allem bei diesen Systemen solche Tests sinnvoll.

Ein weiteres Problem stellen die Informationen dar, die dem System zur Verfügung stehen. Demnach kann eine KI nur lernen, was sie auch sieht – sind jedoch die Testpersonen, die Teams oder die Entwickler fast ausschließlich hellhäutige Männer, fällt es der Technik schwerer, etwa dunkelhäutige Frauen zu erkennen. Um das zu verhindern, so Prof. Kartik Hosanagar für digitale Ökonomie gegenüber Vox.com, ist eine Diversität schon bei den Entwicklern dringend notwendig.

Auch interessant

Diese Website verwendet Cookies, um die Nutzerfreundlichkeit zu verbessern. Durch die weitere Nutzung der Website stimmen Sie dem zu. Um mehr über die von uns verwendeten Cookies zu erfahren und wie man sie deaktiviert, können Sie unsere Cookie-Richtlinie aufrufen.

Schließen