Die Grundlage für Künstliche Intelligenz bilden maschinelles Lernen und die Simulation kognitiver Prozesse. Lernende Algorithmen können automatisierte Entscheidungen treffen, indem sie in großen Datenmengen Muster und Gesetzmäßigkeiten erkennen und diese in unbekannten Zusammenhängen anwenden. Doch je komplexer, desto undurchsichtiger. Und: Maschinen sind nicht per se neutral oder objektiv. Algorithmen werden von Menschen geschrieben und mit einer Datenauswahl gefüttert, die nicht immer die Gesamtheit der Gesellschaft abbildet. Das hat Folgen: Algorithmen zur Gesichtserkennung machen bei Gesichtern Schwarzer Menschen etwa deutlich mehr Fehler als bei weißen. Der Grund: Die Trainings-Daten wurden meist mit mehr weißen als Schwarzen Gesichtern gespeist.

Neue Regeln für Künstliche Intelligenz

Wie können wir das künftig verbessern und KI mehr vertrauen? Die EU möchte dafür einen gesetzlichen Rahmen schaffen, gestützt auf ethische Prinzipien: KI soll unsere menschliche Autonomie respektieren, sprich uns weiterhin selbstbestimmt handeln lassen, keinen Schaden verursachen, fair und erklärbar sein. Vergangenes Jahr hat die EU-Kommission eine Verordnung für Künstliche Intelligenz (Artificial Intelligence Act) vorgeschlagen: Es geht darin um Auflagen für KI-Systeme je nach ihrem Risiko für Sicherheit, Gesundheit und Grundrechte. Anders als bei einfachen und weniger riskanten KI-Systemen wie Chatbots soll die Zulassung von Hochrisiko-Systemen wie biometrischer Identifikation streng geregelt werden. Ist das Risiko aus ethischer und rechtlicher Sicht zu hoch, sollen Anwendungen verboten werden.

Ein europäisches Gesetz sei notwendig und könnte weltweit als Vorbild dienen, sagt Bernd Beckert, Leiter der KI-Gruppe am Fraunhofer-Institut für System- und Innovationsforschung. Denn es kann helfen, unser Vertrauen in KI zu stärken: „Verlässliche Zertifikate und Gütesiegel sind ein wichtiger Schritt, um Ängste abzubauen.“ Schon jetzt ist KI in unserem Alltag präsent. „Sie wird in Zukunft noch wichtiger. Wir müssen uns damit auseinandersetzen, wie wir sie gestalten wollen.“