#

KI-Fehler,
Collage: Karen Zack/@teenybiscuit

Bildunterschrift

Künstliche Intelligenz soll den menschlichen Irrtum möglichst weitgehend ausschließen. Allerdings arbeitet auch eine KI-Anwendung nicht völlig fehlerfrei. Vor allem Bilderkennungssysteme sind besonders anfällig für Fehler. Das hinter der Bildererkennung steckende neuronale Netz ist schließlich immer nur so gut wie seine Trainingsdaten.

Dass sich diese Algorithmen auch leicht austricksen lassen, zeigt das Internet-Meme Chihuahua oder Muffin?, in dem ähnlich aussehende Inhalte, die jeder Mensch sofort korrekt erkennen würde, den meisten Softwares große Probleme bereiten. Viele solcher Fehler sind durchaus humorvoll. Andere können zu schwerwiegenden Folgen führen, beispielsweise in Anwendungen für autonome Fahrzeuge, die eine Verkehrssituation falsch einschätzen. Es reicht bereits ein Sticker oder Graffiti auf einem Verkehrszeichen, um eine korrekte Bilderkennung zu erschweren. Diese Schwachstellen müssen behoben werden, um den Traum von einer Technik, die dem Menschen im Denken ebenbürtig oder gar überlegen ist, zu verwirklichen.

Dank an Horst Bischof am Institut für Maschinelles Sehen und Darstellen/TU Graz