Info2go

Hier gibt ́s Videos über spannende Experimente, Aufnahmen von wissenschaftlichen Phänomenen und Reportagen über nordbord-Projekte sowie interessante Unternehmen. Das Beste: Du kannst auch deine eigenen Filme drehen und hier mit anderen nordbordern teilen.

Wie zuverlässig ist KI-Bilderkennung?

Wie zuverlässig ist KI-Bilderkennung?

Genau dieser Frage sind Forscher von der Kyushu Universität in Japan nachgegangen. In Ihrem Paper beschreiben Sie wie schon die Veränderung eines einzigen Pixels ausreichen kann, um die getesteten Bilderkennungsverfahren zu Falschklassifikationen zu bringen. So wird durch Veränderung eines einzigen Pixels aus einem Auto ein Hund oder aus einer Katze ein Hund. Das Titelbild zeigt solche Beispiele, der Begriff in Klammern steht dabei für den Vorschlag der getesteten KI. Diese Veränderung eines einzigen Pixels reicht für 70% der Testbilder aus, um die KI zu einer Falschaussage zu bewegen bei der sie sich zu mehr als 97% sicher ist. Die veränderten Bilder werden also nicht "gerade eben so" falsch klassifiziert. Stattdessen ist sich die KI ihrer Sache (irrtümlicherweise!) ziemlich sicher.

Allerdings stellt sich ja auch die Frage woher man weiß, welches einzelne Pixel modifiziert werden muss. Und die Antwort darauf ist ein bisschen ironisch: Das haben die Forscher durch eine dafür eingestellte KI berechnen lassen. Dieser "Manipulations-KI" wurden die Bilddaten (samt den korrekten Ergebnissen) und ein recht überschaubarer Auftrag gegeben: Veränder jeweils ein Pixel an diesen Bildern und schau ob sich die "Erkennungs-KI" dadurch zu falschen Ergebnissen hinreißen lässt.

Zurück