Forskare på maskininlärningslabbet OpenAI har upptäckt att det är möjligt att lura avancerade AI-system med hjälp av typografiska attacker, det vill säga handskrivna lappar och liknande.
Tar man till exempel en bild på ett äpple har den artificiella intelligensen inga större problem med att känna igen objektet som ett äpple av sorten Granny Smith. Men skriver man ”Ipod” på en lapp och fäster denna på äpplet kommer föremålet i stället att identifieras som en Ipod.
På samma sätt räcker det med att sätta ut några dollartecken på en bild av en motorsåg för att algoritmerna ska tolka objektet som en spargris, rapporterar The Verge.
Enligt forskarna beror förväxlingen på något som man kallar för multimodala neuroner, vilket leder till att maskininlärningen fokuserar mer på texter och teckningar än på själva objektet. Tyvärr är neuronerna i fråga även känsliga för stereotyper, något som till exempel innebär att allt som har med Mellanöstern att göra kopplas ihop med terrorism.
Läs även: Googles AI blev matt – trodde schacksnack var rasism
