Facebook håller på att ta fram nya metoder för att identifiera och förhindra skadligt beteende på sin sajt, så som nätfiske, spam och handel med vapen och droger. Detta genom att AI-verktyg tränas upp med hjälp av simulerade användare på en parallell version av Facebook, rapporterar The Verge.

Simuleringen som är baserad på Facebooks riktiga kodvas kallas för WW och använder sig av "onda" och "goda" bottar som söker igenom nätverket och där de onda bottarna försökte påverka de goda. Facebooks utvecklare försöker därefter hitta på olika sätt för att stoppa dem. Exempelvis genom att begränsa antalet meddelanden eller inlägg som en bott kan göra per minut.

Simuleringen begränsas dock av att den inte kan avgöra uppståtet bakom en användares agerande eller identifiera andra komplexa beteenden.

I en kommentar till The Verge säger forskningsprojektets ledare, Mark Harman, att teamet redan kunnat identifiera en hel del oväntade beteenden från bottarna. Exakt vad vill han dock inte gå in på eftersom informationen skulle kunna användas av riktiga skadliga användare på Facebook.

Läs också: Så fungerar maskininlärning och djupinlärning - och det är skillnaden mellan teknikerna