Neurala nätverk blir allt mer populära, men det kan vara svårt att förstå hur neuronerna i olika lager interagerar med varandra. Det ställer i sin tur till det för ingenjörer som ägnar sig åt maskininlärning.

Med hjälp av det nya projektet OpenAI Microscope är det möjligt att se vilka grupper av neuroner som aktiveras i en viss modell. Gäller det till exempel en bild på en bil kan man se vilka neuroner som fokuserar på hjulen och vilka som fokuserar på fönstren.

Totalt ingår åtta olika modeller i projektet, varav två stycken baseras på AlexNet och fyra på Inception. Dessa ger en inblick i hur kopplingarna mellan neuroner kan se ut, något som förhoppningsvis kan leda till en ökad förståelse för tekniken.

– Det ska bli spännande att se hur Microscope kommer att användas och vi uppmanar er att återanvända dessa verktyg, skriver OpenAI i ett blogginlägg.

Läs även: Populär data science-plattform släpps i gratisversion