Det finns en risk med att låta neurala nätverk fatta beslut på egen hand, särskilt när liv står på spel. Även om man kan uppnå en träffsäkerhet på 99 procent är det inte tillräckligt högt när det till exempel gäller medicinska diagnoser eller självkörande bilar.
Därför har forskare på MIT och Harvard University nu tagit fram en ny metod kallad Deep evidential regression som ska minska riskerna med neurala nätverk ytterligare ett snäpp.
En detaljerad beskrivning av hur metoden fungerar finns att läsa på MIT News, men i korthet handlar det om att slå fast en modells konfidensnivå baserat på kvaliteten på tillgänglig data. Om det finns minsta osäkerhet i resultatet tillämpas försiktighetsprincipen, vilket kan illustreras med att en självkörande bil stannar i en korsning i stället för att riskera en krock med ett annat fordon.
I vissa fall kan det även bli aktuellt att låta människor fatta det avgörande beslutet i osäkra situationer, till exempel om det handlar om en medicinsk diagnos.
