I takt med att AI blir allt hetare beskrivs den typen av lösningar ofta som magiska svarta lådor som ger efterlängtade svar på svåra frågor. Och så kan det naturligtvis vara.

Men de gamla visdomsorden ”skit in, skit ut” gäller förstås även för AI-lösningar, och inte bara för mer traditionella applikationer. ”Skit in” syftar förstås på indata till en applikation.

Läs också: Det här är AI och så funkar det

Det är en av slutsatserna i en rapport som publicerats av det brittiska parlamentet. Rapporten handlar om användningen av algoritmer för beslutsfattande. Titeln på engelska lyder ”Algorithms in decision-making”.

I ett avsnitt i rapporten som behandlar partiskhet tas de här sakerna upp. Det är självklart att de data som används i en lösning påverkar resultatet. Det gäller till exempel för de träningsdata som behövs till en modell för maskininlärning.

Men om en AI-lösning införs för att effektivisera en process, och kanske till och med för att eliminera mänsklig personal, så kanske det inte läggs ned tid på att få fram så bra data som möjligt eller på att kontrollera de data som används.

Läs också: AI-explosion i Sverige – staten pumpar in pengar i hundratals projekt

I rapporten påpekas det att ett sätt att förbättra datakvalitet är att offentliga organisationer anstränger sig för att göra högkvalitativa data tillgängliga. Ett annat förslag som framförs är att den brittiska regeringen ska publicera en lista över vilka algoritmer som används. Även samordning av algoritmbyggande ses som positivt.

Beskrivningarna och slutsatserna i rapporten gäller garanterat även för Sverige och resten av världen. Mängden data som används för AI-lösningar ökar stadigt.