Mycket bra poäng. Det fick mig att tänk, eftersom machine learning AI enbart mönstermatchar, kan man se det som att den antar att all korrelation är causalitet.
"den" har inget medvetande och antar ingenting, det är bara en statistisk modell. Och precis som alla statistiska modeller behöver inte korrelation och kausalitet höra ihop alls. Det är något människor får undersöka.
Edit: Kom på ett roligt exempel. Någon i tråden nämnde att det är vanligare att folk med låg inkomst röker. Om det stämmer, och vi har med inkomst som input till vår AI som ska identifiera vad som orsakar lungcancer, så kommer den dra slutsatsen att låg inkomst orsakar lungcancer.
En AI drar inga slutsatser om orsakssamband, det kan människor göra utifrån den modell man fått fram.
Om modellen pekar ut låg inkomst så är det ju ett skäl att titta vidare på vad som skiljer den gruppen från andra. Och har man med rökning som en parameter ser man säkert korrelationer med den faktorn och kan logiskt plocka bort "låg inkomst" som är en onödig parameter.