Calling Bullshit 5.5: Criminal Machine Learning

Summary

Cette vidéo illustre les dangers de la surestimation des algorithmes de machine learning, en prenant l'exemple d'une étude controversée qui prétend détecter la criminalité à partir de photos de visages. L'instructeur explique comment ce type de modèle est biaisé, car les données utilisées proviennent d'humains, avec leurs propres préjugés. Il met en évidence que les caractéristiques du visage supposées être liées à la criminalité sont en réalité des expressions faciales, comme le sourire ou le froncement, et non des traits intrinsèques. Cette histoire démontre le concept de l'« hubris du big data ».

Takeaways

• 🤖 Les chercheurs ont développé un algorithme prétendant détecter la criminalité à partir de photos de visage.
• 😨 Cette idée rappelle des concepts dystopiques comme dans *Minority Report*.
• 🕵️‍♂️ Cette approche n'est pas nouvelle : elle renvoie aux théories du criminologue Cesare Lombroso, qui a essayé de lier traits physiques et moralité au 19e siècle.
• ❌ Les théories de Lombroso ont été discréditées et considérées comme racistes.
• 💻 Les chercheurs pensent que l'intelligence artificielle pourrait surmonter les limites humaines dans la détection des criminels.
• 🧐 Cependant, l'algorithme repose sur des données humaines biaisées, ce qui conduit à des résultats tout aussi biaisés.
• 📸 Les photos des « non-criminels » sont souvent des portraits avantageux, tandis que celles des criminels sont plus formelles ou institutionnelles.
• 👩‍⚖️ L'apparence influence les décisions de justice, les personnes moins attirantes ayant plus de chances d'être condamnées.
• 😀 L'algorithme semble plus détecter les sourires ou expressions faciales que la criminalité réelle.
• 💡 En conclusion, ce projet est un exemple de surconfiance dans les données massives sans tenir compte des biais humains.