L'explicabilité de l'IA opaque comme moment dans l'histoire de la bureaucratie : sur la dépersonnalisation sans formalisation de la décision

Résumé de l'intervention :

L'algorithmisation de la décision, et en particulier l'algorithmisation menée par des systèmes d'IA, doivent être comprises comme des moments dans l'histoire longue de la décision bureaucratique et de ses liens avec les techniques cognitives. L'informatique, comprise comme technique cognitive globale affectant la communication, l'archivage et le raisonnement, bouleverse les pratiques bureaucratiques en même temps qu'elle hérite des propriétés et représentations des institutions gourmandes de ces techniques. Si ces évolutions se lisent à de multiples niveaux, elles sont particulièrement sensibles dans les processus d'automatisation partielle ou complète des prises de décision bureaucratiques par des algorithmes. En particulier, les problèmes récents autour de l'explicabilité des décisions prises par des IAs opaques doivent être plongés dans le contexte de ces évolutions bureaucratiques, pour comprendre comment l'emploi de ces dispositifs prolonge certaines tendances anciennes de la bureaucratie, notamment la dépersonnalisation de la prise de décision, en même temps qu'elle provoque une rupture par rapport à l'état des pratiques, notamment en ne fournissant pas de formalisation des critères guidant une décision. Nous tâcherons de montrer comment cette conceptualisation de la dépersonnalisation sans formalisation permet d'illuminer les enjeux pratiques autant qu'épistémiques de l'explicabilité de l'IA.

Exposé liminaire de 30 à 45 m, suivi d’une discussion avec les participant.es. Le séminaire constitue un espace de travail, l’objectif est de mettre collectivement en travail des hypothèses, plutôt que d’exposer des résultats.