IA générative, hallucinations, et erreurs

Que se passe-t-il lorsqu'un système d'IA produit une sortie (output) erronée, trompeuse, ou encore manifestement absurde ? 

Dans le domaine de l'IA générative, ce phénomène est couramment désigné par l'expression consacrée – bien que pour le moins controversée – d' « hallucination ». Les diverses taxonomies techniques, de même que de nombreuses analyses philosophiques de ce phénomène tendent in fine à présenter les hallucinations des systèmes d'IA comme des sortes d' « erreurs » qui seraient commises par la machine. Je soutiendrai que cette caractérisation, si elle est prise au sérieux, n'est pas anodine. Je tenterai de montrer qu'attribuer à une machine la capacité de commettre des erreurs invite en effet à lui attribuer une forme d'agentivité, de compétence, et ce faisant de responsabilité pour l'action réalisée. 

La présentation examinera ainsi quelques implications découlant de la caractérisation des sorties défectueuses des systèmes d'IA comme des « erreurs », et esquissera quelques pistes de réflexion sur les difficultés qu'elle soulève.