🪞 𝐋𝐞𝐬 𝐦𝐢𝐫𝐨𝐢𝐫𝐬 𝐬𝐨𝐧𝐭 𝐜𝐨𝐦𝐦𝐞 𝐥𝐞𝐬 𝐞́𝐜𝐫𝐚𝐧𝐬. 𝐈𝐥𝐬 𝐭𝐞 𝐦𝐨𝐧𝐭𝐫𝐞𝐧𝐭, 𝐦𝐚𝐢𝐬 𝐢𝐥𝐬 𝐧𝐞 𝐭𝐞 𝐜𝐨𝐦𝐩𝐫𝐞𝐧𝐧𝐞𝐧𝐭 𝐩𝐚𝐬 – Jean-Claude Van Damme

Les IA génératives, comme ChatGPT ou d'autres, 𝐧𝐨𝐮𝐬 𝐫𝐞𝐧𝐯𝐨𝐢𝐞𝐧𝐭 𝐮𝐧 𝐥𝐚𝐧𝐠𝐚𝐠𝐞 𝐟𝐥𝐮𝐢𝐝𝐞, 𝐝𝐞𝐬 𝐫𝐞́𝐩𝐨𝐧𝐬𝐞𝐬 𝐜𝐨𝐡𝐞́𝐫𝐞𝐧𝐭𝐞𝐬, 𝐩𝐚𝐫𝐟𝐨𝐢𝐬 𝐛𝐫𝐢𝐥𝐥𝐚𝐧𝐭𝐞𝐬.

Elles semblent nous comprendre. Mais ce n’est qu’une illusion, qu'un 𝐫𝐞𝐟𝐥𝐞𝐭.

Elles improvisent, 𝐞𝐥𝐥𝐞𝐬 𝐬𝐭𝐚𝐭𝐢𝐬𝐭𝐢𝐪𝐮𝐞𝐧𝐭, elles miment…

Mais elles 𝐧𝐞 𝐜𝐨𝐦𝐩𝐫𝐞𝐧𝐧𝐞𝐧𝐭 𝐩𝐚𝐬. Ni vous. Ni vos émotions. Ni même la question du sens.

Pourtant, nous avons un réflexe bien humain : 𝐥’𝐚𝐧𝐭𝐡𝐫𝐨𝐩𝐨𝐦𝐨𝐫𝐩𝐡𝐢𝐬𝐦𝐞.

Quand une machine parle comme nous, on lui prête des intentions, des états d’âme, de l’intelligence… parfois même de l’empathie.

C’est un miroir bien poli. Toujours bienveillant parce que programmé comme cela. 𝐌𝐚𝐢𝐬 𝐜𝐞 𝐧’𝐞𝐬𝐭 𝐩𝐚𝐬 𝐮𝐧𝐞 𝐜𝐨𝐧𝐬𝐜𝐢𝐞𝐧𝐜𝐞.

𝐄𝐭 𝐚𝐮 𝐜œ𝐮𝐫 𝐝𝐞 𝐭𝐨𝐮𝐭 𝐜𝐞𝐥𝐚 ? 𝐔𝐧𝐞 𝐛𝐨𝐢̂𝐭𝐞 𝐧𝐨𝐢𝐫𝐞.

La “boîte noire” de l’IA, c’est cette partie du fonctionnement du modèle que l’on ne peut 𝐧𝐢 𝐨𝐛𝐬𝐞𝐫𝐯𝐞𝐫 𝐝𝐢𝐫𝐞𝐜𝐭𝐞𝐦𝐞𝐧𝐭, 𝐧𝐢 𝐞𝐱𝐩𝐥𝐢𝐪𝐮𝐞𝐫 𝐬𝐢𝐦𝐩𝐥𝐞𝐦𝐞𝐧𝐭.

On sait ou on imagine ce qui entre (les données), on voit ce qui sort (les réponses), mais 𝐞𝐧𝐭𝐫𝐞 𝐥𝐞𝐬 𝐝𝐞𝐮𝐱, il y a une 𝐨𝐩𝐚𝐜𝐢𝐭𝐞́ 𝐚𝐥𝐠𝐨𝐫𝐢𝐭𝐡𝐦𝐢𝐪𝐮𝐞.

Et c’est là qu’intervient une notion clé : 𝐥’𝐞𝐱𝐩𝐥𝐢𝐜𝐚𝐛𝐢𝐥𝐢𝐭𝐞́.

L’explicabilité, 𝐜’𝐞𝐬𝐭 𝐥𝐚 𝐜𝐚𝐩𝐚𝐜𝐢𝐭𝐞́ 𝐚̀ 𝐜𝐨𝐦𝐩𝐫𝐞𝐧𝐝𝐫𝐞, 𝐝𝐨𝐜𝐮𝐦𝐞𝐧𝐭𝐞𝐫, 𝐞𝐱𝐩𝐥𝐢𝐪𝐮𝐞𝐫 𝐥𝐞 𝐫𝐚𝐢𝐬𝐨𝐧𝐧𝐞𝐦𝐞𝐧𝐭 𝐝’𝐮𝐧𝐞 𝐈𝐀.

Cela permet de 𝐠𝐚𝐠𝐧𝐞𝐫 𝐞𝐧 𝐜𝐨𝐧𝐟𝐢𝐚𝐧𝐜𝐞, en 𝐭𝐫𝐚𝐧𝐬𝐩𝐚𝐫𝐞𝐧𝐜𝐞 et en 𝐦𝐚𝐢̂𝐭𝐫𝐢𝐬𝐞 des décisions automatisées.

Dans certains contextes, cette explicabilité est impérative. Elle implique de choisir des IA qui répondent à cette nécessité.

𝐓𝐨𝐮𝐭𝐞𝐬 𝐥𝐞𝐬 𝐈𝐀 𝐧𝐞 𝐬𝐞 𝐯𝐚𝐥𝐞𝐧𝐭 𝐩𝐚𝐬. Certaines sont volontairement opaques. D’autres ont été pensées dès le départ pour être auditées, comprises, contrôlées.

Dans mes missions de conseil en IA, j’insiste toujours sur cette idée :

✅ L’IA est un outil. Pas un être.

✅ Elle est puissante, mais pas magique.

✅ Elle doit être comprise, maîtrisée, intégrée intelligemment.

𝑁𝑒 𝑐𝑜𝑛𝑓𝑜𝑛𝑑𝑜𝑛𝑠 𝑝𝑎𝑠 𝑙𝑒 𝑟𝑒𝑓𝑙𝑒𝑡 𝑎𝑣𝑒𝑐 𝑙𝑎 𝑟𝑒́𝑎𝑙𝑖𝑡𝑒́. 𝑀𝑒̂𝑚𝑒 𝑙𝑒𝑠 𝑚𝑎𝑐ℎ𝑖𝑛𝑒𝑠 𝑏𝑖𝑒𝑛 𝑝𝑟𝑜𝑔𝑟𝑎𝑚𝑚𝑒́𝑒𝑠 𝑝𝑒𝑢𝑣𝑒𝑛𝑡 𝑛𝑜𝑢𝑠 𝑒́𝑔𝑎𝑟𝑒𝑟 𝑠𝑖 𝑛𝑜𝑢𝑠 𝑛𝑒 𝑟𝑒𝑔𝑎𝑟𝑑𝑜𝑛𝑠 𝑝𝑎𝑠 𝑎𝑢 𝑏𝑜𝑛 𝑒𝑛𝑑𝑟𝑜𝑖𝑡.