๐Ÿชž ๐‹๐ž๐ฌ ๐ฆ๐ข๐ซ๐จ๐ข๐ซ๐ฌ ๐ฌ๐จ๐ง๐ญ ๐œ๐จ๐ฆ๐ฆ๐ž ๐ฅ๐ž๐ฌ ๐žฬ๐œ๐ซ๐š๐ง๐ฌ. ๐ˆ๐ฅ๐ฌ ๐ญ๐ž ๐ฆ๐จ๐ง๐ญ๐ซ๐ž๐ง๐ญ, ๐ฆ๐š๐ข๐ฌ ๐ข๐ฅ๐ฌ ๐ง๐ž ๐ญ๐ž ๐œ๐จ๐ฆ๐ฉ๐ซ๐ž๐ง๐ง๐ž๐ง๐ญ ๐ฉ๐š๐ฌ โ€“ Jean-Claude Van Damme

Les IA gรฉnรฉratives, comme ChatGPT ou d'autres, ๐ง๐จ๐ฎ๐ฌ ๐ซ๐ž๐ง๐ฏ๐จ๐ข๐ž๐ง๐ญ ๐ฎ๐ง ๐ฅ๐š๐ง๐ ๐š๐ ๐ž ๐Ÿ๐ฅ๐ฎ๐ข๐๐ž, ๐๐ž๐ฌ ๐ซ๐žฬ๐ฉ๐จ๐ง๐ฌ๐ž๐ฌ ๐œ๐จ๐ก๐žฬ๐ซ๐ž๐ง๐ญ๐ž๐ฌ, ๐ฉ๐š๐ซ๐Ÿ๐จ๐ข๐ฌ ๐›๐ซ๐ข๐ฅ๐ฅ๐š๐ง๐ญ๐ž๐ฌ. Elles semblent nous comprendre. Mais ce nโ€™est quโ€™une illusion, qu'un ๐ซ๐ž๐Ÿ๐ฅ๐ž๐ญ...

Nicolas Kennel

5/20/20251 min read

Les IA gรฉnรฉratives, comme ChatGPT ou d'autres, ๐ง๐จ๐ฎ๐ฌ ๐ซ๐ž๐ง๐ฏ๐จ๐ข๐ž๐ง๐ญ ๐ฎ๐ง ๐ฅ๐š๐ง๐ ๐š๐ ๐ž ๐Ÿ๐ฅ๐ฎ๐ข๐๐ž, ๐๐ž๐ฌ ๐ซ๐žฬ๐ฉ๐จ๐ง๐ฌ๐ž๐ฌ ๐œ๐จ๐ก๐žฬ๐ซ๐ž๐ง๐ญ๐ž๐ฌ, ๐ฉ๐š๐ซ๐Ÿ๐จ๐ข๐ฌ ๐›๐ซ๐ข๐ฅ๐ฅ๐š๐ง๐ญ๐ž๐ฌ.

Elles semblent nous comprendre. Mais ce nโ€™est quโ€™une illusion, qu'un ๐ซ๐ž๐Ÿ๐ฅ๐ž๐ญ.

Elles improvisent, ๐ž๐ฅ๐ฅ๐ž๐ฌ ๐ฌ๐ญ๐š๐ญ๐ข๐ฌ๐ญ๐ข๐ช๐ฎ๐ž๐ง๐ญ, elles mimentโ€ฆ

Mais elles ๐ง๐ž ๐œ๐จ๐ฆ๐ฉ๐ซ๐ž๐ง๐ง๐ž๐ง๐ญ ๐ฉ๐š๐ฌ. Ni vous. Ni vos รฉmotions. Ni mรชme la question du sens.

Pourtant, nous avons un rรฉflexe bien humain : ๐ฅโ€™๐š๐ง๐ญ๐ก๐ซ๐จ๐ฉ๐จ๐ฆ๐จ๐ซ๐ฉ๐ก๐ข๐ฌ๐ฆ๐ž.

Quand une machine parle comme nous, on lui prรชte des intentions, des รฉtats dโ€™รขme, de lโ€™intelligenceโ€ฆ parfois mรชme de lโ€™empathie.

Cโ€™est un miroir bien poli. Toujours bienveillant parce que programmรฉ comme cela. ๐Œ๐š๐ข๐ฌ ๐œ๐ž ๐งโ€™๐ž๐ฌ๐ญ ๐ฉ๐š๐ฌ ๐ฎ๐ง๐ž ๐œ๐จ๐ง๐ฌ๐œ๐ข๐ž๐ง๐œ๐ž.

๐„๐ญ ๐š๐ฎ ๐œล“๐ฎ๐ซ ๐๐ž ๐ญ๐จ๐ฎ๐ญ ๐œ๐ž๐ฅ๐š ? ๐”๐ง๐ž ๐›๐จ๐ขฬ‚๐ญ๐ž ๐ง๐จ๐ข๐ซ๐ž.

La โ€œboรฎte noireโ€ de lโ€™IA, cโ€™est cette partie du fonctionnement du modรจle que lโ€™on ne peut ๐ง๐ข ๐จ๐›๐ฌ๐ž๐ซ๐ฏ๐ž๐ซ ๐๐ข๐ซ๐ž๐œ๐ญ๐ž๐ฆ๐ž๐ง๐ญ, ๐ง๐ข ๐ž๐ฑ๐ฉ๐ฅ๐ข๐ช๐ฎ๐ž๐ซ ๐ฌ๐ข๐ฆ๐ฉ๐ฅ๐ž๐ฆ๐ž๐ง๐ญ.

On sait ou on imagine ce qui entre (les donnรฉes), on voit ce qui sort (les rรฉponses), mais ๐ž๐ง๐ญ๐ซ๐ž ๐ฅ๐ž๐ฌ ๐๐ž๐ฎ๐ฑ, il y a une ๐จ๐ฉ๐š๐œ๐ข๐ญ๐žฬ ๐š๐ฅ๐ ๐จ๐ซ๐ข๐ญ๐ก๐ฆ๐ข๐ช๐ฎ๐ž.

Et cโ€™est lร  quโ€™intervient une notion clรฉ : ๐ฅโ€™๐ž๐ฑ๐ฉ๐ฅ๐ข๐œ๐š๐›๐ข๐ฅ๐ข๐ญ๐žฬ.

Lโ€™explicabilitรฉ, ๐œโ€™๐ž๐ฌ๐ญ ๐ฅ๐š ๐œ๐š๐ฉ๐š๐œ๐ข๐ญ๐žฬ ๐šฬ€ ๐œ๐จ๐ฆ๐ฉ๐ซ๐ž๐ง๐๐ซ๐ž, ๐๐จ๐œ๐ฎ๐ฆ๐ž๐ง๐ญ๐ž๐ซ, ๐ž๐ฑ๐ฉ๐ฅ๐ข๐ช๐ฎ๐ž๐ซ ๐ฅ๐ž ๐ซ๐š๐ข๐ฌ๐จ๐ง๐ง๐ž๐ฆ๐ž๐ง๐ญ ๐โ€™๐ฎ๐ง๐ž ๐ˆ๐€.

Cela permet de ๐ ๐š๐ ๐ง๐ž๐ซ ๐ž๐ง ๐œ๐จ๐ง๐Ÿ๐ข๐š๐ง๐œ๐ž, en ๐ญ๐ซ๐š๐ง๐ฌ๐ฉ๐š๐ซ๐ž๐ง๐œ๐ž et en ๐ฆ๐š๐ขฬ‚๐ญ๐ซ๐ข๐ฌ๐ž des dรฉcisions automatisรฉes.

Dans certains contextes, cette explicabilitรฉ est impรฉrative. Elle implique de choisir des IA qui rรฉpondent ร  cette nรฉcessitรฉ.

๐“๐จ๐ฎ๐ญ๐ž๐ฌ ๐ฅ๐ž๐ฌ ๐ˆ๐€ ๐ง๐ž ๐ฌ๐ž ๐ฏ๐š๐ฅ๐ž๐ง๐ญ ๐ฉ๐š๐ฌ. Certaines sont volontairement opaques. Dโ€™autres ont รฉtรฉ pensรฉes dรจs le dรฉpart pour รชtre auditรฉes, comprises, contrรดlรฉes.

Dans mes missions de conseil en IA, jโ€™insiste toujours sur cette idรฉe :

โœ… Lโ€™IA est un outil. Pas un รชtre.

โœ… Elle est puissante, mais pas magique.

โœ… Elle doit รชtre comprise, maรฎtrisรฉe, intรฉgrรฉe intelligemment.

๐‘๐‘’ ๐‘๐‘œ๐‘›๐‘“๐‘œ๐‘›๐‘‘๐‘œ๐‘›๐‘  ๐‘๐‘Ž๐‘  ๐‘™๐‘’ ๐‘Ÿ๐‘’๐‘“๐‘™๐‘’๐‘ก ๐‘Ž๐‘ฃ๐‘’๐‘ ๐‘™๐‘Ž ๐‘Ÿ๐‘’ฬ๐‘Ž๐‘™๐‘–๐‘ก๐‘’ฬ. ๐‘€๐‘’ฬ‚๐‘š๐‘’ ๐‘™๐‘’๐‘  ๐‘š๐‘Ž๐‘โ„Ž๐‘–๐‘›๐‘’๐‘  ๐‘๐‘–๐‘’๐‘› ๐‘๐‘Ÿ๐‘œ๐‘”๐‘Ÿ๐‘Ž๐‘š๐‘š๐‘’ฬ๐‘’๐‘  ๐‘๐‘’๐‘ข๐‘ฃ๐‘’๐‘›๐‘ก ๐‘›๐‘œ๐‘ข๐‘  ๐‘’ฬ๐‘”๐‘Ž๐‘Ÿ๐‘’๐‘Ÿ ๐‘ ๐‘– ๐‘›๐‘œ๐‘ข๐‘  ๐‘›๐‘’ ๐‘Ÿ๐‘’๐‘”๐‘Ž๐‘Ÿ๐‘‘๐‘œ๐‘›๐‘  ๐‘๐‘Ž๐‘  ๐‘Ž๐‘ข ๐‘๐‘œ๐‘› ๐‘’๐‘›๐‘‘๐‘Ÿ๐‘œ๐‘–๐‘ก.