Absence de contrôle de la qualité et des données

➰ Ce qui sort du tuyau est d’abord rentré…

Ce qui sort de l’IA générative est aussi bon, ou mauvais, que la matière qu’elle utilise. Si on rentre une information fausse, elle ressortira fausse. « Garbage in, garbage out ».

🦜 Un perroquet sans esprit critique

L’IA générative est une formidable machine de retraitement. Elle utilise une bibliothèque qui aurait peut-être occupé jadis la surface d’un pays grand comme la France. Mais beaucoup de ses rayons lui sont méconnus : elle s’y est peu ou pas assez entrainée (le machine learning). Elle se garde de vous le dire. L’IA générative met en forme ce qu’elle a lu, sa plume est parfois belle mais elle n’a pas de sens critique.

🛑 La forme occulte le fond

Quelle capacité d’écriture ! On est tous bluffé. Derrière une écriture qui conjugue l’érudition, la fluidité et l’apparence de pensée structurée, l’IA produit et peut asséner des vérités qui n’en sont pas.

Où sont les piliers éthiques et moraux de l’IA générative ?

⚫ Une boite noire

On ne sait pas comment est fabriqué le contenu de l’IA générative. Pourtant, l’IA générative est le travailleur dissimulé, non déclaré, de nombreux élèves et collaborateurs dans le monde. L’école devrait apprendre à apprendre. On laisse le joujou à nos enfants sans ciller ? A nos stagiaires appelés à devenir dirigeants ?

👽 Le corps social ignoré

La machine est fantastique, c’est pour cela qu’elle est tellement séduisante. Elle écrit mieux que les élèves de lycées des années 80 par exemple. Il lui manque la capacité de prendre en compte son auditoire, ses lecteurs, le corps social auquel il est destiné. L’IA générative fabrique du contenu sans se soucier des conséquences sur les valeurs de ses lecteurs. A l'inverse, elle peut devenir totalement conformiste, politiquement correcte, sans saveur et sans conviction.

🧠 A qui revient la propriété intellectuelle ?

L’IA générative fait du vol à la tire dans l’impunité. Pourquoi s’en soucier puisqu’on l’a craint la même chose sur la musique et, finalement, le streaming payant a offert la planche de salut qu’il fallait aux auteurs ? Admettons.

Avec l’IA générative, toutes les connaissances du monde sont piochées gratuitement dans tous les domaines, nuit et jour, un holdup permanent. Comment faire devant ces défis d’une taille incomparable à celui de la musique ?

Des défis techniques et des problèmes multiples

🤑 Il faut être riche pour développer une IA générative

Sam Altman, ex-CEO redevenu CEO d’OPEN AI en cinq jours, l’a dit : cela coûte au moins 100 millions de dollars pour entrainer GPT-4. Le modèle du gratuit profite aux riches. Google, qui a inventé l’accès internet à grande échelle, est devenu un monopole. Ultra profitable et incontournable.

⚛ Un modèle scientifique qui ignore le doute

A l’origine de la science, le doute. C’est l’essence du travail scientifique. Pour le moment, on n’a pas été informé d’une remise en cause par ChatGPT d’un de ses contenus. Pourtant, il s’est trompé, un peu, beaucoup, exagérément.

⚡Energivore

Internet double sa consommation mondiale d’électricité tous les 4 ans. L’IA ne va pas arranger la perspective.

Références : The Visual capitalist, Wred, Lingano, Roost.ai, Forbes, Pr Newswire, PC magazine 

Article rédigé par H24 Finance. Tous droits réservés