Les limites de l’IA (intelligence artificielle)
Par genevieve-b. vendredi 4 octobre 2024, 11:06. à débattre intelligence artificielle | Lien permanent.
Le vivant ne se met pas en équation parce qu’il évolue sans cesse.
Pour aller vers une civilisation plus respectueuse du vivant, nous avons besoin d'outils permettant d'aborder la complexité du monde.
L’IA fait cette promesse … mais une promesse qui a ses limites !
Le constat désormais reconnu
L’IA utilise des algorithmes, qui ont été conçus par des Hommes à partir de leur perception d’une certaine réalité. Mais, leur perception est marquée par leur vécu, c’est ce que l’on appelle les biais cognitifs. De plus, en construisant les algorithmes, ils peuvent se tromper.
Quant aux données, elles ne donnent que ce qu’elles savent du passé. La machine n’a pas d’avis sur la qualité des données et encore moins sur la pertinence de celles qui lui sont soumises. Elle est incapable de signaler des manques de données… Ce que savent faire les chercheurs.
Par ailleurs, pour faire fonctionner une IA, il faut lui soumettre un prompt. Si cette tâche devient un nouveau métier, c’est qu’il est assez difficile de poser correctement une question à une IA au regard de l’usage qui va être fait de la réponse.
Au final, l’IA est un outil statistique qui écrase les extrêmes.
Les Tesla sont conçues par une entreprise qui est en réalité d’avantage un éditeur de logiciel qu’un constructeur automobile.
Ses véhicules apprennent à se comporter en agrégeant les comportements des conducteurs. S’ils se laissent aller, le système se met à accepter ce laisser-aller.
Les traducteurs automatiques ont appris à traduire grâce aux textes diffusés en 24 langues à la commission européenne ainsi qu’avec les livres traduits dans diverses langues.
Un idiome est une façon de penser. Les traducteurs professionnels avouent qu’il n’est pas toujours possible de traduire les subtilités. La limite se situe donc dans les détails. Or, c’est dans les détails que germent les embrouilles…
Ces critiques sont désormais connues. Elles contribuent à l’effet de « desengouement » actuel qui fait suite à la montée en puissance rapide qu’a connue CHAT GPT, puis ses concurrents.
Cette dynamique avait été créée par les éditeurs qui avaient besoin de tests massifs. Mais lorsque les Européens ont commencé à comprendre qu’ils contribuaient à mettre au point les IA made in USA, ils ont commencé à regarder de plus près les résultats.
Les réels besoins et bons usages
Un autre grief, et pas des moindres, est que l’IA est incapable de prendre en compte les capacités d’adaptation du vivant. Or, elles sont immenses.
De ce fait, le bon usage de l’IA se restreint à des champs d’application précis.
Elle peut aborder le moyen et le long terme, sur des sujets qui s’inscrivent eux-mêmes dans le très long terme comme par exemple ce qui touche au minéral.
Inversement, elle est très efficace sur des sujets précis pour lesquels de nombreuses données sont disponibles. Par exemple dans l’interprétation de scanners médicaux.
Cela peut sembler décevant au regard des besoins que nous avons pour rendre nos relations avec la nature plus efficace ou pour disposer d’institutions plus démocratiques et justes.
À chaque grande étape de son évolution, l’Homme a été confronté à des problèmes nouveaux et a fini par y trouver des réponses. Mais ces réponses n’ont qu’un temps. Il faut donc les revoir périodiquement.
Le déploiement de l’IA nous permet de franchir une étape dans la rationalisation de certains de nos besoins. Mais déjà, d’autres approches de la complexité vont devoir être prises en compte …
Par exemple, en explorant la manière de traiter les environnements flous puisque nos modes de pensés résultent de processus flous (c’est ce qui nous rend créatifs !).
Le numérique a envahi nos vies. Nous l’avons accepté avec l’espoir d’avoir un modèle de société plus confortable tout en étant plus loyal. En réalité, le numérique ne fait que décupler le potentiel des Hommes en matière de brassages des données utilisées comme aide à la décision. Les malveillances deviennent terribles et inversement.
L’Homme doit demeurer responsable de ses gestes et de ses décisions. Qu’il ait utilisé ou pas du numérique pour agir.
La confiance n’exclus pas le contrôle. Le recours à l’IA nécessite tout de même des vérifications et des raisonnements éthiques.
Vers de « nouveaux terrils » … de corps humains ?
Open IA vient de lever 6,6 milliards de $ et se valorise à 157 milliards de $ (PIB de la France : 3 000 milliards de $ et celui de l’Union Européenne 18 500 milliards de $) … Le désir de prédation n’a pas de limite !
Il semblerait tout de même que le « goinfre numérique » amalgamé dans les GAFAM ait actuellement le vertige à propos du modèle de société qui découle de ces « innovations ». Que devient l’Homme ? Une victime bedonnante assujettie à son téléphone et en lutte permanente contre son corps ?
C’est ainsi que l’on voit ressortir les études sur le revenu universel comme cela avait été fait avec l’émergence du Trans-humanisme …
Le vrai débat en Europe doit être celui de la souveraineté numérique : données, machines, réseaux, et savoir-faire. L’Europe doit demeurer un espace de progrès en qualité de vivre ensemble est non un laboratoire de machines intrusives ni de systèmes autoritaires.
L’Europe doit avoir sa propre vision de l’IA et la maîtriser. Fini le sauve qui peut numérique au niveau national.