Nous passons des heures interminables à débattre pour savoir si l’IA finira par surpasser l’humanité, nous dépasser, remplacer la main-d’œuvre ou déclencher une crise existentielle. Mais tandis que nous scrutons l’horizon lointain en attendant l’arrivée de la superintelligence, un phénomène plus discret et bien plus immédiat se déroule sous nos yeux, directement sur nos écrans. Nos propres esprits pourraient commencer à s’atrophier.

Voici ce qui m’inquiète vraiment à propos de l’IA. Ce n’est pas qu’elle soit plus intelligente que nous. C’est qu’elle donne l’impression d’être intelligente, qu’elle s’exprime avec une assurance et une aisance impressionnantes, et que nous sommes trop paresseux pour vérifier si elle dit réellement quelque chose. Je pense que nous sommes nombreux à en avoir fait l’expérience. Demandez à l’IA une idée commerciale véritablement nouvelle, un angle d’approche original sur un problème, une véritable avancée. Ce qu’elle vous renvoie ne contient presque jamais de véritable nouveauté. Au lieu de cela, vous obtenez page après page un texte soigneusement peaufiné sophistiqué du jargon. On y parle de « synchronisation des paradigmes », de « valeur synergique » et d’« intégration d’écosystèmes évolutifs ». Cela semble brillant et peut-être même intelligent. Cela donne l’impression d’être profond. Mais si l’on y regarde de plus près, on se rend compte qu’il n’y a rien derrière, ou qu’il s’agit simplement d’une vieille idée, d’une observation ou d’un concept générique, habillé de mots sophistiqués.

Ce n’est pas un hasard. C’est ainsi que fonctionne cette technologie. Une étude réalisée en 2024 par l’université de Glasgow a analysé les textes générés par l’IA à la lumière de la définition du terme « bullshit » donnée par le philosophe Harry Frankfurt : un discours qui ne se soucie pas de la véracité des propos, mais uniquement de leur caractère convaincant. C’est précisément ce pour quoi les grands modèles linguistiques sont souvent optimisés : prédire ce qui semble plausible, et non ce qui est réellement vrai ou profond.

La Harvard Business School et le Boston Consulting Group ont mené une étude portant sur 758 consultants utilisant l’IA. Pour les tâches qui dépassaient les capacités réelles de l’IA, les consultants qui recouraient à celle-ci avaient 19 % moins de chances de trouver la bonne réponse que ceux qui travaillaient sans elle. Ce phénomène s’explique par une confiance excessive accordée à l’IA et par le fait que l’on met de côté son propre jugement. Les personnes confondent confiance et justesse et ont tout simplement renoncé à leur propre jugement.

J’ai constaté à maintes reprises, dans de nombreux domaines, que les équipes utilisaient tous les mots à la mode du monde de l’entreprise — et aujourd’hui encore davantage l’IA — pour compliquer à outrance des idées, des projets ou des processus. Je ne dis pas qu’il ne faille pas enrichir notre vocabulaire et le maîtriser. Mais des mots sophistiqués ne signifient pas automatiquement qu’une idée sophistiquée se cache derrière eux. Petit à petit, nous troquons la réflexion critique fondée sur les principes fondamentaux contre l’illusion réconfortante de l’expertise.

Et voilà : l’IA ne va pas nous battre en étant plus intelligente que nous. Elle va nous battre en nous faisant cesser de réfléchir. Et franchement, c’est presque drôle : nous passons notre temps à nous inquiéter de voir des robots de science-fiction prendre le contrôle du monde, tandis que nous copions, collons et transférons allègrement, e-mail après e-mail, des absurdités générées par l’IA à nos propres équipes, en oubliant peu à peu comment réfléchir par nous-mêmes.

Peut-être que tout cela ne vous est pas inconnu. Mais contrairement à l’IA, je n’essaie pas de présenter cela comme une grande découverte. Je tiens simplement à vous rappeler que c’est toujours à nous de réfléchir par nous-mêmes.

Sources :

1. Étude des consultants HBS/BCG (chiffre de 19 %, tendance à « faire excessivement confiance à l’IA ») Dell’Acqua , F., McFowland III, E., Mollick, E. R., Lifshitz-Assaf, H., Kellogg, K., Rajendran, S., Krayer, L., Candelon, F., & Lakhani, K. R. (2023). Naviguer sur la frontière technologique accidentée : preuves issues d’expériences sur le terrain concernant les effets de l’intelligence artificielle sur la productivité et la qualité des travailleurs du savoir. Disponible à l’adresse : https://www.hbs.edu/faculty/Pages/item.aspx?num=64700

2. L’article « bidon » de Glasgow Hicks, M. T., Humphries, J., & Slater, J. (2024). ChatGPT, c’est du n’importe quoi. Ethics and Information Technology, 26(2), article 38. https://doi.org/10.1007/s10676-024-09775-5

3. Image : générée par l’IA