Risque de bêtise avec l’IA ? – elektro.at

Les dangers des monocultures cognitives et économiques

La semaine dernière, Microsoft et l’Université Carnegie Mellon ont publié une étude sur les conséquences indésirables de l’utilisation de l’intelligence artificielle (IA). Selon cette étude, l’usage de l’IA a entraîné un affaiblissement des capacités de pensée critique chez les utilisateurs. Cependant, le problème est plus profond : il s’agit de monocultures cognitives et économiques. Renoncer à l’IA serait cependant une erreur.

Commençons par la étude : les chercheurs ont observé 319 travailleurs du savoir effectuant 936 tâches assistées par IA. Un constat préoccupant est apparu : plus les participants avaient confiance en l’IA, moins ils investissaient leur énergie mentale dans l’accomplissement de leur travail. Cela a eu des répercussions non seulement sur leurs méthodes de travail, mais aussi sur les compétences en matière de pensée critique. En effet, ceux qui étaient sceptiques quant à l’IA adoptaient une approche plus active des problèmes, remettant en question les résultats obtenus grâce aux processus assistés par l’IA.

Shelly Palmer, journaliste technologique et professeur de médias modernes à l’Université de Syracuse, résume bien le problème dans son blog : « Si l’on confie son cerveau à une IA, on risque d’oublier comment lui donner les bonnes instructions ». Il souligne ainsi l’importance de formuler des indications précises pour obtenir des résultats satisfaisants d’une IA.

Évolution

Un autre résultat de l’étude concerne la nature des résultats. Selon les auteurs, un phénomène de monoculture se dessine. Les résultats issus des processus assistés par IA tendent à se ressembler de plus en plus. Au lieu d’apporter leur propre expérience et savoir, les utilisateurs comptent sur les solutions proposées par l’IA. Ce phénomène est particulièrement marqué sous pression temporelle, comme lors d’approches de délais, où les participants en positions de responsabilité vérifient davantage les résultats suggérés par l’IA.

Cette tendance à la monoculture n’est pas surprenante, car les développeurs d’IA suivent les modèles les plus performants. Les méthodes des modèles gagnants sont reproduites, ce qui entraîne une homogénéisation de ces applications d’IA et donc des résultats de plus en plus similaires. Ainsi, on peut parler d’une évolution des systèmes d’IA, qui se produit à une vitesse vertigineuse dans ce secteur.

Sélection dans la gestion

Avant de se lamenter sur les inconvénients et dangers de l’intelligence artificielle, de la diaboliser et de réclamer un interdiction totale de son utilisation, prenons un moment pour réfléchir. Les problèmes sous-jacents à la monoculture intellectuelle sont exacerbés par l’IA, mais ne découlent pas de son utilisation.

Dans le monde des affaires, la pression concurrentielle crée effectivement une forme de sélection. Dans ce cadre, les stratégies des entreprises tendent à se rapprocher, car de nombreux décideurs n’ont pas le temps de développer des approches de gestion innovantes. De plus, tant qu’ils s’en tiennent aux méthodes orthodoxes, il leur est difficile d’être critiqués pour de mauvaises décisions. Par conséquent, ils n’ont pas besoin d’innover pour créer de nouvelles opportunités de marché ou des produits, mais se contentent d’imiter les leaders du marché à moindre coût.

Cela génère un pression évolutive dans la gestion des entreprises, souvent dominées par des résultats trimestriels. Les dirigeants qui ne se considèrent pas comme des génies certifiés, s’alignent sur les pratiques existantes et concentrent leurs efforts sur l’amélioration des méthodes existantes plutôt que d’innover, ce qui entraîne un mouvement collectif vers une monoculture. Or, une telle monoculture est vulnérable face aux changements inattendus. Ce fut le cas lors de la crise financière de 2008, qui démontre les dangers d’une systématisation excessive.

L’utilisation peu critique de l’IA semble constituer un raccourci vers une monoculture. Elle offre souvent des succès rapides et confortables après avoir surmonté les premières difficultés, mais ces succès nous privent de notre capacité à réagir de manière adéquate en temps de crise, car nous risquons de ne plus savoir comment agir.

Faut-il donc interdire les applications d’IA et tout faire soi-même ?

La réponse à cette question est claire : certainement pas. La discussion sur la manière dont l’utilisation des nouvelles technologies peut nous affaiblir ou nous rendre moins intelligents existe depuis longtemps. Que ce soit avec les calculatrices, les ordinateurs ou Internet, les premières heures de leur utilisation ont souvent été accueillies par des critiques concernant la perte de certaines capacités cognitives. Néanmoins, ignorer une nouvelle technologie entraîne un inconvénient compétitif immédiat. Par conséquent, nous devrons continuer à nous pencher sur l’usage de l’IA et son intégration dans les PME.

Cependant, l’utilisation de l’IA doit se faire de manière ciblée et stratégique. À cet égard, je me permets de mettre en avant un entretien réalisé avec le professeur FH Sebastian Eschenbach, qui a déclaré à propos de l’utilisation de l’IA dans les PME qu’il est essentiel de se concentrer là où les enjeux stratégiques sont présents. C’est donc ce cadre stratégique qui doit guider l’usage de l’IA dans les entreprises, car l’IA s’intégrera inévitablement aux applications standards, ce qui s’applique également aux grandes entreprises. Une approche consciente du sujet permet d’éviter le piège de l’abrutissement par l’IA et la monoculture induite par l’intelligence artificielle.

Points à retenir

• L’étude souligne une perte de pensée critique liée à une confiance excessive en l’IA.
• Les utilisateurs ont tendance à adopter des résultats standards générés par l’IA plutôt que de s’appuyer sur leur propre expertise.
• La pression économique incite les entreprises à adopter des pratiques similaires, ce qui favorise une homogénéisation des stratégies.
• Une utilisation réfléchie de l’IA pourrait contribuer à maintenir la diversité des approches et des idées dans les processus décisionnels.

Dans un monde en constante évolution technologique, se pose la question de l’équilibre à trouver entre l’adoption des nouvelles technologies et la préservation de nos capacités critiques et créatives. Comment choisir judicieusement quand et comment laisser l’IA nous assister tout en restant engager dans une réflexion diversifiée ?