Exploration des risques du développement
non maîtrisé de l'intelligence artificielle
Heart Leadership University a ouvert une recherche-exploration sur l’un des trois grands défis du XXI° siècle : les risques d’un développement non maîtrisé de l’intelligence artificielle. Si le sujet fait régulièrement l’actualité depuis la sortie de ChatGPT, il s’agit ici d’aborder des questions pour l’instant peu mises en lumière. Qui sont les grands bénéficiaires et les perdants du déploiement massif de l’intelligence artificielle ? Pour servir quelles finalités ce développement est-il mis en œuvre ? La massification des décisions automatisées via les algorithmes restreint-elle la liberté de choix et/ou la capacité des humains, et en particulier des dirigeants, à décider en mobilisant leurs aptitudes sensibles, leur intelligence du cœur (intuition, empathie, courage) ?
Objectifs du projet
Alors que l’intelligence artificielle (IA) est testée et déployée de façon croissante quel que soit le secteur, HLU entend contribuer aux réflexions sur les apports et les risques de ce développement. Et ceci à trois niveaux :
- À l’échelle individuelle, et du dirigeant en particulier, en quoi l’IA peut-elle priver l’humain de la possibilité de décider avec sensibilité (intuition, empathie)? Les algorithmes vont-ils nous priver de la capacité à décider de manière « humaine » ? Le chiffre et le calcul auront-t-ils toujours raison en dernier ressort?
- À l’échelle des acteurs économiques, qui sont les acteurs dominants ? Quel est le niveau de concentration des pouvoirs et quels sont les éventuels contre-pouvoirs ? Quels sont les impacts du développement d’une économie fondée sur la donnée en termes de captation de la valeur, de rapport de pouvoir entre les acteurs économiques et de souveraineté ?
- À l’échelle de la planète, du vivant et de l’humanité, peut-on penser que les technologies et dispositifs déployés auront une orientation « durable » ou bénéfique au bien commun ? Sommes-nous au contraire en train d’accélérer l’exploitation, la privatisation et l’accaparement des ressources, l’accroissement des inégalités… ?
Il s’agit en particulier d’aider au discernement des dirigeants d’entreprise. Les informations et formations destinées à ce public sont en effet aujourd’hui souvent conçues pour les amener à adopter l’IA sans nécessairement questionner leur pertinence ou leur adéquation aux problématiques de leur structure.
Première phase exploratoire
Réalisée avec Amal Marc et Laure Lucchesi, cette phase a permis de dresser un panorama des enjeux au niveau global et pour le dirigeant. Les travaux ont été alimentés par des recherches bibliographiques, des interviews d’experts ainsi que des focus group organisés en partenariat avec le CJD, afin de recueillir des témoignages sur la façon dont les dirigeants se questionnent et se positionnent face au déploiement de l’IA. Voici quelques-uns des enseignements de cette exploration.
La dépendance, au coeur des enjeux globaux.
- L’IA n’est pas artificielle mais extrêmement matérielle – ce qui pose un enjeu majeur de dépendance aux ressources (énergie, eau, métaux), et de responsabilité élargie du dirigeant, dans une perspective de durabilité.
- La compétition mondiale sur l’IA est largement dominée par le duopole États-Unis / Chine ; et la chaine de valeur par les Big tech du numérique. Dans un tel contexte, les entreprises européennes sont à ce jour cantonnées au rôle de développeur d’application spécifique (use case) et de façon plus générale à celui d’usager de technologies produites ailleurs. Cela pose de nouveau la question de la dépendance (économique cette fois) ainsi que celle du contrôle qui en découle.
Au niveau de l’entreprise, les travaux ont permis de distinguer des zones de pertinence de l’IA ainsi que des cas d’usage qui peuvent être interrogés :
- soit parce que les SIA seraient amenés à opérer dans des contextes trop volatils et incertains pour qu’ils soient durablement utiles, questionnant leur réel retour sur investissement ;
- soit parce qu’ils emportent des risques élevés de perte de recul, d’intuition ou de résilience pour l’individu comme pour l’organisation ;
- soit parce qu’il s’agit d’usages non éthiques ou superflus (effet de mode, marketing hype…), conduisant à un gaspillage de ressources.
Les dirigeants interrogés oscillent entre fascination par une « IA magique » (d’une praticité et rapidité fulgurantes, et désormais « générative ») et répulsion envers une « IA tragique ». Plus généralement, si certains identifient les conséquences adverses du déploiement de l’IA pour leur entreprise et leur pratique du leadership (perte de pouvoir, de compétences, appauvrissement des relations, cyberrisques etc.), le lien aux enjeux globaux et la question de la responsabilité du dirigeant aux bornes de son entreprise font nettement moins partie de leurs réflexions…
Consultez les autres production de l'exploration sur l'IA
Exploration sur le Métavers
Seconde phase prospective
HLU en partenariat avec Futuribles, centre de réflexion sur l’avenir, et le CJD, a engagé un travail prospectif pour permettre aux dirigeants d’entreprise français de se projeter dans différents scenarios de déploiement de l’IA à l’horizon 2035.
Un des enjeux clefs de ces travaux sera de voir l’impact de ces développements sur la capacité à agir et à décider des dirigeants, en faisant appel à leurs aptitudes sensibles (empathie, intuition, courage), sujet au cœur de la mission de HLU.
Le projet se déroulera en plusieurs étapes :
- réalisation d’un panorama des possibles en matière de développement de l’intelligence artificielle à l’horizon 2035, mêlant des enjeux propres à la conduite de l’entreprise et des enjeux socio-économiques plus larges ;
- sur la base de ce panorama des possibles, construction de plusieurs scenarios prospectifs dans lesquels les dirigeants d’entreprises pourraient être amenés à évoluer à horizon 2035 ;
- conduite de 3 ateliers avec des dirigeants d’entreprise pour étoffer et compléter les scénarios, et en tirer des pistes quant aux conséquences de chacun d’entre eux en matière de prise de décision pour les dirigeants. Ces ateliers seront en partie conçus sur la base de méthodologies inspirées du design fiction.