Exploration des risques du développement

non maîtrisé des systèmes d'intelligence artificielle

Préserver notre humanité face aux grands défis du XXIème siècle est au coeur de la mission de notre association. Le développement sans frein du numérique et plus spécifiquement des systèmes d’intelligence artificielle (SIA) est l’un des grands défis que nous avons identifiés. L’omniprésence des écrans ne porte-t-elle pas le risque d’une déshumanisation des relations ? Comment la massification des décisions automatisées via les algorithmes restreint-elle notre liberté de choix  ? Qui sont les grands bénéficiaires et les perdants du déploiement massif des SIA ? Pour servir quelles finalités, ce développement est-il mis en œuvre ? Voici certaines des questions que nous nous proposons d’explorer dans ce champ de recherche.

Objectifs de notre exploration

Depuis les années 2000, la transformation numérique de l’économie et de la société ne cesse de s’accélérer. L’exploitation massive des données personnelles a explosé avec le passage à l’échelle d’algorithmes de plus en plus complexes et l’augmentation exponentielle des puissances de calcul. De façon invisible, et à notre insu, les SIA sont de plus en plus utilisés dans tous les systèmes informatiques qui orchestrent le monde : la finance, la santé, le travail, l’éducation, les réseaux sociaux ou encore la justice.

Certains y voit l’avenir, une opportunité de prendre des décisions de façon plus rationnelle, de libérer les humains des tâches les plus pénibles ou encore d’accélérer la transition écologique. Pour d’autres, le développement non maitrisé des SIA est porteur de nombreux risques. S’il existe déjà une vaste littérature en la matière, elle reste pour l’instant cantonnée à des cercles d’experts. Par ailleurs, les informations et formations existantes pour les dirigeants les destinent à exploiter les SIA. Il n’existe aucun modèle, contenu, ou projet destiné à leur donner les compétences requises pour questionner ce système établi ; pour être en capacité de prendre des décisions courageuses, dont le rejet de la technologie si celle-ci se fait au péril des intérêts humains.

L’objet de cette exploration est donc de rendre accessible les travaux existants à de nouveaux publics.

  • pour la préservation du «potentiel humain» (en tant qu’être sensible, très différent d’une machine/un robot)
  • pour la qualité des relations entre humains, la justesse et l’humanité des décisions, l’équité et la justice sociale
  • pour les libertés individuelles, pour les démocraties
  • pour la capacité des dirigeants à rester maîtres de leurs décisions
  • pour la préservation des grands équilibres écologiques (consommations de ressources, pollutions)

Dans un contexte où les acteurs privés sont dominants et la réglementation est faible

  • Favoriser une approche techno-prudente (et si besoin techno critique) pour nourrir les dirigeants d’une matière variée et analysée et aider au discernement 
  • et plus généralement diffuser largement à tous ceux qui souhaitent préserver les capacités de choix et de décision « sensibles » des êtres humains.

Nos premiers travaux

Exploration sur le Métavers

Exploration des systèmes d'intelligence artificielle

Notre experte

Amal Marc

  • Spécialiste du numérique (juridique et technique).
  • Consultante indépendante (Digital compliance, cyber risks & eco-responsible business)
  • Expérience importante en entreprise (Cap Gemini, Sogeti, CNIL, EDF, Safran)