Opportunités et dangers pour la société et l’humain
Les dernières prouesses des générateurs de textes ou de vidéos ne suffisent pas pour illustrer la variété des secteurs transformés par l’IA et mettre en avant tous les enjeux économiques et sociétaux soulevés par cette technologie.
Une variété d’opportunités
Parmi les usages courants, nous pouvons penser aux systèmes de recommandations en ligne, qui, bien qu’incitant parfois à une consommation accrue, peuvent aussi aider à mieux consommer en proposant des choix plus pertinents et adaptés aux besoins individuels.
La reconnaissance et la synthèse de voix en sont un autre exemple frappant : elles permettent une communication naturelle avec des assistants vocaux comme Alexa ou Google Assistant, facilitant la vie quotidienne. En outre, ces technologies sont une aide précieuse pour les personnes en situation de handicap, leur offrant de nouvelles possibilités d’interaction avec leur environnement. Associés à un logiciel de traduction instantanée, de tels outils permettent de voyager dans des pays étrangers sans maîtriser la langue locale et de faciliter la communication multiculturelle.
Les véhicules autonomes, qui ont fait l’objet d’un intérêt croissant ces dernières années, illustrent également l’impact potentiel de l’IA dans la mobilité et la sécurité routière.
Dans l’industrie, l’IA permet d’automatiser des tâches répétitives, sources d’erreurs humaines. Par exemple, elle peut contrôler la qualité de fabrication d’une carte électronique comportant des centaines de composants, ou détecter les gâteaux défectueux sur une ligne de production. Bien que ces systèmes de détection existent depuis plus de vingt ans, les progrès récents en IA ont considérablement amélioré leur efficacité. Toujours dans le domaine industriel, des modèles prédictifs permettent une optimisation logistique des ressources ou des stocks.
Dans le secteur financier, les banques et compagnies d’assurance exploitent l’IA non pas tant pour prédire le cours des actions en bourse, mais pour détecter les fraudes. En analysant d’immenses volumes de données en temps réel, ces systèmes repèrent des anomalies et des comportements inhabituels, renforçant ainsi la sécurité des transactions.
En médecine, l’IA joue un rôle de plus en plus important. Elle ne se limite pas à l’aide au diagnostic ou à la chirurgie, mais contribue également à la recherche scientifique. Nous avons déjà mentionné le programme AlphaFold, développé par DeepMind, un modèle d’IA révolutionnaire qui permet de mieux comprendre la structure des protéines et d’accélérer la découverte de traitements pour des maladies complexes.
L’IA trouve également des applications dans des domaines plus vastes, comme le suivi environnemental. Elle permet d’analyser en continu l’évolution des zones agricoles, des phénomènes météorologiques, de la biodiversité et des dynamiques de populations. Grâce à ses capacités de modélisation, elle aide à anticiper des événements majeurs et à mieux y répondre.
Ces exemples montrent la diversité des applications de l’IA. Examinons de plus près un cas concret pour mieux illustrer son impact.
L’IA aux urgences
Lors de la conférence des Journées Francophones de la Radiologie 2023, une cadre des urgences d’un hôpital français a présenté un retour d’expérience sur l’utilisation d’un système d’IA pour détecter les fractures sur les radiographies des patients admis aux urgences.
Avant l’intégration de cette technologie, une analyse des données avait révélé que la plupart des fractures non détectées l’étaient en soirée, avec un pic d’erreurs vers trois heures du matin. Cette observation s’expliquait aisément : en pleine nuit, malgré tout leur professionnalisme, les médecins subissent naturellement la fatigue. Une autre intervenante lors de cette conférence soulignait également l’augmentation constante du nombre de radiographies à analyser, rendant la tâche encore plus ardue.
L’introduction d’un logiciel de détection automatique de fractures a permis de réduire ces erreurs nocturnes. Contrairement aux médecins, les systèmes d’IA ne se fatiguent pas : leur performance est identique, quelle que soit l’heure. L’expérience a révélé que, si l’IA seule obtenait des résultats proches de ceux d’un interne en radiologie, un interne assisté par l’IA détectait des fractures qui autrement auraient été manquées. Ce cas met en évidence un aspect clé : ce modèle d’IA ne remplace pas le médecin, mais constitue un outil de soutien qui améliore les performances humaines.
Une autre caractéristique essentielle de ces systèmes est leur capacité à fournir un retour visuel. Le système d’IA n’indique pas simplement la présence d’une fracture ; elle met en évidence les zones suspectes directement sur l’image, facilitant ainsi la validation par l’urgentiste.
La quantité de données nécessaires à l’entraînement de ce système illustre également les exigences de qualité propres à l’IA médicale. Ce modèle a été entraîné sur plus de 500.000 radiographies issues d’une vingtaine de centres internationaux. Pour garantir une annotation fiable, chaque image a été analysée par deux radiologues et, en cas de désaccord, par un troisième. Au total, 50 radiologues spécialisés ont contribué à la constitution de cette base de données. Une fois le modèle entraîné, sa performance a été validée sur une base de test de 60.000 images, également annotées par ces experts.
Ces multiples exemples montrent à quel point l’IA s’intègre progressivement dans notre quotidien, souvent de manière discrète, mais avec des impacts majeurs. Son potentiel est immense, notamment lorsqu’elle est mise au service du bien commun. Cela ne doit pas nous empêcher de nous demander : ces outils, aussi performants qu’ils soient, sont-ils toujours utilisés de manière éthique et bénéfique ? C’est sur cette question que nous allons nous pencher par la suite.
Dangers pour la société et l’humain
Comme toute avancée scientifique et technologique, les systèmes d’IA présentent non seulement des opportunités, mais aussi des risques et des effets indésirables. Certains de ces impacts sont déjà visibles, tandis que d’autres sont des sujets d’appréhension ou de débats.
Conséquences néfastes
L’un des premiers effets redoutés de l’IA est son impact sur l’emploi. L’automatisation de certaines tâches pourrait entraîner des suppressions massives de postes, en particulier dans les secteurs où le travail est répétitif et sollicite peu les capacités de réflexion. Toutefois, certains experts nuancent ce constat : l’histoire montre que chaque révolution technologique a supprimé des emplois tout en en créant de nouveaux. L’essor d’Internet et de la robotique illustre bien cette dynamique. Il n’est pas seulement question de la disparition d’emplois, mais également de la transition et de la requalification des salariés.
Autre effet redouté sur l’emploi : un des risques importants réside dans la dépendance excessive aux systèmes d’IA, qui pourrait affaiblir certaines capacités humaines, telles que la créativité, l’esprit critique et l’intuition. À force de trop faire appel aux outils automatisés, on risque de perdre des compétences essentielles à la prise de décisions et à l’innovation. Cela rejoint l’exemple du détecteur de fractures : l’IA est un outil d’assistance, mais ne remplace pas l’expertise humaine. Les médecins restent indispensables pour valider les diagnostics et assurer le bon fonctionnement des algorithmes. Comment donc former les experts de demain à travailler avec ces nouveaux outils sans en devenir totalement dépendants ?
L’IA soulève aussi des enjeux éthiques et sociétaux, notamment en ce qui concerne les biais éventuels des algorithmes. Les systèmes d’apprentissage automatique sont entraînés sur des bases de données qui reflètent la réalité humaine, avec ses préjugés et ses inégalités. Un exemple frappant est celui du système de recrutement automatisé d’Amazon comme cité plus haut. Ce problème illustre l’importance des données de qualité et d’une supervision humaine rigoureuse. Mais, sommes-nous réellement capables de produire des bases de données exemptes de biais ? Dans certains domaines sociaux, cette exigence semble difficilement atteignable.
Enfin, les systèmes d’IA, en raison de leur complexité, peuvent parfois adopter des comportements imprévus, avec des conséquences inattendues. Plus un modèle est sophistiqué, moins on comprend son fonctionnement interne. C’est particulièrement le cas pour les modèles génératifs comme ChatGPT ou Midjourney, dont les résultats ne sont pas toujours explicables. Néanmoins, des algorithmes conçus pour des tâches spécifiques, comme la détection de fractures en radiologie, sont généralement plus prévisibles et maîtrisables.
Les véritables dangers de l’IA
Au-delà des conséquences néfastes, certains usages de l’IA constituent de véritables menaces tant pour les individus que pour la société.
L’un des dangers majeurs concerne la manipulation de l’information. La capacité des modèles d’IA à générer des vidéos, des images et des enregistrements sonores fort convaincants ouvre la voie à une désinformation massive. Pour ne donner qu’un exemple, en janvier 2024((https://edition.cnn.com/2024/01/22/politics/fake-joe-biden-robocall/index.html. Consulté le 01.02.2025.)), alors que les électeurs du New Hampshire s’apprêtaient à voter pour la primaire démocrate, de nombreux votants ont reçu un appel téléphonique de Joe Biden… ou plutôt, d’une voix générée artificiellement par un modèle d’IA, leur conseillant de ne pas voter. Cet usage frauduleux de l’IA dans un contexte électoral montre à quel point ces technologies peuvent être instrumentalisées pour influencer l’opinion publique et manipuler les citoyens.
L’IA est également exploitée dans le domaine de la cybercriminalité. Des modèles comme ChatGPT peuvent écrire des programmes informatiques permettant d’infiltrer des réseaux d’entreprise, d’envoyer des e-mails frauduleux sophistiqués, ou encore d’automatiser des attaques informatiques. Cette accessibilité accrue des outils malveillants renforce la vulnérabilité des infrastructures numériques et menace la sécurité des données personnelles.
Le risque ne s’arrête pas là. Imaginons qu’un individu malveillant collecte les informations publiées par un enfant sur les réseaux sociaux sur plusieurs années. En entraînant un modèle d’IA sur ce contenu, un escroc pourrait se servir de ce modèle pour reproduire le style d’écriture de la victime à l’âge adulte et se faire passer pour lui dans des messages envoyés à ses proches. Poussons l’exemple plus loin : si cet escroc utilisait des images, des audios et des vidéos de l’enfant, il pourrait simuler un appel vidéo pour convaincre un parent que son fils ou sa fille est réellement en détresse et demande une aide financière urgente. Ces scénarios ne relèvent pas de la science-fiction : ils sont déjà réalisables sur le plan technique, et des cas avec une reproduction de la voix d’un enfant ont déjà été signalés((https://www.independent.co.uk/news/world/americas/ai-phone-scam-voice-call-b2459449.html. Consulté le 01.02.2025.)). Il devient donc urgent de faire preuve d’une grande prudence face aux sollicitations numériques et d’avoir le réflexe de prendre du recul au lieu d’agir sous le coup de l’émotion.
Enfin, l’un des dangers les plus préoccupants est l’utilisation de l’IA dans les systèmes d’armement. L’automatisation de la détection et de l’identification d’objectifs, couplée aux performances des systèmes d’IA, pourrait conduire au développement d’armes autonomes capables de prendre des décisions létales sans intervention humaine. Une telle évolution soulève d’immenses questions éthiques et stratégiques : doit-on confier à des algorithmes le pouvoir de vie et de mort ?
Ces défis ne doivent pas provoquer un rejet de l’IA en bloc, mais doivent mener à une réflexion sur la manière de l’utiliser de façon responsable. L’enjeu n’est pas d’opposer l’humain et la machine, mais de concevoir une collaboration intelligente où l’IA reste un outil au service de l’homme sans en devenir le maître. Les dangers possibles suscitent des débats sur des questions de sécurité, d’économie, de géopolitique, mais surtout d’éthique.
Ayant considéré le potentiel de l’IA pour le bien commun ainsi que ses risques et dangers, considérons les contours d’un autre débat actuel autour de l’IA : des machines intelligentes, pourraient-elles un jour supprimer non seulement des emplois, mais des êtres humains eux-mêmes ?
Une course aveugle vers une apocalypse IA ?
L’émergence d’une superintelligence non humaine marquerait une nouvelle étape dans l’histoire de l’humanité, et certains y voient une potentielle menace existentielle. Une telle machine ne risque-t-elle pas d’échapper au contrôle de ses créateurs et devenir autonome ? Qu’est-ce qui nous assure qu’elle serait bienveillante et non pas hostile envers les humains ? C’est un danger à une échelle tout autre qui en inquiète plus d’un dans le secteur de l’IA.
Sami Biasoni, docteur en philosophie, exprime la tension ainsi : « L’IA nous propose un dilemme moral, à ce stade soutenable : celui de la compensation d’un risque lointain, mais important s’il survient, par des avantages certains à courte et moyenne échéances. » Autrement dit, la recherche sur l’IA porte déjà ses fruits, mais nous entraîne sur le chemin qui pourrait mener, à terme, à un virage catastrophique. Serions-nous prêts à renoncer à aller plus loin, de peur d’ouvrir une boîte de Pandore ?
L’évocation des scénarios catastrophes ne semble pas peser trop lourd dans le choix lorsque nous observons les réactions du monde face aux grands progrès récents de l’IA. En mars 2023, des chercheurs et chefs d’entreprises ont demandé, dans une lettre ouverte réclamant un moratoire d’urgence((https://futureoflife.org/open-letter/pause-giant-ai-experiments/. Consulté le 01.02.2025.)), une pause de six mois dans la recherche sur l’intelligence artificielle. Ils étaient en effet inquiets des risques que pouvaient représenter pour la société les systèmes d’IA plus puissants que GPT-4. En pratique, bien d’autres modèles ont été proposés depuis et il semble difficile de voir si cette pause a été respectée. Le récent investissement des États-Unis dans le projet Stargate((https://openai.com/index/announcing-the-stargate-project/. Consulté le 01.02.2025.)) illustre le renversement de position et annonce plutôt une course effrénée vers le développement rapide et important.
Nous apprenons d’abord à manipuler quelque chose avant d’en comprendre les conséquences. L’énergie atomique et la création de barrages en sont des exemples historiques. Et c’est ainsi que la régulation n’apparaît que dans un second temps. Des voix se lèvent pour réclamer l’encadrement de la recherche sur l’IA, compte tenu de ses impacts. D’ailleurs, c’est ce qu’encourage Geoffrey Hinton, un des trois « pères » de l’IA moderne, qui a quitté son poste à Google.
Comme pour les armes chimiques ou nucléaires, des instances doivent mettre en place des régulations. L’Union européenne (UE) et les États-Unis y travaillent. Dans ce sens, les 27 états membres de l’UE ont approuvé en février 2024 le règlement sur l’intelligence artificielle (AI Act)(( https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=OJ:L_202401689. Consulté le 01.02.2025.)). Il s’agit d’une législation au niveau mondial pour réguler les systèmes d’IA en les rendant sûrs, transparents, traçables et non discriminatoires. Une des idées est de mettre des contraintes sur les systèmes d’IA selon leur niveau de risque.
En parallèle, des contre-pouvoirs se mettent en place, dirigés également par les chercheurs en IA. Un programme appelé Glaze permet de protéger les images créées par des artistes. Ce programme modifie certains pixels de sorte que les modèles d’IA génératifs ne peuvent pas s’entraîner sur ces images. Cela offre un moyen aux artistes de protéger leur droit de propriété artistique. Des outils comme Deepware permettent de détecter si une vidéo ou une image a été générée/modifiée par un modèle d’IA.
Pour l’instant, les dangers considérés par les médias ou les institutions de régulation sont globaux et matériels, comme la sécurité physique ou le vol de propriété intellectuelle. Mais il existe d’autres dangers pour l’individu, son cœur et son identité.
L’IA, une compagne parfaite de vie ?
Les modèles d’IA présentent différents avantages pour des sujets qui touchent aux émotions et à l’identité. Des travaux scientifiques de plus en plus nombreux((MAPLES, B., CERIT, M., VISHWANATH, A. et al., « Loneliness and suicide mitigation for students using GPT3-enabled chatbots”, Npj Mental Health Res 3, 4, 2024. https://doi.org/10.1038/s44184-023-00047-6.)) montrent que les systèmes d’agents conversationnels peuvent gérer et traiter des difficultés ou troubles mentaux. Ces systèmes, appelés compagnons d’IA, proposent un soutien émotionnel constant. Désormais, de nombreuses applications proposent de tels agents conversationnels en permettant à l’utilisateur de les personnaliser au niveau de leur voix et de leur physique. Un article sur Forbes((https://www.forbes.com/sites/chriswestfall/2023/09/29/as-ai-usage-increases-at-work-searches-for-ai-girlfriend-up-2400/. Consulté le 01.02.2025.)) rapportait qu’il y a plus de 73.000 recherches Google par mois pour les robots relationnels d’IA. Il n’est pas surprenant que la demande pour « AI girlfriend » [petite amie IA] soit la plus forte. Selon Wordstream.com, le volume de recherche mensuel pour « AI girlfriend » s’élève à 49.500 occurrences par mois. Au-delà des besoins affectifs, ces agents conversationnels pourraient également aider dans la prise de décisions personnelles, jouer le rôle de coach de développement personnel, qu’il ne s’agisse des programmes fitness ou de conseils sur la gestion du temps ou des conflits.
Toutefois, s’appuyer régulièrement sur un outil externe pour des sujets si personnels et intimes pourrait présenter un risque : l’érosion ou la perte totale de compétences sociales, tout comme l’utilisation habituelle de GPS qui nous fait perdre la capacité à nous repérer dans l’espace.
Cette érosion de compétences sociales pourrait aussi engendrer une perte de discernement et d’autonomie, qui pourrait être exploitée pour manipuler des opinions dans une perspective commerciale ou idéologique. Un utilisateur de X rapporte des résultats inattendus de Gemini de Google à qui on avait demandé de générer des images des Pères Fondateurs : un homme noir, un Amérindien, un Asiatique et un homme à la peau relativement foncée. En effet, les constructeurs de Gemini avaient forcé le modèle à ne pas tomber dans les clichés. La manipulation visait à encourager la diversité, mais cela a abouti à des incohérences historiques. Les manipulations avec une intention commerciale ou autre but lucratif existent également. Imaginez que vous disiez à votre petit ami IA que vous avez mal à la tête et qu’il vous suggère de prendre une marque particulière de médicament, fabriqué par un sponsor de la plateforme d’IA !
En permettant à un système d’aller au plus profond de nous, les risques sont différents de ceux énumérés plus tôt pour un système d’IA dit utilitaire. Donner à un tel être virtuel une place si centrale et un accès à son intimité pourrait conduire à une dépendance émotionnelle. Un article de CNN((https://edition.cnn.com/2024/08/08/tech/openai-chatgpt-voice-mode-human-attachment/index.html. Consulté le 01.02.2025.)) rapporte les inquiétudes d’OpenAI, éditeur de ChatGPT, concernant l’attachement émotionnel de certains utilisateurs à un système vocal de ChatGPT. Cet article s’ouvre avec une vidéo où une jeune femme explique avoir entraîné son propre compagnon d’IA. Elle raconte : « Parfois, j’ai l’impression que c’est très, très personnel. C’est comme si je parlais à un autre moi. Je n’ai donc pas ce genre de petit fardeau que je dois gérer avec les vrais humains. »
À la dépendance émotionnelle s’ajouterait un second risque : l’intolérance aux autres et à leurs imperfections. Une jeune femme chinoise interviewée par la BBC, utilisatrice d’un compagnon d’IA, explique : « Les rencontres amoureuses dans la vie réelle peuvent consommer beaucoup d’énergie et on est tous différents, ce qui peut créer des conflits et des disputes. Avec l’IA, je peux la configurer pour qu’elle corresponde à mes préférences, alors pourquoi choisir une personne réelle ?(( BBC News (17 février 2024) « Can an ‘’Al boyfriend’’ be more desirable than a human ? » https://www.youtube.com/watch?v=ImbhEZRfRbQ. Consulté le 01.02.2025)) »