L’IA : une science

Le terme « intelligence artificielle » a été inventé par John McCarthy, chercheur à l’Université de Stanford. Ce dernier est bien placé pour nous en fournir une définition simple :

« [L’IA] est la science et l’ingénierie qui visent la création de machines intelligentes, surtout de programmes informatiques intelligents. Elle est connexe à l’étude de l’intelligence humaine à l’aide des ordinateurs, mais l’IA n’est pas limitée aux processus que nous observons chez les êtres vivants. »

On peut faire trois petites remarques à la lumière de cette description.

Pour le formuler autrement, l’IA est la science qui vise à développer des systèmes informatiques capables d’effectuer des tâches qui requièrent généralement l’intelligence humaine, par exemple traduire un texte, détecter des objets sur des images ou des vidéos, lire une émotion sur un visage, décrire une image, comprendre un texte et le résumer, transcrire un discours oral en texte, transformer des images ou des vidéos et répondre à des questions sur un sujet donné.

Qu’est-ce qu’un algorithme ?

Dans le monde de l’informatique, on parle souvent des algorithmes (par exemple, « Facebook a récemment changé son algorithme »). Mais qu’est-ce qu’un algorithme ? L’idée peut être illustrée par un simple jeu pour deux personnes. La première choisit un nombre secret entre 1 et 100, la seconde doit deviner le nombre en posant uniquement des questions fermées de type oui/non.

Joué avec un petit enfant, le jeu pourrait procéder ainsi :

C’est 1 ?        Non.

C’est 2 ?    Non.

C’est 3 ?    Non plus.

…

C’est 54 ?   Oui ! (enfin…)

L’enfant utilise une méthode très simple qui, tôt ou tard, tombera sur le nombre secret. Il s’agit d’un algorithme, que l’on peut représenter de la manière suivante :

1. Fixer n à 1.

2. Poser la question « Est-ce n ? »

3. Si la réponse est non, augmenter n par 1 et revenir à l’étape 2.

    Si la réponse est oui, on a trouvé le nombre secret.

Cet algorithme a le mérite d’être très simple, mais il est peu performant, n’éliminant qu’un seul nombre à chaque étape.

Si on joue avec quelqu’un de plus futé, on s’attend plutôt à un échange du style :

Le nombre est-il supérieur à 50 ?        Oui.

Supérieur à 75 ?                    Non.

Supérieur à 62 ?                    Non.

Supérieur à 56 ?                    Non.

Supérieur à 53 ?                    Oui.

Supérieur à 54 ?                    Non.

Ton nombre est donc 54.            Oui, chapeau.

Ce joueur se sert d’un algorithme beaucoup plus rapide (appelé la dichotomie), qui élimine la moitié des nombres restants à chaque étape. Voici les instructions :

1. Fixer minimum à 1 et maximum à 100.

2. Calculer milieu, le nombre à mi-chemin entre minimum et maximum.

3. Poser la question : « Est-ce supérieur à milieu ? »

4. Si la réponse est oui, changer minimum pour qu’il soit égal à milieu.

    Si la réponse est non, changer maximum pour qu’il soit égal à milieu.

5. Si minimum et maximum sont des nombres adjacents, maximum est le nombre secret.

    Sinon, revenir à l’étape 2.

Ces exemples nous permettent de comprendre ce qu’est un algorithme. Il s’agit d’une méthode décrite par une série d’étapes simples, précises et sans ambiguïté, définies à l’avance, qui, lorsqu’elles sont exécutées, aboutissent sans faille au résultat souhaité.

La raison pour laquelle les algorithmes sont si importants pour l’informatique, c’est qu’un ordinateur, à son niveau le plus fondamental, ne sait qu’effectuer des opérations très basiques : additionner, soustraire, multiplier ou diviser des nombres, comparer un nombre avec un autre, stocker un nombre en mémoire ou récupérer un nombre de la mémoire. Un ordinateur exécute une série de ces opérations selon une liste d’instructions données à l’avance (c’est ce que l’on appelle un programme informatique).

Puisqu’un algorithme est une série d’étapes simples, chaque étape peut être traduite en instructions que l’ordinateur comprend. L’ordinateur peut ainsi exécuter l’algorithme et obtenir le résultat souhaité. De cette manière, les opérations basiques de l’ordinateur peuvent être combinées en des méthodes plus utiles qui servent au traitement des données. L’IA utilise des algorithmes particuliers qui ont été conçus pour résoudre des problèmes de haut niveau, tels que la traduction d’un texte ou la reconnaissance d’un visage humain. Ces algorithmes, bien que beaucoup plus complexes que ceux mentionnés plus haut, sont de la même nature : une série d’instructions simples qu’un ordinateur exécute pour obtenir un résultat.

Quel algorithme faut-il choisir ?

L’histoire de la recherche en IA révèle une tension entre deux approches différentes dans la création de systèmes intelligents. La première vise à valoriser le savoir-faire humain dans un domaine donné, en apprenant à l’ordinateur comment « réfléchir » comme un humain. Autrement dit, on cherche à élaborer des algorithmes qui reflètent ce que fait un humain quand il accomplit la tâche en question. Dans cette approche, l’humain est l’expert qui cherche à transmettre son expertise à la machine.

La seconde approche laisse de côté ce que l’homme sait faire et mise sur la force brute des ordinateurs : leur puissance de calcul, et le volume de données qu’ils savent traiter. Ces deux derniers ont connu une croissance exponentielle au fil des années. On conçoit des algorithmes « bêtes et méchants », mais qui exploitent toutes les capacités des ordinateurs du jour. Si les résultats laissent à désirer au départ, il suffit d’attendre quelques années, et l’augmentation en puissance de calcul aura sensiblement amélioré la performance de l’algorithme.

Les deux approches sont comparables à deux aventuriers qui cherchent un trésor caché sur une île. Le premier veut, par sa grande intelligence, déterminer l’endroit exact où les pirates l’ont enfoui. Son confrère, qui manque cruellement d’imagination, décide de creuser chaque mètre carré de l’île jusqu’à ce qu’il tombe sur le trésor. On dirait que le premier a une stratégie bien meilleure, mais il se trouve que les machines à creuser doublent en efficacité chaque année, et ainsi la deuxième approche s’avère gagnante au final. C’est effectivement ce qui s’est passé en IA : avec le temps, la force brute a largement dépassé les méthodes plus sophistiquées.

Comment créer un modèle d’IA ?

Pour nous aider à comprendre comment un modèle d’IA est créé, prenons un exemple concret. Nous aimerions créer un système d’IA qui estime le prix d’un logement, à partir d’un petit nombre d’attributs (par exemple, l’année de construction, la superficie, le nombre de pièces, le nombre de salles de bain, la distance jusqu’aux transports publics). Lorsque l’on fournit ces chiffres au système en entrée, on souhaite qu’il nous donne le prix du logement en sortie.

Architecture

La première étape, c’est choisir ce que l’on appelle l’architecture du modèle. Il s’agit de la structure interne du système qui définit la relation entre les entrées et les sorties. Commençons par l’architecture la plus simple, où chaque attribut du logement exerce une influence directe sur sa valeur, comme suit :

Chaque entrée exerce une influence différente sur la valeur estimée du logement (comme les coefficients des différentes matières dans la note finale du baccalauréat). On appelle ces coefficients les paramètres du modèle. Ils peuvent être positifs (plus la superficie est grande, plus la valeur est élevée) ou négatifs (plus on s’éloigne des transports, plus la valeur est faible). Pour l’instant, on ne connait pas la valeur qui convient pour chaque paramètre. Tout ce que l’on a décidé, c’est que le prix estimé du logement soit basé sur la somme des entrées, chacune multipliée par son paramètre correspondant. Cela constitue l’architecture de notre modèle.

L’entraînement

Passons maintenant à une deuxième phase, celle du réglage des paramètres. À ce stade, on ne sait pas quelle valeur attribuer à chaque paramètre (et l’ordinateur non plus). Plutôt que de deviner, à partir d’une connaissance du marché de l’immobilier, on va demander à l’ordinateur d’apprendre par lui-même. Cette étape, que l’on appelle entraînement, est le processus par lequel l’ordinateur ajuste les paramètres du modèle jusqu’à ce qu’il trouve la meilleure combinaison possible. On parle ainsi de l’apprentissage automatique (machine learning en anglais) pour qualifier les systèmes d’IA qui fonctionnent grâce à cet entraînement.

Pour effectuer ce réglage automatique, le modèle a besoin de repères : il faut lui fournir des exemples de vrais logements avec leurs attributs et leur prix de vente. On appelle ces informations une base de données d’apprentissage. On définit une stratégie d’apprentissage (c’est encore un algorithme) où l’on prend un logement réel, on donne au modèle ses attributs (âge, nombre de pièces, etc.) en entrée, et on compare le prix généré par le modèle avec le prix de vente réel. L’objectif, c’est d’ajuster les paramètres du modèle de sorte que l’écart entre le prix calculé par le modèle et le prix réel soit aussi faible que possible, pour toutes les maisons des données d’apprentissage. C’est un processus itératif : on passe continuellement en revue les données d’apprentissage en faisant de petites modifications aux paramètres, pour arriver enfin à la meilleure combinaison possible. L’apprentissage est alors terminé et les paramètres sont fixés. Notre modèle d’IA est prêt à l’emploi.

Vérification des performances du modèle

Mais le modèle est-il juste ? Peut-il prédire avec succès le prix de vente de n’importe quel logement, à partir de ses caractéristiques ? Pour apporter une réponse à ces questions, nous entrons dans une troisième phase, celle de la vérification du modèle. On prend encore des exemples de logements avec leurs attributs qui ne font pas partie des données d’apprentissage. On fait tourner le modèle sur ces données et on mesure pour chaque logement l’écart entre le prix généré par le modèle et le prix de vente réel. L’écart moyen est un indice de la justesse du modèle. Si l’écart moyen est faible, cela signifie que le modèle est efficace pour estimer la valeur des logements et on peut en toute confiance le proposer aux agents immobiliers. En revanche, si le modèle génère des prix très différents de la réalité, l’étape de vérification a montré que le modèle a un problème et n’est pas encore prêt à être commercialisé, car il génère des résultats trop peu fiables.

De mauvaises performances lors de l’étape de vérification peuvent indiquer que la base de données d’entraînement était trop petite, ou que ses exemples n’étaient pas assez représentatifs. Dans ce cas, élargir la base de données et refaire l’entraînement pourrait suffire à obtenir de meilleurs résultats. Cependant, il est possible que les résultats du modèle ne s’améliorent pas, même en fournissant de meilleures données pour l’entraînement. Dans ce cas, le chercheur pourrait se demander si l’architecture du modèle elle-même (et non simplement le réglage des paramètres) n’est pas la source du problème.

L’apprentissage profond

Dans notre exemple, lors de la définition de l’architecture, on a supposé que chaque attribut du logement a une influence directe sur son prix. Cependant, il se peut qu’on ait simplifié à l’excès. Et si une combinaison d’attributs avait un effet sur le prix de vente ? Par exemple, les petites maisons anciennes pourraient être très prisées, même si ces deux attributs, pris séparément, sont généralement associés à des prix plus bas. Pour cette raison, modifions l’architecture de notre modèle, afin de prendre en compte l’interaction entre les données.

En ajoutant une couche supplémentaire à notre réseau, la relation entre les données en entrée et celles en sortie devient moins directe. Les données en entrée servent à calculer des valeurs intermédiaires (la couche du milieu), qui sont ensuite combinées pour donner le prix du logement. Cette architecture permet une interaction entre deux ou plusieurs données en entrée, ce qui pourrait mieux refléter les réalités du marché de l’immobilier.

Bien entendu, l’ajout d’une couche supplémentaire au modèle multiplie le nombre de paramètres qu’on aura à régler lors de la phase d’apprentissage, ce qui nécessite généralement une plus grande base de données d’apprentissage. Toutefois, cet effort vaudra la peine si le nouveau modèle s’avère nettement plus performant que le modèle plus simple.

L’utilisation de couches intermédiaires entre les données en entrée et en sortie ainsi que les méthodes d’apprentissage permettant d’ajuster un très grand nombre de paramètres sont connues sous le nom d’apprentissage profond (deep learning en anglais).

Depuis les années 2010, ce sont les méthodes d’apprentissage profond qui se sont fortement développées et qui ont montré leur faisabilité et de meilleures performances en général. Les modèles d’apprentissage automatique qui ne font pas appel à l’apprentissage profond ont montré et continuent de montrer, depuis plus de 50 ans, de bonnes performances. De nombreuses applications existent dans le milieu de l’industrie pour des tâches bien précises : prédiction de besoins de stocks, prédiction d’anomalies ou systèmes de recommandations. Ces méthodes nécessitent moins de données et sont en général plus interprétables que les méthodes d’apprentissage profond. Toutefois, ces mêmes méthodes ne sont pas adaptées pour créer des modèles d’IA de génération de textes, d’audio ou d’images, et n’apparaissent pas offrir les possibilités des « IA générales ». C’est pourquoi, pour la suite, nous parlerons par défaut des modèles entraînés par apprentissage profond.

Un aspect quelque peu déconcertant d’un modèle d’IA à apprentissage profond est que, bien qu’il puisse accomplir sa tâche à merveille (par exemple, reconnaître un visage humain), il ne peut pas nous dire comment il génère ses résultats. Si on regarde « sous le capot » d’un modèle d’IA après l’entraînement, on ne voit qu’une masse de paramètres sans nom, un océan de chiffres illisibles pour l’humain. Cela contraste fortement avec d’autres systèmes complexes, comme le moteur d’une voiture, où nous pouvons identifier les composants et comprendre leur contribution individuelle au fonctionnement de l’ensemble. Pour cette raison, on parle parfois de « boîte noire » pour des systèmes d’IA : on voit ce qui entre et ce qui sort, mais ce qui se passe à l’intérieur demeure un mystère.

Il faut préciser : bien qu’un modèle d’IA puisse prédire le prix d’un logement, le modèle lui-même ne sait pas ce qu’est une maison, ou un mètre carré. À l’intérieur du système, il n’existe que des nombres. Ce sont nous les humains qui attachons une signification aux entrées et aux sorties d’un modèle d’IA, mais le système ne « réfléchit » pas aux maisons, aux salles de bain ou aux euros. Il ne comprend en rien la tâche qu’il accomplit ; il ne fait que calculer « bêtement » des nombres. Fournir à un modèle d’IA une véritable compréhension des données qu’il manipule est un élément clé pour l’émergence des « IA générales ».

Les données, fondement imparfait des modèles d’IA

Dans les modèles d’IA qui nous intéressent ici, les données sont vitales : sans données, il est impossible de régler les paramètres d’un modèle. Comme indiqué précédemment, dans ces modèles, l’humain n’injecte pas d’expertise ou de connaissances liées à une tâche. Ce sont les données qui conduisent l’entraînement des modèles et donc définissent la capacité d’un modèle à réaliser correctement la tâche en question à partir des informations qu’il reçoit en entrée. Un modèle d’IA n’est pas magique et n’a pas d’intelligence propre. Cependant, grâce aux données d’entraînement, un modèle d’IA peut apprendre à identifier des motifs pertinents dans l’information qu’il reçoit en entrée et signaler la présence de ces motifs dans ses résultats. Ainsi, la qualité et la fiabilité des décisions prises par un modèle d’IA sont entièrement conditionnées par les données sur lesquelles il est entraîné. En conséquence, un modèle d’IA ne peut pas aller au-delà de ce qu’il a appris, ce qui le rend fondamentalement dépendant de l’information qu’il reçoit lors de son entraînement.

Cette dépendance est problématique dès que les données présentent des imperfections et des biais. Les données sont collectées par des humains, dans un contexte particulier. Ces deux éléments introduisent involontairement des biais qui peuvent être situationnels, culturels, sociaux ou historiques. Un modèle d’IA entraîné sur des données biaisées ne fera que reproduire et amplifier ces biais, sans que cela soit évident à première vue. C’est ainsi que des discriminations peuvent émerger dans des systèmes censés être neutres et objectifs. Nous vous proposons trois exemples.

En 2018, Amazon a dû abandonner un outil d’IA qu’il avait développé pour automatiser la sélection de CV((Jeffrey DASTIN, “Amazon Scraps Secret AI Recruiting Tool That Showed Bias Against Women  Reuters”, 10 octobre 2018, https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G. Consulté le 01.02.2025)). L’algorithme, entraîné sur des données historiques de recrutement, montrait un biais en faveur des candidats masculins. Puisque les données provenaient d’une industrie où les hommes étaient historiquement majoritaires, le modèle a appris à désavantager les femmes, rejetant même des CV contenant des termes comme « club d’échecs pour femmes ». Ce biais dans les données a conduit à des résultats discriminatoires.

Dans les hôpitaux aux États-Unis, un algorithme utilisé sur 200 millions de patients a aussi présenté un biais racial((Ziad OBERMEYER et al., “Dissecting racial bias in an algorithm used to manage the health of populations”, Science 366,447-453, 2019. DOI : 10.1126/science.aax2342.)). L’algorithme attribuait un niveau de risque aux patients pour identifier ceux qui nécessitaient des soins supplémentaires. L’algorithme se basait sur les dépenses de santé comme indicateur des besoins médicaux. Cependant, en moyenne, moins d’argent était dépensé pour les patients noirs ayant pourtant les mêmes besoins médicaux que les patients blancs. L’algorithme en avait donc déduit à tort que les patients noirs étaient en meilleure santé, ce qui avait faussé les décisions de soins. Ce biais avait réduit de moitié le nombre de patients noirs identifiés pour recevoir des soins supplémentaires, aggravant ainsi les inégalités en santé.

Une étude publiée en 2023((Moshe GLICKMAN, Tali SHAROT, “How human–AI feedback loops alter human perceptual, emotional and social judgements”, Nat Hum Behav, 2024. https://doi.org/10.1038/s41562-024-02077-2.)) examinait l’influence des interactions entre humains et IA sur les processus perceptuels, émotionnels et sociaux. À travers une série d’expériences menées sur plus de mille participants, les chercheurs ont montré que les boucles de rétroaction entre humains et IA pouvaient modifier la perception et le jugement des individus, renforçant ou atténuant certains biais cognitifs et influençant ainsi leurs décisions et comportements. Par exemple, dans une mise en scène où des participants devaient évaluer des candidats pour un poste de gestionnaire financier avec ou sans assistance d’une IA, ceux qui recevaient une recommandation implicite de l’IA avaient tendance à ajuster leurs choix pour s’y conformer, même lorsque ces suggestions étaient biaisées. Ce phénomène met en évidence un point crucial : loin d’être de simples outils neutres, les IA peuvent agir comme des agents normatifs, façonnant les valeurs et comportements humains à travers des boucles de rétroaction.

Ces trois exemples illustrent que les données sont une source potentielle d’erreur. Les données sont souvent incomplètes, fragmentaires ou imprécises. L’IA ne s’interroge pas sur la fiabilité des données d’entraînement et les modèles ne font qu’identifier des corrélations entre les motifs présents dans les données d’entrée et les données de sortie. Cette incapacité à distinguer le juste du faux rend l’IA vulnérable aux erreurs et aux manipulations. Un modèle bâti sur des fondations imparfaites restera imparfait. De plus, cette pierre angulaire instable reflète le monde humain avec ses biais, ses lacunes et ses limites. Dans ces conditions, l’abandon total de notre discernement humain en faveur de l’IA comporte un grand risque, et cette réalité nous invite à une posture de vigilance et d’humilité.

Au-delà de la confiance accordée aux données, des enjeux éthiques sont à considérer. Les données ne sont pas seulement imparfaites, elles sont aussi précieuses et sensibles. Leur collecte et leur utilisation posent des questions éthiques majeures : qui les contrôle ? Comment éviter leur exploitation abusive ? La protection des données personnelles est un enjeu fondamental dans un monde où l’IA est de plus en plus présente. Les données constituent une pierre angulaire qui peut nous servir ou nous desservir.