La quête d’une intelligence artificielle générale, aussi compétente qu’un être humain sur le plan intellectuel, est un rêve qui anime depuis longtemps la Silicon Valley. En 2000, Larry Page, l’un des fondateurs de Google, déclarait déjà : « l’intelligence artificielle serait la version suprême de Google(1) ». Dans la région californienne, qui a été témoin de la naissance des ordinateurs et des plus grandes entreprises technologiques, la science-fiction est moins lue comme « fiction » que comme un exercice de l’imagination, une manière de s’entraîner à penser des futurs qui, sans être certains, n’en sont pas moins possibles. Si la technologie a été un facteur déterminant de l’histoire de l’humanité jusqu’ici, ne faut-il pas chercher à anticiper ou même hâter ses progrès futurs ?
Les idées transhumanistes exercent une influence déterminante sur l’orientation de la technologie. Dans le transhumanisme, la technologie est conçue comme une force libératrice qui ouvre de nouveaux horizons à l’humanité en augmentant sa puissance d’action et en lui permettant à terme de s’affranchir complètement des contraintes naturelles, telles que les maladies, le vieillissement ou les catastrophes environnementales. L’optimisme des transhumanistes n’est pourtant pas naïf, et beaucoup sont conscients des dangers qui accompagnent le développement de nouvelles technologies. Ils sont souvent les premiers à envisager les risques d’usages malveillants, ou la possibilité d’une perte de contrôle ; mais, selon eux, la réalisation du plein potentiel d’une humanité augmentée est trop importante pour être abandonnée. De toute façon, beaucoup considèrent ces développements technologiques comme inévitables, que ce soit d’ici dix ou cent ans.
Or, dans une optique transhumaniste, l’intelligence artificielle générale est un peu la reine des technologies, celle qui pourrait accélérer le développement de toutes les autres. Certains imaginent un processus d’amélioration continue qui aboutirait soudainement à une superintelligence capable de résoudre tous nos problèmes. D’autres, comme le chercheur en robotique Hans Moravec, l’un des premiers à croire au potentiel des réseaux de neurones, estiment que les superintelligences artificielles seraient les successeurs légitimes de l’humanité :
« Sauf cataclysme, je considère le développement de machines intelligentes inévitable à court terme. […] Il est possible qu’assez rapidement elles viennent à nous remplacer...