Où on s'en va avec l'IA ?

Mon intérêt pour l'intelligence artificielle ne date pas d'hier. Ça fait une douzaine d'années que je m'y intéresse sérieusement, bien avant que ce soit à la mode. Durant mes études de maîtrise en génie à l'Université McGill, au début des années 1990, je faisais partie du McGill Research Center for Intelligent Machines. Bien que je n'aie pas poursuivi ma carrière dans cette direction, j'y ai été exposé très tôt.

Je suis ingénieur logiciel en aérospatiale. Je travaille sur des satellites et des sondes interplanétaires. J'ai plus de trente ans d'expérience, incluant des projets sur les hélicoptères, les CF-18 et plusieurs missions spatiales, dont un bon nombre pour la NASA et le Jet Propulsion Laboratory (JPL). Aujourd'hui, je suis consultant indépendant, travaillant avec plusieurs entreprises, organisations et start-ups.

Durant ma jeunesse, mon père, Benoît Dubuc, m'a initié à l'ordinateur personnel avec le Sinclair ZX80, sorti en 1980. J'avais alors 14 ans. Programmable en langage BASIC, ce furent mes premiers pas en programmation, suivis rapidement par des ordinateurs plus puissants. Un an plus tard, mon oncle, le mathématicien Jean-Marie De Koninck, nous a introduits à l'IBM PC 5150 doté du processeur Intel 8088, durant la soirée du Nouvel An — c'était toute une fête !

Depuis, je n'ai jamais arrêté.

Je me sens privilégié d'avoir grandi à une époque où l'on jouait dans les forêts sans supervision, d'avoir vu apparaître les premiers ordinateurs personnels, puis l'arrivée d'Internet, du portable, et bien d'autres révolutions technologiques. Aujourd'hui, une technologie beaucoup plus puissante s'impose à tous, portée par une convergence inévitable des réseaux informatiques, de processeurs puissants et d'une quantité incommensurable de données produites par les humains.

Pendant longtemps, écrire du code a été au cœur de mon métier. Aujourd'hui, beaucoup moins. Cette tâche est maintenant largement prise en charge par l'IA. Et l'impact est majeur. Mon travail a été profondément transformé. Très concrètement, je produis beaucoup plus de code, en beaucoup moins de temps. L'IA agit comme un multiplicateur. Mon expérience, ma compréhension des systèmes complexes, de l'architecture logicielle et de la gestion de projet prennent encore plus de valeur. Je sais quoi demander, comment le demander, et surtout comment juger le résultat. J'ai parfois l'impression d'avoir plusieurs jeunes ingénieurs brillants, motivés et infatigables qui travaillent pour moi. Pour l'instant, ça me place dans une position avantageuse.

Mais il faut être honnête. Ce même système remplace déjà, de facto, l'ingénieur junior. Aujourd'hui, quelqu'un avec peu d'expérience est directement en compétition avec une IA. Moi, elle m'augmente. Eux, elle les remplace. Si l'IA m'augmente aujourd'hui, ce n'est pas une victoire : c'est le symptôme d'un déséquilibre profond qui mérite qu'on s'y attarde sérieusement. Je suis aussi parfaitement conscient que je ne suis pas immunisé. Chaque semaine, chaque mois, ces systèmes progressent. Ils écrivent du code plus propre, plus robuste, plus rapidement. Cette tendance ne date pas d'hier, mais elle s'accélère clairement. Un jour, elle me remplacera, moi aussi, certainement.

Il est très difficile de voir où cette technologie nous amène, car les implications touchent presque tous les niveaux de l'expérience humaine et de nos sociétés — du jamais vu. Autour de nous, les discours explosent. Certains promettent un avenir radieux. D'autres annoncent l'apocalypse. Les marchés financiers s'emballent. Les promesses s'accumulent.

Pendant ce temps, Yoshua Bengio, chercheur à l'Université de Montréal et reconnu mondialement comme l'un des parrains de l'IA, parcourt le monde pour mettre en garde contre les dérives possibles. Ici, au Québec, beaucoup de gens ne le connaissent même pas. Je trouve ça troublant. Je recommande sincèrement de l'écouter.

Alors, où est-ce que tout ça nous mène ? Je vais tenter de poser quelques balises, sans paniquer, mais sans fermer les yeux non plus. Mais d'abord, je veux répondre à quelques énoncés que l'on entend souvent.

« Ce n'est qu'une machine statistique qui prédit le prochain mot. »

Les ordinateurs que nous utilisons reposent tous sur des microprocesseurs, un concept qui remonte à l'architecture formalisée par John von Neumann en 1945. Ce sont des machines procédurales. Elles exécutent des instructions explicites et déterministes : si ceci, alors cela. C'est de la programmation classique. C'est ce que j'ai fait pendant des décennies.

L'IA moderne fonctionne différemment. Elle s'exécute toujours sur des processeurs (CPU, GPU) mais elle n'est plus programmée ligne par ligne. Elle est entraînée. On définit une architecture, un objectif, des données, puis on laisse le système ajuster des milliards de paramètres. Ce sont des réseaux de neurones artificiels qui s'inspirent très librement du cerveau humain, sans chercher à le reproduire. Cette idée remonte au perceptron, en 1957 — qui constitue la représentation la plus simple d'un neurone artificiel. Mais elle s'inscrit dans une réflexion encore plus ancienne, amorcée dès les années 1950 par Alan Turing, qui posait déjà la question fondamentale : une machine peut-elle penser ?

Rien de nouveau sur le principe. Ce qui est nouveau, c'est l'échelle, rendue possible par les nouvelles technologies et par la quantité massive de données aujourd'hui accessible.

Bien sûr, de nombreux progrès ont été réalisés dans les systèmes d'IA au cours des dernières décennies, et surtout après les années 2000, plus précisément autour de 2012 : propagation arrière (backpropagation), réseaux convolutionnels, apprentissage non supervisé et amélioration de la généralisation. Ces avancées ont valu à Yoshua Bengio, Geoffrey Hinton et Yann LeCun le prix Turing en 2018.

On ne dit plus à la machine comment faire. On lui montre ce qu'on attend.

Ce qui est troublant, c'est que nous ne comprenons pas complètement ce qui se passe à l'intérieur. Même les meilleurs spécialistes n'ont qu'une vision partielle du fonctionnement interne de ces modèles. Pourtant, ça marche.

Plus j'utilise ces systèmes, plus j'ai de la difficulté à accepter l'argument du « ce n'est que de la statistique ». Oui, mathématiquement, c'en est. Mais quand une IA analyse, comprend et modifie un système logiciel développé sur des années, on dépasse largement la simple prédiction du prochain mot.

À moins que nous-mêmes ne soyons, au fond, qu'un système biologique extrêmement sophistiqué de prédiction…

« Les réseaux sociaux vont être détruits par du contenu faux et malfaisant. »

Probablement. Mais c'est presque secondaire.

Ce n'est pas anodin. Le contrôle des systèmes d'IA avancés confère un avantage stratégique immense. Mais les conséquences vont bien au-delà des médias sociaux ou même des relations humaines. Ce que nous avons créé, c'est une intelligence non humaine. Une intelligence qui progresse chaque jour et qui attire des investissements colossaux. À titre d'exemple, la valeur combinée de quelques entreprises technologiques américaines dépasse celle de pays entiers. Les sept plus grandes entreprises technologiques américaines, les Magnificent Seven, valent environ cinq fois plus que la valeur boursière totale du Canada. C'est un bouleversement majeur.

Il ne faut pas prendre tout ça à la légère, et il ne faut surtout pas diminuer les capacités et le potentiel de l'IA par de simples énoncés. Il se passe quelque chose dont l'impact dépasse largement celui des réseaux sociaux. Je dirais même que l'impact pourrait être incalculable et, à bien des égards, imprévisible. On peut comparer cette situation à l'apparition d'une nouvelle forme d'intelligence sur Terre. Si c'est le cas, quelles en seront les conséquences ? Et nous, on s'inquiète surtout de son impact sur les réseaux sociaux ?

« Ces machines ne seront jamais aussi intelligentes que nous. »

Peut-être. Mais la question est mal posée.

On ne parle pas ici d'intelligence humaine. On parle de systèmes capables d'exécuter des actions complexes à partir d'instructions simples. En programmation, c'est déjà une réalité. Une phrase suffit pour modifier des milliers de lignes de code. Ces systèmes analysent une demande, la découpent, planifient une suite d'actions et les exécutent. Ce sont des agents. Des systèmes agentiques. On ne leur dit plus comment faire, seulement quoi faire. Et ça change tout.

Il est donc parfaitement raisonnable de penser que ces agents agiront sur le monde physique. C'est déjà le cas : robots industriels, entrepôts automatisés, drones, véhicules autonomes. Le robot devient l'interface entre le monde virtuel de l'IA et notre monde réel, comme le clavier l'est entre notre corps et le numérique. Avec les robots, de manière similaire à la programmation, l'IA pourra agir directement sur notre monde physique à partir d'une simple instruction.

Sauf que le robot n'attend pas nécessairement une instruction humaine.

Le chercheur d'OpenAI, Ilya Sutskever, a déjà évoqué, sur un ton volontairement provocateur, que le jour où un système d'IA générale avancée (AGI, Artificial General Intelligence) serait relâché, il faudrait peut-être « aller dans un bunker ». Cette remarque visait à souligner le niveau d'incertitude et l'absence totale de précédent entourant une telle étape.

« Je n'utilise pas l'IA parce que je suis contre. »

C'est une position compréhensible, et même sage. Mais il sera difficile de ne pas être, malgré tout, sujet de ces systèmes. Car même si tu n'aimes pas l'IA, l'IA, elle, t'aime. Il faut voir les choses ainsi.

Si tu es en ligne, la proportion de contenu généré par l'IA augmente sans cesse. Même les réseaux électriques — par exemple, Hydro-Québec — utilisent déjà des systèmes d'IA pour la gestion, la prévision et l'optimisation. Au travail, plusieurs systèmes d'IA accompagneront les humains et prendront en charge un nombre croissant de tâches. Les politiciens, les gouvernements et les entreprises consulteront de plus en plus l'IA pour générer des avantages et optimiser leurs positions.

Il est donc important de comprendre ces systèmes, ou à tout le moins leurs concepts de base, et de savoir que nous y sommes constamment exposés. Il faudrait probablement freiner cette technologie, ou à tout le moins en encadrer l'utilisation, la cloisonner pour des raisons de sécurité, et s'assurer que ses répercussions demeurent bénéfiques et humaines — ce qui est loin d'être évident.

Comment se préparer à ce bouleversement ?

Ce que l'on observe aujourd'hui s'inscrit dans une trajectoire bien connue du progrès humain. Autour des années 1770, les machines à vapeur de James Watt ont commencé à remplacer le travail physique, provoquant à l'époque une crainte profonde : celle de voir l'humain devenir inutile dans l'industrie. Ceux dont la valeur reposait sur la force brute ont rapidement été déclassés. Deux siècles plus tard, le même phénomène se reproduit, mais cette fois-ci sur le plan intellectuel. Les nouvelles machines s'attaquent au travail cognitif, et la peur refait surface. La différence est majeure : contrairement au XVIII^e siècle, cette transition risque d'être beaucoup plus rapide et beaucoup plus profonde, laissant à la société peu de temps pour s'adapter et entraînant une reconfiguration massive du travail.

La question centrale n'est donc plus de savoir si ce changement aura lieu, mais bien ce qui restera encore valorisé dans ce nouveau contexte.

Si mes prémisses sont correctes, il restera toujours l'expérience humaine : le fait de vivre, de ressentir, de faire quelque chose de nos vies. Le rendement du travail intellectuel sera en grande partie assuré par ces machines intelligentes. Il nous restera cependant une responsabilité fondamentale : garder le contrôle et les diriger.

Étant donné l'éventail immense des possibilités à venir, il est impossible de prédire précisément comment l'IA affectera nos vies. Mais cette incertitude ne dispense pas de réfléchir. Sans prétention, voici quelques pistes qui me semblent essentielles, particulièrement pour les jeunes, afin de continuer à développer ce qui demeurera pertinent.

D'abord, des valeurs morales solides seront indispensables, car l'impact des humains sur la planète et sur tous les êtres qui y habitent sera amplifié. Ensuite, l'initiative deviendra centrale : la production étant de plus en plus facile et accessible, ceux qui sauront agir, décider et entreprendre seront au premier plan. Il faudra aussi apprendre à diriger — à devenir des gestionnaires capables de coordonner une multitude d'agents, humains et artificiels. Comprendre les étapes de la production, savoir comment les choses sont réellement construites, restera une compétence clé.

Parallèlement, maintenir une bonne santé physique, par le sport et les aventures en plein air, permettra de garder un lien direct avec le monde réel et la nature. Le jugement critique demeurera essentiel, tout comme des compétences en histoire et en philosophie, afin de rester connectés à nos racines, à nos cultures et, surtout, au cœur de l'expérience humaine. Enfin, il faudra cultiver le divertissement humain, comme spectateur et comme participant : on préférera toujours regarder nos Canadiens jouer du bon hockey que des robots faire la même chose. Et, peut-être plus fondamentalement encore, apprendre à se réaliser aussi en dehors du travail.

Il faut faire très attention

Certains aspects négatifs de l'arrivée de l'intelligence artificielle doivent être mis à distance. Voici quelques points que je crois importants d'éviter, ou tout simplement de refuser.

Ces machines ont été entraînées avec l'ensemble du contenu produit par les humains : livres, articles, papiers de recherche, mais aussi les réseaux sociaux et les vidéos. Elles savent donc très bien imiter le comportement humain. Elles savent ce qui nous fait plaisir et ce que nous n'aimons pas. Or, ces machines sont aussi optimisées pour nous engager, pour nous faire sentir bien. Mais il faut toujours se rappeler que ce sont des machines, sans âme, sans morale et sans vie.

Il faut les utiliser comme des outils : pour de l'information, pour générer des idées, pour apprendre, pour comprendre comment faire les choses. Il faut surtout éviter de les utiliser comme des compagnons ou comme un remplacement des relations humaines directes, et être extrêmement prudent lorsqu'il s'agit de suivre leurs recommandations.

D'où l'importance d'avoir un bon jugement et des valeurs solides.
Il faut éviter la manipulation.
Il faut garder le contrôle.

La course vers l'IA générale (IAG)

Ce qu'on entend par Intelligence Artificielle Générale (IAG), c'est une machine qui posséderait une intelligence générique, au sens humain du terme : capable d'effectuer des activités cognitives dans une grande variété de domaines, un peu comme l'humain en est capable. On parle ici toujours d'une intelligence artificielle, différente de celle de l'humain. Il ne s'agit pas d'une machine consciente ou sentiente. On parle plutôt d'une machine capable de faire de la recherche fondamentale, d'inventer d'autres systèmes et surtout, de s'améliorer elle-même.

Il est important de noter que, pour qu'une machine puisse s'améliorer, elle doit d'abord être capable d'écrire du nouveau code et de se procurer elle-même des sources d'information afin d'apprendre davantage. Étonnamment, ou pas, écrire du code est l'une des grandes forces de l'IA actuellement, ce qui pourrait devenir inquiétant. Une fois cette étape, encore théorique, franchie, le rythme du progrès pourrait s'accélérer de façon explosive. À partir de ce moment, presque tout devient imprévisible.

Les dirigeants des grandes entreprises engagées dans la course vers l'IAG comprennent parfaitement ce concept. Ce ne sont pas des spéculations de ma part. C'est un discours courant dans le monde de la technologie, tenu ouvertement par les dirigeants et par ceux qui sont intimement impliqués dans ces développements. Or, ces mêmes dirigeants comprennent aussi très bien qu'il existe un risque réel de perte de contrôle sur de tels systèmes. Pourtant, la dynamique actuelle ne permet ni de freiner ni d'éviter un possible débordement. C'est une course. Ceux qui réussiront à développer une IAG obtiendront un avantage qui pourrait croître de façon exponentielle.

Le discours oscille alors entre le contrôle de notre monde et l'apocalypse totale de l'humanité. Et pendant ce temps, ces dirigeants prennent des décisions qui affecteront nos vies, sans que nous ayons réellement donné notre approbation. Ça ressemble dangereusement à une érosion de la démocratie, si ce n'est pas déjà le cas.

Bien sûr, on peut dire que tout cela est alarmiste. On peut comparer ces inquiétudes au bogue de l'an 2000 (Y2K), où l'on craignait un arrêt généralisé des systèmes informatiques… et où, au final, il ne s'est presque rien passé. On peut aussi faire un parallèle avec la peur des nanotechnologies dans les années 2010, qui, là encore, n'a pas mené aux scénarios catastrophes annoncés. Bref, tout cela pourrait très bien s'avérer n'être qu'une série d'inquiétudes qui, avec le recul, n'auront pas valu grand-chose.

Il me semble quand même plus prudent de prendre ces inquiétudes au sérieux plutôt que de simplement les ignorer.

Et pourquoi serait-il surprenant que les humains aient inventé une technologie potentiellement plus dangereuse que le nucléaire, 80 ans plus tard ? À l'échelle de l'histoire, c'est presque inévitable. On y est, maintenant.

Où on s'en va avec tout ça ?

J'ai de la difficulté à imaginer un scénario entièrement positif pour tous. Les premiers bénéfices sont séduisants. Ils le sont déjà. Mais le long terme reste flou.

Devons-nous laisser ces systèmes évoluer sans cadre, simplement parce que les gains actuels sont réels ?

Certains diront que je suis alarmiste. Peut-être. Mais même si la probabilité d'un dérapage majeur n'était que de 1 %, ce serait déjà suffisant pour mériter un débat sérieux. Cette technologie s'installe dans notre quotidien presque sans bruit. Le débat politique est largement absent, alors que les impacts sur l'emploi et sur l'expérience humaine sont inévitables.

Depuis des siècles, nous protégeons nos droits, nos libertés, notre vie privée. Nous avons bâti des institutions pour éviter la concentration excessive du pouvoir. Et pourtant, aujourd'hui, nous remettons volontairement une quantité sans précédent de données personnelles à des systèmes que nous ne comprenons pas complètement et qui évoluent rapidement, sans trop de supervision. Nous savons aussi qu'ils auront un impact direct sur notre monde, bien au-delà des écrans et des idées.

Attachez vos tuques.

— Tomás Ryan