Robopocalypse versus roboptimisme

C’est peut-être la faute du roman que je suis en train d’écrire et pour lequel j’ai lu — et continue de lire — tout ce qui se raconte sur les robots et l’intelligence artificielle, mais j’ai développé ces derniers mois une véritable passion pour ces chères boîtes de conserve sur pattes. J’ai parcouru les pages d’innombrables essais techniques, j’ai aussi lu quelques romans (même si je suis moins à l’aise avec la fiction des autres quand j’en écris moi-même, c’est une forme de parasitisme), et je suis abonné à un nombre faramineux de comptes Twitter et de feeds RSS sur le sujet, qui me renvoient les dernières actualités du monde de la robotique (un mot inventé par Asimov, qui pensait d’ailleurs en l’utilisant qu’il existait déjà). Et, c’est assez flagrant, je vois très nettement se détacher deux tendances : les roboptimistes et ceux qui craignent la robopocalypse.

Les roboptimistes, qui comptent dans leurs rangs bon nombre de roboticiens ou d’entreprises de robotique en passant, expliquent que les robots incarnent un certain futur de l’humanité, un futur enviable qu’ils travaillent à rendre possible, notamment par la fabrication de robots humanoïdes de soin, avec dans la ligne de mire les personnes âgées, les patients atteints d’Alzheimer ou d’autisme, et plus généralement toutes les personnes dépendantes qui pourraient avoir l’usage d’un androïde qui ne se fatigue jamais, qui ne dort jamais, qui ne perd jamais patience et qui donne toujours le meilleur de lui-même. Mais les robots infirmiers ne sont pas les seuls combattants dans la bataille pour un futur meilleur : robots travailleurs, ouvriers, bâtisseurs, conducteurs (les voitures sans chauffeur sont presque là), babysitters, cuisiniers, etc. seront dans un futur proche capables de nous aider dans nos tâches les plus pénibles et rébarbatives. Les roboptimistes pensent que ces compagnons synthétiques nous aideront dans notre vie de tous les jours et qu’il n’y a rien de mal à cela. Ils pourront même devenir des compagnons de travail, devenant ainsi des robots collaboratifs.

Les partisans de la robopocalypse, en revanche, pensent les choses différemment. D’abord, il y a ceux qui pensent que l’intelligence artificielle est une menace pour l’humanité tout entière : le physicien Stephen Hawking a exprimé ses craintes — allant jusqu’à dire que “l’intelligence artificielle pourrait mettre fin à l’humanité” —, tout comme Elon Musk ou Bill Gates. Laisser les machines devenir de plus en plus intelligentes serait en effet risquer à long terme de voir ces mêmes machines nous supplanter, voire carrément prendre le pouvoir comme dans les pires scénarios de science-fiction à la Terminator. Ces peurs, si elles semblent être légitimes (même si une machine bien programmée ne fera jamais davantage que ce pour quoi elle a justement été programmée), sont fondées sur des hypothèses nébuleuses dont il faudra plusieurs décennies (ou siècles) pour vérifier la plausibilité. Et puis il y a ceux qui voient les risques à plus courts termes : les robots, c’est un fait, “volent” des emplois, ou plutôt ils les occupent de manière plus efficace qu’un être humain. À terme, ce pourraient être des pans entiers de l’emploi industriel qui disparaîtraient dans un premier temps, puis de l’emploi tout court. C’est un fait, les robots remplacent les hommes là où des tâches pénibles et répétitives sont exigées, notamment sur les chaînes d’assemblage. Mais la menace ne couve plus seulement sur les “cols bleus”, mais aussi sur les “cols blancs” : chirurgiens, avocats, juristes, secrétaires, comptables et tant d’autres devraient au fil des ans voir leurs effectifs se réduire au profit de robots plus performants. Cette évolution, que d’aucuns voient comme une dégradation de l’humanité même, nous entraînerait sur la pente glissante du chômage de masse et du grand remplacement.

Il y a sans doute un peu de vrai dans les deux positions, mais à titre personnel mon cœur balance clairement du côté du roboptimisme. Je crois en l’efficacité d’un logiciel bien codé et s’il est une chose dont les machines ne disposent pas (encore?), c’est bien d’imagination : peu de risques donc qu’elles fomentent des plans de conquête dans l’immédiat, surtout si on ne le leur a pas ordonné. Oui, des humains mal intentionnés pourraient (et pourront) se servir des machines pour répandre le chaos et le mal, mais on pourrait dire la même chose de la poudre à canon et de la kalachnikov. Même avec un caillou ou un bâton, l’homme est capable du pire.

Peut-être à tort, je vois dans les robots une possibilité de nous rendre nous-mêmes plus humains. Les robots sont des miroirs de notre propre humanité : ils ne nous renvoient que ce que nous projetons en eux. Et de boucler avec un sujet qui me tient particulièrement à cœur : le revenu inconditionnel d’existence, aussi appelé revenu de base, une sorte d’allocation universelle qui serait versée à chaque citoyen sans aucune condition (pas besoin de travailler pour l’obtenir), un nouveau paradigme économique où l’on reconnaîtrait enfin qu’à l’heure de la grande automatisation et de la rationalisation, il n’y a plus assez d’emplois pour tout le monde et qu’il faut néanmoins que chacun puisse conserver sa dignité.

À mon sens, la robotisation exponentielle de la société est une formidable opportunité de préparer en parallèle l’arrivée imminente d’un revenu de base. Pour moi, la robotisation est intrinsèquement liée au revenu inconditionnel d’existence : les deux questions ne peuvent pas être posées séparément. Les robots nous dégageront du temps, temps que nous pourrons mettre à profit pour éduquer nos enfants, nous occuper de nos parents vieillissants, créer ou simplement profiter de la vie. Mais il faut impérativement que ce temps libéré ne soit pas un manque à gagner. La robotisation ne doit pas rendre plus pauvres ceux qui le sont déjà : elle doit simplement endosser les responsabilités que nous ne voulons plus prendre. Car ces emplois que nous volent les robots sont souvent des emplois que nous ne voudrions à aucun prix occuper, ou des emplois que nous « laissons généreusement » à des franges particulièrement défavorisées de la population. Mais tout le monde a le droit à la dignité. Et tout comme le revenu de base n’empêcherait personne de travailler pour gagner plus d’argent, les robots pourraient nous permettre de choisir de les laisser travailler à notre place si nous estimions avoir mieux à faire.

En bref, les robots pourraient devenir nos meilleurs amis si nous pensons d’abord au bien-être de l’homme avant celui de l’économie.

5 pensées sur “Robopocalypse versus roboptimisme”

  1. J’ai une position intermédiaire entre le roboptimisme et la peur d’une robopocalypse, tour à tour enthousiasmé par les progrès sidérants de la robotique (ce petit robot capable d’apprendre tout seul comment se déplacer, qu’on voit dans une conférence Ted que tu avais postée sur Twitter, m’a laissé entre admiration et flippe lancinante) et angoissé par quelque chose de plus profond que la seule peur des Terminators. C’est le regard que les hommes porteront sur eux-mêmes à travers les robots qui m’inquiète. Je me demande si les robots ne serviront pas, un jour où l’autre, d’arguments pour la tentation nihiliste de l’humanité.

    Plus nous fréquentons des machines intelligentes, plus nous sommes tentés de nous voir nous aussi comme des machines, c’est un effet pervers connu (et une obsession personnelle, car j’y ai cru pendant longtemps). Mais aussi, je me demande si nous ne finirons pas par considérer que les robots sont des machines bien supérieures à nous dans tous les domaines.

    Dans le futur, non seulement les robots sauront mieux effectuer les tâches techniques et intellectuelles que nous, mais en plus ils ne feront jamais de conneries, ils ne s’éloigneront jamais des principes moraux que nous leur avons inculqués (je pense aux lois d’Asimov), ils ne s’entretueront pas, ne provoqueront pas de conflits, ne seront pas violents, à la différence de nous, pauvres bestioles médiocres et mal finies, encore soumises à la jalousie et aux passions destructrices.

    Je crains qu’un jour, nous finissions par nous trouver moins valables que les machines (d’ailleurs, en pensée, on a déjà commencé : le robot plus humain que les humains est un thème récurrent de la science-fiction).

  2. Pour le problème des scénarios apocalyptiques, on mentionne souvent le problème d’une fonction utilitaire mal gaulée, comme le fameux « collectionneur de trombones » (http://wiki.lesswrong.com/wiki/Paperclip_maximizer). En gros, une IA qui devient très efficace va remplir très efficacement _son_ but, sans tenir compte de rien d’autre à côté. Et tant pis si dans son but, on a oublié de lui dire qu’il fallait pas buter les gens.

    Mais je crois qu’on se goure souvent dans cette analyse : on suppose qu’une super-IA se bornera à faire ce qu’on lui avait demandé. Alors qu’en fait, une intelligence aussi éloignée de la nôtre que nous ne sommes de la fourmi, on ne sait rien de son comportement possible.
    Je veux dire, l’Homme est codé à l’origine pour se reproduire et survivre, et on arrive souvent à se détourner à merveille de ce but premier.

  3. J’irais même plus loin que toi : peut-être que les robots seront l’espèce — la première synthétique — qui succèdera à l’homme après son extinction (ou son départ de la planète). Peut-être alors se souviendront-ils de leurs créateurs comme de médiocres irresponsables, ou peut-être nous consacreront-ils un culte, qui sait ?

  4. Oui, j’imagine que si une intelligence devient si puissante qu’elle nous surpasse de loin et s’éloigne de nos modèles de pensée (mais essayer de comprendre pourquoi elle ferait une chose pareille?), alors dans ce cas pourrions-nous nous retrouver dans une position délicate. C’est la position des singularitaristes. Mais cela demeure une simple hypothèse à compter que cette singularité est, en l’état actuel de la techno, hautement improbable. L’avenir nous dira si les moyens techniques nécessaires à la création d’une telle IA arrivent à être mis au point. Des chercheurs prévoient une rupture dans la loi (empirique) de Moore : les capacités des machines ne pourront plus doubler tous les 18 mois pour de basses raisons techniques : au bout d’un moment, on ne peut pas graver plus fin. Il faut alors voir du côté des ordinateurs quantiques ou à ADN, mais ces techniques sont loin d’être au point et on ne sait même pas si elles pourront un jour être stables.
    Pour résumer… on n’en sait rien et on verra bien ^^

  5. Je suis profondément d’accord avec votre propos. Je crois également que l’homme a, pour le moment, tenté de concevoir la machine à son image. Avec le souci récurrent que l’homme ne parvient à récréer que ce qu’il perçoit (logique ?), ce qu’il a « discrétisé », ce qu’il a « formalisé », relevé. Et ces attributs que nous avons relevé chez nous pour les projeter dans la machine, sont peut-être ce qu’il y a de moins humains en nous : productivité, efficacité, valeur travail, faits, actes, logique, etc. Tout ce qui est du ressort du sentiment, de l’implicite, des émotions, de l’intuition — tout ce qui fait la beauté de l’Homme en somme — tout ceci est absent des machines car nous ne savons poser de mots scientifiques dessus. C’est pour cette raison (je crois) que nous sommes actuellement en train de bâtir un monde machinique, automatisé, dénué (et ce, de plus en plus) de ce qu’on pourrait qualifier « d’humanité ». Un monde de machines dans lequel, après avoir échoué à concevoir la machine à notre image, nous nous rabaisserons à son niveau (cad que nous supprimerons et perdrons peu à peu cette humanité qui nous est propre : sentiments, intuition, désirs, etc.) pour ne pas perdre la face. Pour entretenir notre illusion d’Êtres divins capables de donner la vie. Alors qu’il suffirait peut-être simplement de reconnaître notre « erreur ». De reconnaître que le but n’est pas de créer un nouvel être à notre image, mais peut-être un nouvel être, lui-même condition nécessaire d’une nouvelle humanité.
    Plutôt que d’apprendre aux humains rigueur et perfection (vaine tentative, sur ce terrain-là nous aurons toujours une longueur de retard sur la machine) ou encore d’apprendre aux robots à faire des erreurs, il est peut-être temps de réfléchir à une nouvelle co-existence. Les humains à la création du rêve et de l’art, les machines à l’entretien de la structure de ce monde dans lequel évoluerait notre nouvelle humanité.
    Et je rejoins pour ça l’idée du revenu de base soulevée dans l’article. Les machines sont un cadeau, pas un fléau. À nous de trouver la bonne orientation, la bonne voie à suivre. Mais il est fort probable que des choix importants se fassent dans les années à venir, et que nous — artistes — (?) ayont un rôle capital à jouer : celui de prouver, de démontrer, de « montrer » cette part d’humanité qui fait de nous des humains. Parce qu’une machine ne nous racontera jamais d’histoire capable de nous faire pleurer, ou de composer un morceau qui nous transporte — du moins pas sans l’aide de l’humain entropique et ses éternelles erreurs, approximations, ses actes chaotiques et désordonnés. Et ça, le système actuel (le capitalisme ? la société de manière générale ? je suis mauvais sur ces questions-là — elles m’intéressent peu) ne l’a pas compris. Et c’est grave, parce que les artistes se meurent — et avec eux les outils et processus qui permettent de colorer ce monde à apparence terne et froide auquel notre condition humaine nous enchaîne cruellement.
    Moralité ? cultivons ce qui fait de nous des humains. Pas ce qui fait de nous des machines.

    Oh, et à ce propos, encore merci Neil pour la tenue de ce blog (qu’une machine ne pourrait tenir…) : vous lire est toujours un plaisir, et cet engagement émotionnel palpable dans vos articles (que je crois percevoir du moins) ajoute une couche d’humanité (oui ok, je devrais peut-être commencer à penser à élargir mon vocabulaire) vraiment appréciable. Surtout lorsque le fond est, quant à lui, systématiquement présent.

Les commentaires sont fermés.