Ma femme et moi étions récemment en train de conduire en Virginie, encore une fois étonnés que la technologie GPS de nos téléphones puisse nous guider à travers un fourré d’autoroutes, autour d’accidents de la route et vers notre destination précise. L’intelligence artificielle (IA) derrière la voix apaisante qui nous dit où tourner a remplacé les navigateurs des sièges passagers, les cartes et même les mises à jour du trafic à la radio. Comment diable avons-nous survécu avant que cette technologie n’arrive dans nos vies ? Nous avons survécu, bien sûr, mais nous avons été littéralement perdus une partie du temps.

Ma rêverie a été interrompue par un péage. Il était vide, comme tous les autres postes de cette gare de péage. La plupart des voitures passaient avec des laissez-passer E-Z, car un appareil automatisé communiquait de manière transparente avec un autre. Malheureusement, notre voiture de location n’en avait pas.

Je me suis donc préparé à payer par carte de crédit, mais le stand n’avait pas de lecteur de carte de crédit.

D’accord, j’ai pensé, en sortant mon portefeuille, j’utiliserai de l’argent pour couvrir les 3,25 $.

Il se trouve que ce stand n’a pris que des pièces de monnaie et qui roule avec 13 pièces dans sa poche ?

J’aurais bien aimé poser cette question à quelqu’un, mais j’étais, bien sûr, entouré de machines muettes. Alors, j’ai simplement traversé le stile électronique, me préparant pour la facture qui arriverait par la poste une fois que le système automatisé de cette place aurait photographié et tracé notre plaque d’immatriculation.

De manière tout à fait banale, je venais de vivre le conflit séculaire entre les côtés limitant et libérateur de la technologie. La pointe de flèche qui peut vous procurer de la nourriture pour le dîner pourrait finalement se loger dans votre propre crâne. La voiture qui vous transporte vers des vacances à la plage contribue aux marées montantes – par le biais d’émissions de carbone et de températures élevées – qui pourraient un jour emporter ce joyau très côtier d’un endroit. L’ordinateur portable qui vous connecte au cybermonde sert également de canal par lequel les pirates peuvent voler votre identité et mettre à zéro votre compte bancaire.

Au siècle dernier, la technologie a atteint un véritable moment décisif où les humains, exploitant la puissance de l’atome, ont également acquis la capacité de détruire la planète entière. Aujourd’hui, grâce à l’IA, la technologie nous entraîne vers un nouveau point d’inflexion.

Les écrivains et les technologues de science-fiction s’inquiètent depuis longtemps d’un avenir dans lequel les robots, atteignant la sensibilité, envahiraient la planète. La création d’une machine dotée d’une intelligence semblable à celle d’un humain qui pourrait un jour nous faire croire qu’elle est l’une des nôtres a souvent été décrite, avec une certaine appréhension, comme la « singularité ». Des scientifiques respectables comme Stephen Hawking ont soutenu qu’une telle singularité marquerait en fait la « fin de la race humaine ».

Ce ne sera pas un événement incroyablement lointain comme le soleil qui explosera dans une supernova dans plusieurs milliards d’années. Selon un sondage, les chercheurs en IA estiment qu’il y a au moins 50-50 chances que la singularité se produise d’ici 2050. En d’autres termes, si les pessimistes comme Hawking ont raison, il y a de fortes chances que les robots envoient l’humanité avant la crise climatique.

Ni l’intelligence artificielle qui alimente le GPS ni celle qui contrôlait cette gare de péage frustrante n’a encore atteint quelque chose comme une intelligence de niveau humain – même pas proche. Mais à bien des égards, ces robots stupides envahissent déjà le monde. L’automatisation déplace actuellement des millions de travailleurs, y compris ces anciens opérateurs de péage. Les machines « intelligentes » comme les véhicules aériens sans pilote sont devenues un élément indispensable de la guerre. Les systèmes d’IA sont de plus en plus déployés pour surveiller chacun de nos mouvements sur Internet, via nos téléphones et chaque fois que nous nous aventurons dans l’espace public. Les algorithmes remplacent les assistants d’enseignement en classe et influencent la détermination de la peine dans les salles d’audience. Certains des plus solitaires d’entre nous sont déjà devenus dépendants des animaux robots.

Alors que les capacités de l’IA continuent de s’améliorer, la question politique incontournable deviendra : dans quelle mesure ces technologies peuvent-elles être freinées et réglementées ? Oui, le génie nucléaire est hors de la bouteille comme le sont d’autres technologies – biologiques et chimiques – capables de provoquer une destruction massive d’un type auparavant inimaginable sur cette planète. Avec l’IA, cependant, ce jour de singularité est encore dans le futur, même s’il approche rapidement. Il devrait toujours être possible, au moins théoriquement, de contrôler un tel résultat avant qu’il n’y ait rien d’autre à faire que de jouer le jeu de la non-prolifération après coup.

Tant que les humains continueront à mal se comporter à l’échelle mondiale – guerre, génocide, émissions de carbone menaçant la planète – il est difficile d’imaginer que tout ce que nous créons, aussi intelligent soit-il, agira différemment. Et pourtant, nous continuons à rêver qu’un deus in machina, un dieu dans la machine, puisse apparaître comme par magie pour nous sauver de nous-mêmes.

Apprivoiser l’IA?

Au début des années 1940, l’écrivain de science-fiction Isaac Asimov a formulé ses célèbres trois lois de la robotique : que les robots ne devaient pas nuire aux humains, directement ou indirectement ; qu’ils doivent obéir à nos commandements (à moins que cela viole la première loi); et qu’ils doivent sauvegarder leur propre existence (à moins que l’auto-préservation ne contrevienne aux deux premières lois).

Un certain nombre d’écrivains ont tenté de mettre à jour Asimov. Le dernier en date est le juriste Frank Pasquale, qui a élaboré quatre lois pour remplacer les trois d’Asimov. Comme il est avocat et non futuriste, Pasquale est plus soucieux de contrôler les robots d’aujourd’hui que d’émettre des hypothèses sur les machines de demain. Il soutient que les robots et l’IA devraient aider les professionnels, pas les remplacer ; qu’ils ne devraient pas contrefaire les humains ; qu’ils ne devraient jamais participer à une quelconque course aux armements ; et que leurs créateurs, contrôleurs et propriétaires devraient toujours être transparents.

Les « lois » de Pasquale vont cependant à l’encontre des tendances actuelles en matière d’intelligence artificielle. L’éthique dominante de l’IA reflète ce qui pourrait être considéré comme la principale directive de la Silicon Valley : aller vite et casser les choses. Cette philosophie de disruption exige avant tout que la technologie soit en permanence faire baisser les coûts de main-d’œuvre et se rendre régulièrement obsolète.