Unknown: Killer Robots

L'intelligence artificielle est très impressionnante.

C'est bien. En cercle, bonne formation.

L'intelligence artificielle peut en finir avec la pauvreté,

imaginer des médicaments

et apporter plus de paix dans le monde.

Bien joué.

Mais c'est un chemin pavé de nombreux risques.

L'intelligence artificielle n'est pas une intelligence humaine,

elle est très imprévisible.

Alors qu'elle gagne en puissance,

où poserons-nous les limites

pour savoir si nous voulons ou non l'utiliser ?

Le point de départ idéal pour mener cette réflexion,

c'est le domaine militaire.

Le champ de bataille est aujourd'hui un monde de logiciels et de matériel.

Cible identifiée…

Les armées veulent développer leur IA plus vite que leurs adversaires.

Je suis mort.

Nous allons à toute vitesse vers un monde dans lequel les armées majeures,

mais aussi les acteurs non étatiques, les industries privées

ou même notre commissariat de police de quartier

pourraient utiliser ces armes tueuses autonomes.

Allons-nous laisser la décision de tuer aux algorithmes, aux logiciels ?

C'est une des grandes questions de notre époque.

Les utiliser sans discernement

ferait peser une grave menace sur chaque habitant de la planète.

DANS L'INCONNU

LES ROBOTS TUEURS

Bon travail, les gars.

La lentille est plus grande qu'avant.

Ah oui ?

Beaucoup plus de données.

Très cool.

Chez Shield AI, nous développons un pilote artificiel

qui utilise la technologie de la conduite autonome

mais dans le ciel.

Le pilote artificiel

apporte à l'appareil un niveau supérieur d'autonomie.

Il résoudra des problèmes tout seul.

Le Nova est un quadricoptère autonome

capable d'explorer bâtiments et structures souterraines

avant les équipes de déminage

pour avoir l'image et le son dans ces lieux.

Il s'est énormément amélioré depuis la dernière fois.

Une exploration différente aujourd'hui. On travaille étage par étage.

Il finit un étage entier avant d'aller au deuxième.

- Génial. - On a changé des choses…

On me demande souvent

en quoi l'intelligence artificielle est importante.

Je repense alors aux missions que j'exécutais.

J'ai été sept ans dans la Navy.

Avec les forces spéciales, j'ai fait deux missions en Afghanistan

et une dans le Pacifique.

En une seule journée, on devait parfois sécuriser 150 sites ou bâtiments.

L'une des compétences majeures est le combat rapproché.

Imaginez une fusillade à bout portant à l'intérieur d'un bâtiment.

On vous tire dessus.

Il peut y avoir des engins piégés dans le bâtiment.

C'est la chose la plus dangereuse qu'un membre des forces spéciales

ou de l'infanterie puisse faire au combat.

Pas de débat.

Je serai toujours heureux d'avoir servi dans l'US Navy.

J'ai de nombreux souvenirs qui, quand j'y repense,

m'émeuvent beaucoup.

C'est un cliché de dire

que la liberté a un prix, mais c'est vrai.

J'en ai fait l'expérience. Ça demande beaucoup de sacrifices.

Désolé.

Quand ça tourne mal pour un de vos camarades,

qu'il est blessé ou tué,

c'est vraiment tragique.

En ce qui me concerne, dans notre travail,

ce qui me motive, c'est de réduire le nombre de fois

que ça arrive.

À la fin des années 2000,

le département de la Défense a ouvert les yeux

sur ce que j'appellerais la révolution robotique accidentelle.

Nous avons envoyé des tas de robots en Irak et en Afghanistan.

Quand l'administration Obama m'a nommé

secrétaire adjoint à la Défense,

la façon de faire la guerre était clairement en train de changer.

Des robots étaient utilisés à la place habituelle des hommes.

Les premiers systèmes étaient télécommandés.

Un humain conduit le robot comme une voiture télécommandée.

Au début, en général ils cherchaient des engins explosifs improvisés.

Si la bombe explosait, le robot explosait aussi.

On se disait : "Mince alors. Sortez l'autre robot."

En Afghanistan, le drone Predator

est devenu très utile pour effectuer des frappes aériennes.

Peu à peu, les militaires ont commencé à se demander

à quoi d'autre pourraient servir les robots, et où cela allait.

L'une des réponses était d'aller vers plus d'autonomie.

Une arme autonome prend ses décisions toute seule,

avec pas ou très peu d'intervention humaine.

Elle est indépendante et se dirige toute seule.

Si elle est armée, elle peut tuer.

Quand il y a de plus en plus d'autonomie dans le système entier,

tout va beaucoup plus vite.

Et quand on va plus vite que ses adversaires,

on dispose d'un énorme avantage sur le champ de bataille.

En matière d'autonomie, on se concentre

sur les systèmes de renseignement résilients.

Ces systèmes analysent leur environnement

et décident de leurs évolutions au sein de ce monde.

CALIFORNIE

L'endroit où nous sommes était à l'origine un studio de cinéma

qui a été converti

en environnement réaliste d'entraînement militaire.

On est là pour évaluer notre pilote artificiel.

Sa mission est de chercher des menaces. C'est une mission de déminage.

Il peut décider comment aborder ce problème.

On appelle ça "l'entonnoir mortel". Quand il faut passer une porte.

Vulnérabilité maximale.

Celui-là est mieux.

Le Nova nous dit s'il y a un tireur derrière la porte,

s'il y a une famille.

On pourra mieux décider, et mieux protéger les gens.

On utilise les capteurs de vision

pour comprendre à quoi ressemble l'environnement.

Il y a plusieurs étages.

Voici le plan.

Pendant que j'explorais, j'ai vu ça et je l'ai vu là.

Détecteur de personne. J'aime.

Le Nova dispose aussi d'un scanner thermique.

Si c'est à 37 degrés, c'est sans doute un humain.

Il sera considéré comme une menace jusqu'à nouvel ordre.

Éliminer le brouillard de la guerre pour prendre de meilleures décisions.

Et dans l'avenir,

monter des équipes d'appareils autonomes.

Avec un véhicule autonome,

en fin de compte, on lui dit

"j'aimerais que tu ailles du point A au point B".

On ne demande pas à nos systèmes d'aller de A à B,

mais d'atteindre un objectif.

C'est plutôt : "J'ai besoin de lait."

Le robot doit alors trouver le bon magasin,

récupérer le lait et le rapporter.

Et d'ailleurs,

cette analogie est meilleure : "Garde le frigo rempli."

Il faut donc l'intelligence pour comprendre un besoin et le combler.

Et si un obstacle apparaît

ou si un problème se pose, il faut savoir le régler.

Une fois prise la décision de quitter l'US Navy,

je me suis dit : "Bon. Et maintenant ?"

J'ai grandi avec Internet, l'ai vu évoluer.

Ce que j'en avais conclu était notamment

que l'intelligence artificielle, en 2015,

en était au même stade qu'Internet en 1991.

L'IA était sur le point de décoller

pour devenir l'une des technologies les plus puissantes.

Je l'utilise tous les jours, je constate ses progrès.

Mais beaucoup de gens, quand ils pensent à l'IA,

pensent immédiatement à Hollywood.

On joue à un jeu ?

À la guerre thermonucléaire mondiale ?

Très bien.

Quand on pense à l'intelligence artificielle,

on pense généralement à Terminator , ou I, Robot .

Désactivation.

Que suis-je ?

Ou Matrix .

Si vous vous fiez aux films de SF,

comment savez-vous que je suis humain ? Je peux être une IA.

Un réplicant est une machine : un avantage ou un danger.

Mais il existe des tas d'IA plus primitives

qui vont changer notre vie

bien avant que n'arrivent les robots pensants et parlants.

Les robots sont là. Les robots prennent des décisions.

La révolution robotique est là,

c'est juste qu'elle ne ressemble pas à ce qu'on imaginait.

Le Terminator est une unité d'infiltration mi-homme, mi-machine.

On ne parle pas d'un robot tueur à la Terminator ,

mais d'une IA capable d'effectuer certaines tâches humaines.

Mais la question est de savoir si ces systèmes sont fiables.

De nouveaux détails sur l'accident mortel impliquant un véhicule autonome Uber.

Le robot conversationnel intelligent de l'entreprise

a adopté un ton plutôt raciste…

Vingt-six parlementaires faussement identifiés comme criminels.

La question est de savoir si les IA peuvent gérer la complexité du monde réel.

Le monde physique est compliqué.

Il y a beaucoup de choses qu'on ignore,

ce qui complique l'entraînement des systèmes à IA.

Les systèmes d'apprentissage automatique sont alors apparus.

L'apprentissage automatique a été une énorme avancée,

car ça signifie qu'on n'a pas à tout apprendre à l'ordinateur.

On donne des millions d'informations à un ordinateur,

et la machine commence à apprendre.

Ça peut s'appliquer partout.

Avec notre projet Robot Dog, on veut montrer

que notre chien peut marcher sur de nombreux types de terrain.

L'être humain a évolué des milliards d'années pour marcher,

mais beaucoup d'intelligence entre en jeu pour s'adapter à ces différents terrains.

Une question demeure, pour les robots.

Sauront-ils s'adapter, comme les animaux et nous ?

L'apprentissage automatique

nous rapporte beaucoup de données en simulation.

Une simulation est un jumeau numérique de la réalité.

Plusieurs de ces réalités tournent ainsi sur différents ordinateurs.

Des milliers d'actions sont échantillonnées en simulation.

Le terrain rencontré est plus ou moins glissant,