QUI EST LE COUPABLE , ALORS? 

Si tu es au volant alors que quelque chsoe d’inattendu se produit, tu réagis automatiquement grâce à tes réflexes. Tu n’as pas le temps de réfléchir et de prendre une décision consciente. 

Mais une voiture autonome doit être entraînée avec des données que nous lui fournissons. La voiture décide d’après ce qu’elle a appris. Nous devons donc décider à quoi la voiture doit donner priorité.  

Comment en sommes-nous arrivés là ? 

Dans le jeu derrière toi, tu verras les décisions que la moyenne des gens du monde entier ont prises : 

Source: Awad et al. 2018

Es-tu d’accord avec ces décisions ? 

Plus d’IA et de coupables 

Nous ne savons pas toujours pourquoi l’IA prend certaines décisions. Les sociétés d’IA, de leur côté, savent quelles données elles ont encodées dans leur IA. Et nous savons ce que l’IA produit comme résultat. Mais la façon exacte dont le système est parvenu à ce résultat n’est pas toujours très claire. 

 C’est ce qu’on appelle la « boîte noire » (black box). Le système n’est pas transparent. 

Supposons que la voiture renverse quelqu’un : 

qui est responsable, dans ce cas ? Le fabricant de voitures ? Le conducteur de la voiture autonome ? Ou les personnes qui ont entraîné le système IA ? 

Les juges et l’IA 

L’IA peut aussi jouer un rôle important au tribunal. Pour rattraper le retard dans leurs dossiers, les juges pourraient demander l’aide de l’IA. Celle-ci se basera alors sur des affaires antérieures pour rendre des jugements. Mais que penser si une IA déclare qu’une personne est coupable sans qu’on comprenne vraiment pourquoi ? Est-ce bien juste ? 

Des drones tueurs 

Si tu as déjà peur des voitures autonomes, que penses-tu des drones tueurs (killer drones) ? Il s’agit de drones qui peuvent commettre des attaques de manière autonome, sans aucun contrôle humain. En 2020, un drone de ce type aurait découvert et attaqué des gens en Libye. Qu’en penses-tu ? 

Une note positive 

António Guterres, Secrétaire général des Nations Unies, trouve cela dangereux aussi. Il estime que seuls les humains ont le droit de décider de recourir à des armes nucléaires. Pas des machines, ni une IA. 

Les Nations Unies sont une organisation internationale qui œuvre pour la paix. Presque tous les pays du monde en sont membres. António Guterres est aujourd’hui le chef des Nations Unies. 

Heureusement, il existe aussi l’IA explicable (explainable AI, XIA). Dans ce cas, le raisonnement ou le calcul d’une prédiction faite par l’IA est transparent. 

Il n’y a donc pas de black box. 

Certaines entreprises se penchent sur une version éthique de l’IA. Google, par exemple, a déjà défini des règles auxquelles leurs produits d’IA doivent se conformer. L’Union européenne aussi a publié des directives pour une IA fiable.