L’IA te voit ! 

L’IA ne peut fonctionner que si elle est alimentée par des données. Et ces données, elle les trouve chez nous. Quelles sont les conséquences pour notre vie privée ? 

Comment en sommes-nous arrivés là ? 

Une base de données chinoise 

La Chine travaille à la création d’une base de données qui liste la voix, l’ADN et l’iris des yeux de ses habitants. La police y est équipée de lunettes de soleil spéciales capables d’identifier les personnes. Pourquoi ? À appréhender les criminels rapidement ou à résoudre des affaires judiciaires. Les personnes disparues peuvent aussi être retrouvées plus rapidement grâce à cette méthode. 

Cela paraît bien utile. Mais que dis-tu de cela : dans certaines grandes villes de Chine, des écrans géants ont été installés devant les passages piétons. Une caméra est accrochée au feu tricolore. Si tu traverses au rouge, le système IA cherchera qui tu es en se basant sur la reconnaissance faciale. Et ce n’est pas tout : ton visage, ton nom et ton numéro national s’afficheront alors sur l’écran.  

Mais, et si l’IA se trompe ? La célèbre femme d’affaires Dong Mingzhu a été clouée au pilori pour avoir traversé au rouge. Sauf qu’elle n’était même pas en ville à ce moment-là. Pourquoi ? En fait, elle posait sur une publicité affichée sur un bus. Lorsque le bus est passé sur le passage pour piétons, le système a reconnu la femme d’affaires, et a décrété qu’elle commettait une infraction. Depuis, le système a été amélioré pour que cela ne se reproduise plus. 

© Weibo/Photo de la police 

Clearview 

Peut-être es-tu déjà dans une base de données de ce genre. Clearview est un outil qui reconnaît le visage des gens. Si quelques photos de toi circulent sur internet avec ton nom à côté, tu figure probablement dans la base de données de Clearview. Même si tu n’y as pas consenti. 

Salut ChatGPT 

Lorsque tu poses des questions à ChatGPT, tu communiques aussi beaucoup de données. Tu peux donc demander à ChatGPT que faire si tu craques sur ton meilleur ami ou ta meilleure amie, mais peut-être y réfléchiras-tu à deux fois quand tu sais qu’OpenAI, l’entreprise qui se trouve derrière ChatGPT, conserve ces informations. 

Une note positive 

En fonction des cultures, la réaction du public est bien différente. En Chine, peu de gens semblent avoir un problème avec un tel degré de contrôle. Mais il est possible que la population n’ose pas trop critiquer le gouvernement. Il est donc impossible de savoir ce que les Chinois pensent réellement à ce propos. 

En Europe, notre vie privée est bien protégée. Grâce à la loi sur la vie privée (RGPD), les entreprises doivent d’abord te demander ton consentement avant d’utiliser tes données. Pour autant, c’est à nous d’être prudents. Ne cliques-tu pas toujours sur « Accepter tous les cookies » ?  

L’Union européenne compte désormais une nouvelle loi, l’AI Act. Cette loi interdit notamment les systèmes de score social. En Europe, tu ne perdras donc pas de « points » si tu te comportes mal et ne risqueras donc pas de te voir interdits certains services (achat de billets d’avion, demande de prêt, etc.) 

L’AI Act stipule que les entreprises ne peuvent pas non plus écumer internet pour trouver des images servant à alimenter une base de données. 

Même si tu as donné ton consentement pour l’utilisation de tes données, tu peux toujours le retirer à tout moment.