L’IA menace-t-elle notre vie privée [TenL145]

Émission enregistrée le 28 janvier 2025.

 Invités

• Samuel Nowakowsky –  Enseignant-chercheur en informatique. Laboratoire lorrain d’informatique et ses applications.
• Maximilien LANNA –  Professeur de droit public —titulaire de la Chaire Régulation des plateformes numériques et souveraineté.

EDITORIAL

 Pour le meilleur et pour le pire, nous sommes entrées dans l’air des intelligences artificielles — Le mot n’est d’ailleurs pas forcément le bon, même s’il s’est imposé, je vous renvoie vers la passionnante émission enregistrée avec Charbel Segerie et Amaury Lorin, du Centre français pour la Sécurité de l’IA et intitulé « Et si les IA prenaient le contrôle ». Tronche en Live 142.

Comme beaucoup de gens, peut-être n’avez-vous pas très envie de vous intéresser aux IA et à leurs concepteurs, mais les concepteurs et les IA, elles vont penser à vous. Et dans leur projet il y a l’idée de penser pour vous, à votre place, mais pas forcément aux mieux de vos intérêts, parce que ce n’est pas vous qui vous possédez les codes ni les clefs des nouvelles machines pensantes.

Il est facile de se laisser séduire par tous les services que les IA du marché nous rendent déjà. Gratuitement. Nous sommes en train de nous faire domestiquer, acclimater à cet utilisation très pratique, mais qui ne nous offre aucune garantie sur la manière dont ces services nous seront vendus bientôt.

Le confort d’avoir un copilote automatisé pour de nombreuses tâches aura-t-il un prix raisonnable ?

Il faut sans doute être au moins un peu inquiet sur de nombreux chapitres : l’environnement, la géopolitique, la spéculation, la création de fake news en masse, les ondes de chocs sur l’économie et l’emploi, la surveillance de masse… Nous allons ce soir nous focaliser sur celui des données personnelles.

Elles concernent nos habitudes de consommation, nos opinions, nos différentes identités et les choses qui n’appartiennent qu’à notre intimité, et par exemple les informations qui touchent à notre santé et qui pourraient puissamment intéresser les industriels du médicament ou les assurances et mutuelles, et qui sait d’autre ?

Le traitement à haut débit de nos traces numériques est déjà en cours, et il a déjà participé à une « fabrique du consentement ». Aujourd’hui les plateformes sont des systèmes qui collectent, recommandent et articulent les informations que nous recevons sans que nous ayons le moindre mot à dire, et la fragmentation d’internet pourrait nous conduire à cesser de vivre tous dans le même monde et à nous voir dispersés dans des réalités parallèles abreuvés de narratifs savamment conçus pour notre segment démographique et pour le profit de ceux qui passeront commande de notre vote ou de notre pouvoir d’achat

Alors oui, le sujet est grave. Mais nous allons quand même essayer de passer une bonne soirée à apprendre des choses pour mieux nous préparer grâce aux lumières de nos invités.