Pourquoi l’éthique est-elle cruciale en intelligence artificielle ?

Pourquoi quand on parle d’IA, il faut parler d’éthique ?
Question intéressante d’un de mes élèves la semaine dernière.

Aujourd’hui : l’IA est un outil fantastique

Pour faire simple, en prenant l’exemple de IA conversationnelle : il est possible un jour de créer dynamiquement un contenu (texte, image, video) dont un humain a défini les bases (le prompt)

Aller plus loin, plus vite, plus fort avec l’IA

Imaginons, que dans un futur relativement proche, on puisse, pour la création de contenu, connecter l’IA aux bases de données qui contiennent les miettes de notre identité numérique.

• Tu veux voir un film, il est créé à la volée avec tous les standards qui te font kiffer.
• Tu veux chiller, allez hop, la bonne séquence musicale dans ton mood
• Tu cherches des informations sur un produit, un service, le bon pitch, la bonne conversion, parce que ça n’a été généré que pour toi

Plus besoin de se prendre la tête avec des personas, tu crées le prompt qui te proposera un contenu hyper personnalisé à la volée pour ta cible avec les données disponibles le concernant sur le big data

Il est tout à fait envisageable qu’à l’avenir, des systèmes d’intelligence artificielle deviennent capables de créer dynamiquement du contenu (texte, image, vidéo) adapté en temps réel, aux attentes spécifiques d’une cible.

Tu es heureux, un contenu, tu es en colère, un autre contenu, tu déprimes, encore un autre, tous ces contenus fondés sur une intention du gestionnaire : la conversion (te vendre un produit, de pousser une info…)

Les progrès dans les domaines de l’apprentissage automatique et du traitement du langage naturel facilitent déjà la personnalisation de contenu basée sur les préférences et les comportements des utilisateurs.

Le neuromarketing, la cerise sur le gâteau :

Ce domaine en pleine expansion qui attire de plus en plus d’entreprises. Il allie les sciences de la communication et les neurosciences pour mieux comprendre le cerveau du consommateur : s’appuyer sur des techniques d’imagerie cérébrale, pour observer l’activité cérébrale du consommateur et révéler ainsi les émotions et les réactions inconscientes suscitées par le message.

Tout va trop vite …

Même si comprendre précisément et en temps réel les attentes changeantes d’un individu nécessite une analyse sophistiquée de données en grande quantité, ce n’est qu’une histoire de temps (même si la loi de Moore approche de sa limite).

Alors, des questions éthiques et de respect de la vie privée se posent, car une telle personnalisation requiert l’accès à des informations personnelles détaillées et je ne crois pas qu’un simple clic sur une acceptation de CGU, à l’instar de ce qui se pratique aujourd’hui sur les réseaux sociaux soit suffisant.

Alors bien que ce soit techniquement possible, la mise en œuvre de telles capacités doit être encadrée par des normes éthiques strictes pour éviter les abus et protéger la confidentialité des utilisateurs, le développement et l’adoption de ces technologies avancées de personnalisation doivent être accompagnés de régulations appropriées.

Qui va s’y coller ?

Une question reste posée : qui va s’occuper de cette régulation à l’échelle du monde ? Quel organisation dont la portée est mondiale et respectée par tous (gouvernements, entreprises, particuliers…)

Mais toi, en échange d’un contenu qui répondra exactement à tes attentes, es-tu prêt à « vendre ton âme au diable » ?