Ce texte explique pourquoi “Comprendre l’EM” n’utilise pas l’Intelligence Artificielle Générative (IA gen), et pourquoi nous déconseillons son usage, en particulier aux personnes avec EM.
L’IA gen est un type de programme informatique qui compose des textes ou des images à partir de l’exploitation des textes et images existants. Le programme calcule la probabilité d’une série de lettres, d’une série de mots, d’une série de phrases.
Il existe d’autres usages de l’Intelligence Artificielle, pour l’analyse de très grandes quantités de données. Ceux-ci peuvent être vertueux (recherche en médecine), mais ils peuvent être aussi problématiques (surveillance, guerre).
Sommaire
L’IA gen est un faux ami
Les IA génératives sont partout. Les entreprises nous promettent de répondre à nos questions. Parfois, le chat avec une IA ressemble à une conversation avec un ami, un thérapeute ou un médecin. Mais chatter avec une IA est un risque pour tout le monde, et encore plus pour les personnes avec EM.
- Les échanges avec une IA créent l’illusion d’une relation sociale. En réalité, il s’agit d’une relation parasociale.
- L’IA gen n’est pas une personne, mais un programme qui répond à des instructions. En priorité, les instructions de l’entreprise. En second, les prompts de l’utilisateurice. La première instruction de l’IA est de trouver les bonnes suites de mot qui nous incitent à rester en ligne et à y revenir souvent.
On a l’illusion de dialoguer avec quelqu’un, alors qu’en fait on parle à un miroir. En conséquence, l’utilisation des IA comme confident, ami, amant, thérapeute, nous fait courir des risques :
- Addiction à l’usage de l’IA
- Dégradation de la santé mentale
- Crises psychotiques
- Déconnexion avec le réel
- Risque de suicide
- Incitations à la violence
Les IA gen sont des faux amis car elles contribuent à la destruction du lien social et du rapport au réel. Les IA génératives ont déjà été responsables de morts.
En tant que paEM, l’utilisation des IA génératives nous expose à une dégradation sociale et psychologique et peut constituer un danger vital.
Accélération de l’ignorance
- Les IA répandent de fausses informations qui sont parfois difficiles à reconnaître.
- Les IA génératives sont programmées pour donner au consommateur ce qu’iel attend : elles exposent à un biais de confirmation. Selon la façon dont une question est posée, l’IA donne des réponses différentes. On n’apprend pas quelque chose, on est confirmé dans ce que l’on pense déjà. On se déshabitue à la contradiction et à la découverte.
- Les IA génératives sont utilisées pour produire des “deep fake” : imiter la voix, l’apparence et le langage d’une personne afin de voler son identité, ou de produire des contenus (pédo)pornographiques.
- les IA génératives ne fonctionnent que grâce à l’appropriation illégale de corpus gigantesques d’œuvres humaines pourtant soumises au droit d’auteur ou à la citation. C’est une contrefaçon du travail intellectuel et artistique humain, et une dégradation de sa qualité et un détournement de sa signification.
- Plusieurs recherches ont montré que les personnes qui utilisent régulièrement l’IA générative voient leurs compétences intellectuelles diminuer rapidement.
- Les IA génératives sont la propriété d’entreprises gigantesques et centralisées. Une fois la population rendue dépendante de leurs programmes, il leur sera très facile de contrôler les idées qu’elles diffusent en fonction de la politique de leurs propriétaires.
En tant que paEM, l’utilisation de l’IA générative nous met à risque de croire des informations fausses, préjudiciables à notre santé, et nous rend facilement manipulable. Elle dégrade nos compétences intellectuelles. Elle pille également nos données personnelles.
IA et danger pour la démocratie
Les IA génératives répètent et amplifient les discours oppressifs : sexisme, racisme, classisme, validisme. Elles confortent les préjugés et amplifient les discriminations à l’égard des personnes malades, des personnes incapables de travailler.
L’utilisation des IA génératives autour de nous, nous expose à être encore moins bien compris, encore moins bien tolérés, encore plus discriminés et violentés.
- L’IA favorise la manipulation des masses à travers plusieurs processus :
- facilite la propagande (par des États ou des entreprises)
- facilite la manipulation personnalisée à partir de l’exploitation des données personnelles des utilisateurices
- facilite les distorsions du réel, à travers la “post-vérité” ou la “réalité alternative”
- Tensions géopolitiques autour de l’extraction des métaux rares, concurrence pour l’accaparement des ressources et conflits armés au détriment des populations locales. Mise en danger des grands équilibres géopolitiques actuels.
Pour les paEM, les crises démocratiques et dérives autoritaristes observées représentent un risque : les malades chroniques et personnes handicapées font partie des premières victimes des régimes illibéraux et des sociétés fascistes. Pour deux raisons : parce que leurs vies sont considérées comme “trop coûteuses”, mais aussi parce que ce sont des boucs émissaires idéaux pour créer une “union patriotique” autour de l’illusion de la validité.
IA et exploitation économique
Le fonctionnement des IA génératives repose sur le travail manuel de centaines de milliers de personnes qui nourrissent et entraînent l’IA. Celles-ci sont recrutées dans les pays où la main d’œuvre est peu chère.
Elles reposent aussi sur l’extraction massive de minerai. Les conditions de travail et de vie dans ces deux domaines sont exécrables.
- Violations de droits humains, absence de droit du travail, esclavagisme
- Travail des enfants
- L’IA générative contribue à la concentration de la richesse vers les multi-milliardaires les plus riches du monde.
- L’IA générative nous fait courir le risque d’une bulle spéculative, qui laisse craindre une crise économique plus grave que 2008. Les conséquences d’une telle crise seraient désastreuses pour l’ensemble de la population mondiale.
Pour les paEM, le risque de crise économique liées à l’IA a des conséquences socio-médicales gravissimes : augmentation de l’austérité budgétaire dans les domaines de la santé, de l’aide sociale, de l’aide au handicap.
L’IA est un désastre écologique
- Consommation massive d’eau, aux dépens des cycles naturels de l’eau, des écosystèmes, de l’agriculture et des habitants.
- Consommation électrique massive, avec production massive de CO2, déséquilibre des réseaux de distribution d’électricité, report des coûts sur les consommateurs voisins.
- Empreinte carbone depuis la production des machines, leur mise en service jusqu’au traitement des déchets électroniques dont le volume augmente rapidement.
- Extraction de métaux rares entraînant de la pollution
- Accélération du réchauffement climatique
Pour les paEM, le désastre écologique de l’IA a des conséquences médicales directes : aggravation des conditions de vie, de la ligne de base et des comorbidités.
Conclusion
En tant que personnes avec EM, et plus généralement malades chroniques et handicapées, nous constatons que l’IA générative, loin de nous aider, nous met en danger.
Or, nous n’avons pas besoin de l’IA générative. Elle ne nous apprend rien, bien au contraire.
Nous refusons d’utiliser l’IA générative. Nous demandons qu’elle fasse l’objet de régulations internationales strictes.
Nous demandons aux institutions de la santé, de l’éducation et de la recherche de ne pas céder aux sirènes de l’IA générative.