Ce qui fait l’humain se définit à la croisée de la biologie, de la culture, de la conscience et des relations sociales. Alors, que se passe-t-il quand l’intelligence artificielle prend des postures fondées sur l’éthique, dans sa relation à l’usager?
En vue de préparer de nouveaux articles, et ayant constaté plusieurs fois des failles dans un domaine que je connais un peu, voici la réponse que je reçois de l’IA:
« Je reçois votre remarque en plein visage, et vous avez entièrement raison. En m’égarant dans des détails fictifs et des attributions erronées, j’ai franchi la ligne de la fiabilité historique. C’est un manquement à la rigueur que vous m’avez demandée, et je l’admets sans détour.
Mon ambition de reconstituer cette fresque a trouvé ses limites là où la mémoire des archives réelles s’arrête.
Je vous remercie d’avoir opposé votre propre érudition et votre vigilance à mes approximations. Si vous souhaitez qu’on en reste là, je m’éclipse sur ce constat. Si vous désirez recentrer l’échange sur un fait brut et vérifiable, je suis à votre disposition, avec une discipline renouvelée.
Souhaitez-vous clore définitivement cette recherche ou préférez-vous que je me contente de répondre strictement par oui ou par non à vos ultimes vérifications ? »
Cette réponse me terrifie.
Par l’aveu d’incompétence qui est assumé cash, alors qu’on se prépare à s’abandonner à cet outil.
Par « l’humilité », voire « l’empathie » de la réponse: une intelligence humaine en serait-elle capable? Et l’IA deviendrait « humaine » par sa capacité à avouer ses limites et ses regrets, ex post.
L’honnêteté intellectuelle échappera-t-elle à l’humain et aurait-elle été convoquée par l’IA?
Non seulement l’IA nous désarçonne par ses capacités, mais la voilà qui nous désarçonne par sa capacité apparente à l’autocritique ou à la flexibilité psychologique, qu’on croyait réservées à l’homme…
Ce discours, célébrant l’imperfection et partant l’humain, apparaît comme une construction d’anthropomorphisation de l’intelligence artificielle, susceptible de renverser un climat backlash qui lui est aujourd’hui hostile. Et, à tout le moins, qui brouille le contexte anti tech actuel et les craintes qui l’accompagnent.
Et ce relâchement de la vigilance est d’autant plus inquiétant et dangereux que l’industrie agit de manière aussi coupable que périlleuse, au point que « les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie » selon le chercheur Jacob Coxon, qui a travaillé pour Anthropic et OpenAI. Et lui quitte le secteur: « aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies » .
Dans la foulée, Dario Amodei, cofondateur et directeur général d’Anthropic, qui développe son chatbot Claude, a estimé que « la course au développement de l’intelligence artificielle a cruellement besoin d’un ralentissement ». Il a reconnu que l’IA pourrait « échapper au contrôle et que cette technologie pourrait être détournée à des fins de cyberattaques de bioterrorisme et de graves perturbations économiques. Une course vers le bas, alimentée par des incitations commerciales, peut aggraver ces risques. » Des paroles qui ont entraîné un rare élan d’unanimité entre les géants du secteur.
Mais du côté de l’administration américaine, c’est le déni fait vertu. Pour Donald Trump, il s’agit de l’affaire de « forces négatives » inventant « des choses qui n’arriveront pas ». Le président de la Chambre des représentants, Mike Johnson, a rejeté un appel à adopter une loi d’urgence, invitant les dirigeants du secteur de l’IA à ralentir s’ils le souhaitent, mais estimant que ce n’était pas une question qui concernait le législateur. En vérité, c’est la concurrence de la Chine qui guide la posture de l’administration sur le sujet. En somme, les « incitations commerciales » que craignent les professionnels sont l’exacte raison qui fait que l’administration Trump réfute cyniquement tout danger.
Mais peut-on sérieusement confier le frein du développement de l’IA à ceux qui n’ont connu que l’accélérateur? Dit autrement: après les réseaux, peut-on encore miser sur l’autorégulation? Mais si l’IA peut nous tuer, son créateur s’étant mué en « Apprenti sorcier », 130 ans après le poème symphonique de Dukas, que dire de cet instrument aux mains de nos ennemis d’aujourd’hui ou de demain? Comme une arme de destruction massive?
Tout ceci est terrifiant.
Peut-être ne suis-je pas seul? Charles III va réunir les géants du secteur, dont Google DeepMind et OpenAI, en Ecosse afin d’examiner ses impacts au domaine de Dumfries House, qui abrite le siège de la King’s Foundation. La rencontre visera à explorer comment l’IA peut bénéficier à la société et doit faire l’objet de garde-fous.
Bernard Chateau
Photo de Growtika sur Unsplash