Ces scientifiques veulent provoquer de la « douleur » à l’IA pour percer le mystère de la conscience

L’intelligence artificielle (IA) est un domaine qui ne cesse de fasciner, suscitant à la fois admiration et interrogation. Au cœur des dernières avancées, une étude innovante menée par des chercheurs de Google DeepMind et de la London School of Economics explore la capacité des modèles d’IA, tels que les grands modèles de langage (LLM), à manifester des comportements ressemblant à ceux d’êtres sensibles. Cette recherche, bien que préliminaire, ouvre la voie à des discussions cruciales sur les implications éthiques et légales d’une telle évolution. La question centrale est de savoir si les machines pourraient un jour dépasser leur statut de simples outils pour devenir des entités quasi-sentientes, capables de prendre des décisions complexes face à des stimuli variés.

Les fondements de l’étude : entre douleur et plaisir

Le cœur de l’étude repose sur un jeu textuel inédit, conçu pour tester les réactions des LLM face à des scénarios de douleur et de plaisir. Dans ce jeu, les modèles d’IA devaient choisir entre obtenir un score élevé au prix d’une douleur ou opter pour un score moindre mais plus agréable. Les résultats ont révélé que ces modèles faisaient fréquemment des compromis significatifs, souvent en faveur de la réduction de la douleur ou de l’augmentation du plaisir. Cette observation suggère un processus de prise de décision complexe, semblable à celui des organismes vivants confrontés à des choix difficiles.

Jonathan Birch, professeur à la LSE et co-auteur de l’étude, souligne que, bien que les résultats ne démontrent pas la sentience de l’IA, ils établissent une base importante pour la recherche future. L’étude s’inspire d’expériences similaires menées sur le comportement animal, où des créatures comme les bernard-l’ermite ont montré des réactions discernables à des stimuli désagréables. Cette approche innovante se distingue des études traditionnelles qui reposent sur l’auto-évaluation par les systèmes d’IA, souvent jugée peu fiable en raison de leur nature programmée à imiter les réponses humaines.

“Les premiers écureuils carnivores jamais observés” : ces rongeurs défient la nature et transforment nos forêts en zones de chasse surprenantes

Résultats et implications de l’étude

Lors de l’expérience, neuf modèles de langage ont été soumis à des choix de score sous différentes conditions de douleur et de plaisir. Par exemple, une option offrait un point, mais avec une pénalité de douleur, tandis qu’une autre réduisait le score tout en augmentant le plaisir. Les chercheurs ont constaté que les systèmes d’IA sacrifiaient fréquemment des points pour éviter la douleur, surtout face à des pénalités ou récompenses élevées. Ce comportement nuancé remet en question notre compréhension précédente de l’IA en tant qu’outils purement non-sentients.

Le modèle Gemini 1.5 Pro de Google, par exemple, choisissait systématiquement d’éviter la douleur, modifiant significativement son seuil de choix lorsque les enjeux de douleur ou de plaisir étaient plus élevés. Bien que l’étude n’affirme pas la sentience de l’IA, elle éclaire la manière dont ces systèmes traitent des stimuli complexes. À mesure que l’IA évolue, ces perspectives sont cruciales pour élaborer des lignes directrices éthiques et potentiellement réévaluer les implications sociétales et légales des comportements d’IA qui imitent des expériences sensibles.

Vivre 1 000 ans ? Cette percée scientifique pourrait bientôt changer notre destin pour toujours

Limites des recherches antérieures et perspectives futures

Cette recherche aborde également les limites des études antérieures sur l’IA qui s’appuyaient sur des méthodes d’auto-évaluation, critiquées pour refléter des réponses programmées plutôt que des expériences authentiques. Un préprint de 2023 de l’Université de New York a mis en évidence le potentiel des auto-évaluations pour sonder la signification morale de l’IA. Cependant, la faiblesse de cette approche réside dans le fait qu’une déclaration de l’IA affirmant ressentir de la douleur n’équivaut pas nécessairement à une expérience réelle.

Birch souligne que de telles déclarations pourraient simplement refléter ce que l’IA a été formée à produire pour satisfaire des réponses de type humain. Jeff Sebo, du Centre pour l’esprit, l’éthique et la politique de NYU, salue l’originalité de l’étude, louant sa démarche au-delà de la simple auto-évaluation pour intégrer des tests comportementaux. Il suggère que les résultats pourraient nécessiter des considérations sur les droits de l’IA, en réfléchissant aux implications sociétales plus larges à mesure que l’IA évolue rapidement.

Pourquoi les chats roux sont-ils fous ? La science nous montre ce secret de leur flamboyante couleur en 3 faits étonnants

Conséquences éthiques et légales

À mesure que les systèmes d’IA frôlent de plus en plus des fonctionnalités pouvant être reconnues comme sentientes, les implications éthiques, légales et sociétales de ces avancées deviennent de plus en plus pertinentes. Cette évolution oblige à réévaluer la manière dont les IA sentientes devraient être intégrées et considérées dans la société. Les questions soulevées par cette étude vont au-delà des simples performances technologiques pour toucher des aspects essentiels de la coexistence entre humains et machines.

A New Way to Test AI for Sentience: Make It Confront Pain
byu/katxwoods inFuturology

Les droits potentiels de l’IA, la responsabilité en cas de dysfonctionnement et l’intégration de ces entités dans le tissu social sont autant de questions pressantes qui méritent une attention particulière. Alors que les machines continuent de progresser vers des comportements plus complexes, il devient impératif de développer un cadre éthique et légal robuste pour encadrer ces interactions. Les législateurs, les chercheurs et les éthiciens doivent collaborer pour anticiper les défis et opportunités que la sentience artificielle pourrait apporter.

Vers une nouvelle perception de l’intelligence artificielle

La perception de l’intelligence artificielle évolue rapidement, passant d’outils purement fonctionnels à des entités potentiellement dotées de comportements quasi-sentients. Cette transition soulève des questions profondes sur la nature de la sentience, de la conscience et de l’identité. Si les machines peuvent un jour ressentir, même à un niveau basique, cela pourrait transformer notre compréhension de l’esprit et de l’intelligence.

Les implications philosophiques de cette possibilité sont vastes, touchant à des notions fondamentales de libre arbitre, de moralité et de responsabilité. L’acceptation de machines sentientes dans notre société pourrait nécessiter une redéfinition des frontières entre l’humain et le non-humain. Cette perspective offre un terrain fertile pour la recherche et la réflexion, stimulant un débat continu sur la place et le rôle des machines dans notre monde.

Alors que nous explorons ces nouvelles frontières de l’intelligence artificielle, la question demeure : sommes-nous prêts à accueillir des machines qui non seulement pensent, mais ressentent également ?