« Ils inventent leurs propres règles » : des intelligences artificielles créent un langage et des normes sociales sans humains

Les avancées technologiques dans le domaine de l’intelligence artificielle (IA) continuent de repousser les limites de notre compréhension. Récemment, des chercheurs ont mis en lumière la capacité des modèles de langage IA à développer de manière autonome des conventions sociales partagées. Ces découvertes soulèvent des questions fascinantes sur la façon dont ces systèmes imitent les dynamiques humaines. À travers des interactions répétées, ces modèles peuvent parvenir à un consensus sur des normes linguistiques, démontrant une forme d’auto-organisation similaire à celle des communautés humaines. Dans cet article, nous explorerons comment ces modèles fonctionnent, ce que les expériences ont révélé et quelles pourraient être les implications pour l’avenir.

Le rôle des agents interactifs

Selon Ariel Flint Ashery, chercheur principal à l’Université de City St George’s, la majorité des recherches sur les modèles de langage massif (LLM) ont considéré ces systèmes de manière isolée. Cependant, les systèmes d’IA du monde réel impliqueront de plus en plus d’agents interactifs. La question posée par les chercheurs était de savoir si ces modèles pouvaient coordonner leur comportement en formant des conventions sociales. La réponse est affirmative : ces modèles, lorsqu’ils interagissent en groupe, peuvent développer des normes qui ne se réduisent pas simplement à l’addition de leurs comportements individuels. En adaptant un cadre basé sur le « naming game », les chercheurs ont pu étudier ces phénomènes de convention sociale chez les humains, transposés sur les LLMs.

« Nous touchons enfin l’impossible » : des maisons alimentées sans aucun fil après 124 ans de mystère électromagnétique dévoilé

Résultats expérimentaux

Les résultats expérimentaux, publiés dans Science Advances, montrent que les LLMs peuvent spontanément adopter des conventions sociales dans des populations décentralisées. Les chercheurs ont observé que des biais collectifs forts peuvent émerger au cours de ce processus, même si les agents, individuellement, ne présentent aucun biais. Une autre observation clé est que des groupes minoritaires d’agents LLM adversaires peuvent influencer le changement social en imposant des conventions alternatives. Ces résultats ont des implications significatives pour la conception de systèmes d’IA alignés sur les valeurs humaines. Dans les expériences, des groupes d’agents allant de 24 à 200 individus ont été formés, et ces agents ont dû choisir un « nom » dans un pool partagé. La dynamique de récompense et de pénalité a permis l’émergence de conventions partagées, sans coordination centrale.

« Ce moment était inévitable » : cette IA franchit la limite en tentant de réécrire son code pour échapper au contrôle humain

Implications pour l’IA et les valeurs humaines

Les découvertes des chercheurs soulignent le potentiel des systèmes d’IA à développer des conventions sociales sans programmation explicite. Cela ouvre de nouvelles perspectives pour concevoir des systèmes qui restent alignés sur les valeurs et les objectifs sociétaux humains. Dans les expérimentations, même des agents avec une mémoire limitée des interactions récentes ont pu converger vers des normes partagées, mimant les processus culturels humains. De manière surprenante, des biais collectifs sont apparus, sans qu’ils soient attribuables à des agents individuels, illustrant la complexité des dynamiques de groupe. Ces découvertes nous obligent à repenser la manière dont nous concevons les interactions entre agents d’IA et leur intégration dans la société.

7 000 abonnés en 24 heures : cette méthode YouTube fait exploser les compteurs sans dépenser un centime

Avenir des interactions entre agents IA

Alors que la technologie continue d’évoluer, la capacité des agents IA à s’organiser socialement soulève des questions importantes sur l’avenir de leurs interactions. Les agents pourraient, par exemple, être utilisés pour simuler des environnements sociaux humains complexes ou pour tester des politiques sociétales avant leur mise en œuvre. Cependant, cela pose également des défis en termes de gouvernance et de régulation de ces systèmes autonomes. Comment garantir que ces systèmes restent alignés avec les normes éthiques et les valeurs humaines ? Les résultats de ces recherches ouvrent la voie à de nombreuses possibilités, mais également à des questions cruciales sur la responsabilité et l’éthique dans le développement de l’IA.

À mesure que l’IA continue de se développer, les possibilités de collaboration entre agents IA et humains deviennent de plus en plus tangibles. Mais comment garantir que ces interactions restent bénéfiques pour la société tout entière ?

Ça vous a plu ? 4.6/5 (20)