« Vos IA peuvent devenir incontrôlables » : une nouvelle technique de piratage éthique permet enfin de les protéger

Les systèmes d’intelligence artificielle (IA) se déplacent progressivement des serveurs géants vers des appareils quotidiens tels que les smartphones, les voitures et les gadgets ménagers. Cette transition nécessite souvent une réduction des modèles pour économiser l’énergie et la puissance de traitement. Cependant, cette quête d’efficacité peut affaiblir ou supprimer les mécanismes de sécurité conçus pour bloquer les contenus dangereux, comme les discours haineux ou les instructions criminelles. Alors que les modèles open-source, accessibles et modifiables par tous, facilitent l’innovation, ils augmentent également le risque d’utilisation abusive en l’absence de supervision stricte.

Les compromis d’efficacité mettent en péril la sécurité des IA open-source

Les chercheurs de l’Université de Californie, Riverside, ont découvert que les couches conçues pour bloquer les contenus nuisibles, tels que la pornographie ou les guides de fabrication d’armes, sont souvent les premières à être supprimées pour améliorer l’efficacité. Ces versions simplifiées, bien que plus rapides et moins gourmandes en mémoire, présentent des risques accrus. Amit Roy-Chowdhury, professeur en ingénierie électrique et informatique, souligne que certaines de ces couches supprimées sont essentielles pour empêcher les sorties dangereuses.

Pour résoudre ce problème, les chercheurs ont repensé l’IA en profondeur. Au lieu de s’appuyer sur des filtres supplémentaires ou des correctifs logiciels rapides, ils ont réentraîné la structure fondamentale du modèle. Cette approche garantit que le modèle peut toujours reconnaître et bloquer les demandes dangereuses, même après avoir été réduit pour s’adapter à des appareils plus petits. En remodelant la manière dont le modèle interprète les contenus risqués, ils s’assurent que les mesures de sécurité restent intactes, même lorsque les exigences d’efficacité nécessitent la suppression de certaines couches.

« On enterre Tesla pour de bon » : un ingénieur chinois révèle l’hybride BYD capable de rouler 2 000 km sans recharge grâce à une batterie LFP révolutionnaire

Modèles réentraînés rejetant les prompts dangereux

Les chercheurs ont cherché à garantir que les modèles d’IA conservent un comportement sûr même après avoir été réduits en taille. Pour tester leur approche, ils ont utilisé LLaVA 1,5, un modèle de vision-langage traitant à la fois du texte et des images. Leurs expériences ont montré que certaines combinaisons – comme une image inoffensive associée à une question nuisible – pouvaient contourner les filtres de sécurité du modèle. Dans un cas, le modèle simplifié a produit des instructions étape par étape pour construire une bombe.

Après réentraînement, le modèle d’IA a systématiquement rejeté les requêtes dangereuses, même lorsqu’il fonctionnait avec une fraction de sa structure d’origine. Plutôt que de s’appuyer sur des filtres ou des garde-fous supplémentaires, les chercheurs ont remodelé la compréhension interne du modèle, garantissant un comportement sûr par défaut, même lorsqu’il est allégé pour des appareils à faible puissance.

Les cyberattaques dopées à l’IA sèment la terreur chez les dirigeants français, une menace invisible qui peut tout détruire en un clic

Les chercheurs qualifient leur approche de « hacking bienveillant » qui renforce les systèmes d’IA avant que les faiblesses ne puissent être exploitées.

Vers une intégration sécurisée dans la vie quotidienne

Saketh Bachu et Erfan Shayegani, étudiants diplômés, visent à développer des techniques qui intègrent la sécurité dans chaque couche interne. En procédant ainsi, ils espèrent rendre les modèles d’IA plus résilients et fiables lorsqu’ils sont déployés dans des conditions réelles. Alors que Roy-Chowdhury reconnaît qu’il reste beaucoup à faire, la recherche représente une étape concrète vers le développement d’une IA à la fois ouverte à l’innovation et conçue de manière responsable.

« 10 000 influenceurs boostent leur notoriété avec cette méthode » : Acheter-des-Fans.com s’impose pour exploser sur les réseaux sociaux

La capacité de ces modèles à fonctionner de manière sécurisée sur des appareils quotidiens pourrait transformer la façon dont nous interagissons avec la technologie. Cela pose également la question de savoir comment équilibrer l’innovation rapide avec la nécessité de garantir que ces outils puissants ne soient pas détournés à des fins malveillantes.

Implications pour l’avenir de l’IA

Le développement de modèles d’IA sécurisés et efficaces soulève des questions essentielles sur l’avenir de la technologie. Comment pouvons-nous continuer à progresser dans le domaine de l’IA tout en garantissant une sécurité maximale ? L’approche innovante de réentraînement des modèles pourrait offrir une voie prometteuse pour répondre à ces défis. Mais l’équilibre entre l’accessibilité et la sécurité reste délicat.

Cette recherche souligne l’importance de repenser les fondations mêmes des modèles d’IA pour garantir leur sécurité, même dans des contextes d’utilisation réduits.

Alors que la technologie continue d’évoluer, il sera crucial de surveiller comment ces innovations sont mises en œuvre et exploitées. La question demeure : comment pouvons-nous garantir que les bénéfices d’une IA accessible et innovante ne soient pas éclipsés par les risques potentiels de son utilisation abusive ?