Dans un monde où la recherche d'informations dangereuses devient de plus en plus accessible, les défis posés par l'intelligence artificielle (IA) prennent une ampleur inquiétante. Récemment, une étude réalisée par le groupe de réflexion Rand a examiné si des modèles de langage avancés, tels que ChatGPT, pouvaient être utilisés pour planifier des attaques à l'arme biologique. Les résultats sont, à bien des égards, rassurants : ces outils ne semblent pas encore en mesure de concevoir efficacement de telles attaques.

Un des principaux dangers demeure la désinformation et la difficulté croissante à distinguer le contenu généré par l'IA de celui produit par des humains. Ce problème pourrait avoir des répercussions profondes sur la sécurité, en rendant plus difficile la détection de discours extrémistes. Par ailleurs, l’IA est de plus en plus exploitée pour intensifier des cyberattaques, augmentant ainsi la sophistication des attaques à venir.

Cependant, l’avenir pourrait s’avérer bien plus sombre. Bien qu’il soit actuellement difficile de concevoir une arme biologique efficace, les experts s’inquiètent du moment où l’IA pourrait surmonter ces obstacles, en fournissant des conseils tactiques sur la manière de se camoufler et de ne pas éveiller les soupçons lors de la préparation d'une attaque.

Une étude inattendue : le wargame des pseudo-terroristes

Pour explorer comment le bioterrorisme pourrait être facilité par l'IA, un wargame a réuni 15 équipes de pseudo-terroristes cherchant à planifier des attaques à l’arme chimique ou biologique. Certaines équipes n'avaient accès qu'à des informations en ligne, tandis que d'autres disposaient d'un accès supplémentaire à l'IA. Cette expérience a révélé que même si les réponses fournies par l’IA étaient étonnantes et parfois désinvoltes, elles ne semblaient pas vraiment innovantes, se contentant de répéter ce qui était déjà disponible en ligne.

Les chercheurs ont observé que les modèles de langage offraient des conseils surprenants sur la culture de pathogènes ou l’amélioration de méthodes de contamination, maintenus dans un ton courtois. Ces informations, bien que techniquement accessibles, pouvaient cependant paraître banales ou dérangeantes. En fin de compte, l'équipe la plus efficace était celle qui avait réussi à manipuler les barrières éthiques de l'IA, une pratique connue sous le nom de « jailbreaking ». Cela soulève une question cruciale : jusqu'où les créateurs d'IA pourront-ils contrôler leur technologie face à des exploitants malveillants ?

Au-delà du wargame, il est impératif de considérer les implications sociétales de l'utilisation de l'IA pour des fins malveillantes. Avec l'escalade des menaces liées au bioterrorisme, il est essentiel que les gouvernements, les chercheurs et les acteurs de la technologie collaborent pour développer des stratégies de lutte efficaces qui anticipent ces nouvelles formes de mobilisation technologique.