John Hopfield, un pionnier de l'intelligence artificielle, exprime des préoccupations majeures quant à l'évolution rapide de cette technologie. Âgé de 91 ans et récemment récompensé par le prix Nobel de physique pour ses recherches sur l'IA, il a qualifié ces avancées, discutées lors d'une conférence à l'Université du New Jersey par vidéo depuis le Royaume-Uni le 8 octobre, de « très inquiétantes ».

Le scientifique, professeur émérite à l'Université de Princeton, a mis en garde contre les dangers potentiels d'une IA qui ne serait pas suffisamment maîtrisée. Il a souligné l'importance d'une compréhension approfondie des mécanismes de ces systèmes pour éviter qu'ils ne deviennent incontrôlables, comme cela a été observé par le passé avec d'autres technologies puissantes telles que le génie biologique et la physique nucléaire.

« Nous sommes face à des technologies ambivalentes, qui peuvent générer des bénéfices, mais également des catastrophes », a-t-il déclaré. « En tant que physicien, je suis profondément troublé par l'idée que nous ne contrôlons pas entièrement quelque chose d'aussi puissant ».

Hopfield a également mentionné que les systèmes d'IA, bien qu'ils soient considérés comme des « merveilles absolues », sont conçus de manière complexe, rendant leur fonctionnement difficile à appréhender. « C’est très, très inquiétant », a-t-il ajouté, soulignant que la compréhension de cette technologie doit progresser à mesure qu’elle évolue.

Il a préconisé, comme d'autres experts tels que Geoffrey Hinton, une meilleure régulation et une éthique solide autour de l'IA, afin de garantir que ces systèmes ne développent pas des capacités incontrôlées qui dépassent notre compréhension.

« Nous devons être conscients que ces capacités vont croître au-delà de notre imagination actuelle », a-t-il noté, avertissant que l'essor fulgurant de l'IA pourrait échapper à notre capacité à la comprendre ou à la gérer.

En évoquant l'importance d'une vigilance critique, Hopfield a cité 'glace-neuf', un concept de l'auteur de science-fiction Kurt Vonnegut, pour illustrer comment des innovations, bien qu'initialement bénéfiques, peuvent entraîner des résultats catastrophiques inattendus.

« Je suis préoccupé par tout ce qui prétend être plus rapide ou plus puissant sans une meilleure maîtrise », a-t-il conclu. Cette déclaration a provoqué un débat parmi les chercheurs et les professionnels du secteur sur la nécessité d'une régulation proactive de l'IA pour éviter des conséquences potentiellement désastreuses.