John Hopfield, reconnu comme l'un des pionniers de l'intelligence artificielle, ne cache pas son inquiétude face à l'évolution rapide de cette technologie. Lauréat du prix Nobel de physique pour ses recherches en intelligence artificielle, il a récemment partagé ses préoccupations sur les avancées « très inquiétantes » que connaît le domaine.

Lors d'une allocution par vidéo à l’Université du New Jersey, le scientifique de 91 ans a averti que la technologie, si elle n'est pas maîtrisée, pourrait mener à une catastrophe. Il a souligné l'importance de comprendre en profondeur le fonctionnement des systèmes d'IA afin d'éviter qu'ils deviennent incontrôlables.

Hopfield a fait le lien avec l'essor de deux autres technologies potentiellement dangereuses qu'il a observées au cours de sa carrière : le génie biologique et la physique nucléaire. « Nous avons l'habitude d'interagir avec des technologies qui peuvent avoir des conséquences à la fois positives et négatives », a-t-il déclaré.

Se décrivant comme un physicien très troublé, il a ajouté : « Je suis inquiet par quelque chose que je ne comprends pas bien et pour lequel je ne connais pas les limites. C’est là que réside le véritable défi de l’intelligence artificielle ». Selon lui, même si ces systèmes modernes d'IA semblent être des « merveilles absolues », leur fonctionnement demeure insuffisamment compris, ce qui soulève des inquiétudes majeures.

« Nous devons clairement établir une meilleure compréhension », a-t-il exhorté, mentionnant qu'il était d'accord avec Geoffrey Hinton, un autre lauréat du prix Nobel. Ensemble, ils ont plaidé pour un cadre réglementaire robuste qui pourrait éviter les conséquences imprévues. Selon Hopfield, le domaine de l'IA est destiné à « développer des capacités qui dépasseront ce que nous pouvons imaginer aujourd'hui ».

La nécessité d'une régulation se fait de plus en plus pressante, alors que l’avancement de l’intelligence artificielle semble surpasser la capacité des chercheurs à en évaluer les implications. "On ne peut pas prédire si quelque chose de non désiré pourrait surgir dans nos travaux”, a-t-il mis en garde, évoquant l’exemple de la “glace-neuf”, un matériau fictif de Kurt Vonnegut. Dans son récit, cette substance, destinée à aider les soldats en terrain boueux, provoque la solidification des océans, entraînant ainsi l’effondrement de la civilisation.

« Je m'inquiète de tout ce qui proclame 'Je suis plus rapide que toi, je suis plus puissant que toi' », a-t-il conclu, soulignant l'urgente nécessité d'aborder ces innovations avec prudence. Les voix comme celle de John Hopfield deviennent de plus en plus cruciales dans le débat actuel sur l'intelligence artificielle et ses répercussions potentielles sur notre futur.