Surnommé le "parrain de l'intelligence artificielle", Geoffrey Hinton n'a pas mâché ses mots sur Sam Altman, le PDG d'OpenAI.

C'est peu fréquent que des prix Nobel regrettent leur travail, mais Geoffrey Hinton, co-lauréat du prix Nobel de Physique avec John Hopfield pour leurs contributions à l'intelligence artificielle, en fait partie. En effet, ce chercheur, reconnu pour ses apports dans le domaine de l'IA, tire la sonnette d'alarme sur les dangers potentiels liés à l'explosion des modèles d'intelligence artificielle.

Lors d'unesession de questions-réponses à l'Université de Toronto le 8 octobre, Hinton a critiqué ouvertement le patron d'OpenAI en déclarant : "Je souhaite remercier mes étudiants qui ont réalisé des choses extraordinaires. Je suis particulièrement fier qu'un de mes étudiants ait réussi à licencier Sam Altman."

Cette référence n'est pas anodine : il parle ici d'Ilya Sutskever, co-fondateur d'OpenAI, qui a tenté sans succès de renverser Altman l'année dernière. Bien que le conseil d'administration d'OpenAI ait réussi à mettre Altman à la porte temporairement, il a dû être réintégré sous la pression des employés et des actionnaires. Ilya Sutskever, pour sa part, a quitté l'entreprise peu après cet épisode, tout comme plusieurs autres membres clés de l'effectif.

Un débat sur la sécurité versus les profits

Geoffrey Hinton décrit la montée des tensions au sein d'OpenAI : "Avec le temps, il est devenu clair que Sam Altman était beaucoup plus intéressé par le profit que par la sécurité. C'est vraiment regrettable."

Il rappelle que l'objectif initial d'OpenAI, fondée en 2015 par des visionnaires tels que Sam Altman et Elon Musk, était de développer une intelligence artificielle générale tout en garantissant sa sécurité. Mais l'évolution d'OpenAI d'une organisation à but non lucratif à une entreprise lucrative, maintenant valorisée à 150 milliards de dollars, a soulevé des questions quant à la priorité accordée à la sécurité.

Geoffrey Hinton ne cache pas ses préoccupations : "Mon inquiétude est que l'intelligence artificielle peut engendrer des conséquences désastreuses, notamment lorsque nous créons des systèmes plus intelligents que nous-mêmes. C'est incertain si nous pourrons les contrôler."

Dans un contexte où l'IA progresse à une vitesse fulgurante, les débats sur la régulation et la responsabilité des acteurs majeurs tels qu'OpenAI deviennent cruciaux. Alors que la technologie continue de transformer notre monde, les voix comme celle de Hinton deviennent indispensables pour orienter le débat sur une future intelligence artificielle éthique et sécurisée.