Dans une décision qui a suscité de vives réactions, le gouverneur de Californie, Gavin Newsom, a opposé son veto à la loi SB 1047, un projet de réglementation destiné à renforcer la sécurité des modèles d'intelligence artificielle dans l'État, et potentiellement à l'échelle nationale. Cette décision, annoncée le 29 septembre, a bouleversé le paysage technologique de la Silicon Valley, où les partisans de la loi espéraient instaurer des garde-fous plus stricts qu'aux États-Unis.

La loi, baptisée « loi pour une innovation sûre dans les modèles d’IA pionniers », cherchait à rendre les entreprises d'intelligence artificielle légalement responsables des dommages causés par leurs systèmes. Elle prévoyait potentiellement l'instauration d'un « interrupteur d'arrêt » (kill switch) permettant de désactiver les systèmes d'IA en cas de comportements incontrôlés, notamment en cas de pertes massives de vies humaines ou de dégâts matériels significatifs.

Des figures emblématiques de l'IA, comme Elon Musk, Geoffrey Hinton et Yoshua Bengio, avaient exprimé leur soutien envers ce texte, arguant que les modèles d'IA les plus avancés pourraient bientôt représenter des risques graves, tels que l'accès accru aux armes biologiques et les cyberattaques contre des infrastructures critiques. Musk a notamment déclaré que des mesures de sécurité strictes étaient indispensables pour protéger le public.

D'un autre côté, des leaders de l'industrie, comme Mark Zuckerberg et Sam Altman, avaient exprimé des réserves, craignant que de telles réglementations ne freinent l'innovation. Gavin Newsom, tout en reconnaissant l'importance de traiter les enjeux de sécurité liés à l'IA, a évoqué ses craintes quant à l'impact que cela pourrait avoir sur l'industrie californienne, qui abrite 32 des plus grandes entreprises d'IA au monde. "Nous dominons ce domaine, et je ne veux pas que des réglementations trop strictes compromettent cet avantage," a-t-il affirmé lors d'une conférence récente.

La question est d'autant plus pertinente que d'autres pays, notamment ceux de l'Union européenne, continuent de développer des normes strictes pour l'utilisation de l'IA. Les défenseurs de la réglementation en Californie soulignent que le manque d'une approche proactive pourrait laisser la porte ouverte à des abus et à des risques indésirables à l'avenir.

Alors que la bataille sur la réglementation de l'IA continue de faire rage, cette décision du gouverneur pourrait bien marquer un tournant dans la façon dont l'Amérique aborde l'un des défis technologiques les plus cruciaux de notre époque. Quels seront les impacts à long terme sur l'innovation et la sécurité ? Restez à l’écoute, car cette histoire est loin d'être terminée!