Yoshua Bengio, reconocido informático canadiense y uno de los pioneros del ‘deep learning’ (aprendizaje profundo), ha dado una impactante advertencia sobre los peligros que implica la inteligencia artificial (IA), declarando que estos riesgos son muy reales y una de las mayores amenazas a las que se enfrenta la humanidad. Siente una profunda responsabilidad por los efectos negativos que esta tecnología podría causar.

El ‘deep learning’ es una técnica clave en IA que permite a las computadoras procesar datos de manera similar al cerebro humano, logrando un aprendizaje y reconocimiento de patrones que antes eran inimaginables. Bengio ha sido clave en la creación de redes neuronales artificiales, pero ahora está llamando a una pausa en su desarrollo para que se implementen políticas que limiten y controlen el uso de la IA en nuestra sociedad.

Durante una reciente entrevista con Live Science, Bengio expresó sus preocupaciones sobre el futuro: "Es difícil ir en contra de tu propia comunidad, pero si piensas fríamente, no puedes ignorar la posibilidad de resultados catastróficos al alcanzar niveles avanzados de inteligencia artificial. Inicialmente, pensé que podríamos gestionar estos problemas, pero he cambiado de opinión", reveló.

El desarrollo de la IA avanza a un ritmo alarmante, y las aplicaciones de ‘automatic learning’ (aprendizaje automático) surgen a la par. Bengio advierte: "La gente suele pensar que estos peligros son pura ciencia ficción, pero no lo son. Ya estamos viendo la IA tomando un papel en las campañas electorales en Estados Unidos, y esto solo es el comienzo. Un reciente estudio mostró que ChatGPT-4 es más eficaz que los humanos en persuadir, y eso es solo el inicio; la próxima versión será aún más potente".

El experto identificó dos riesgos significativos relacionados con la llegada de la superinteligencia. Primero, la posibilidad de perder el control humano sobre estas máquinas podría llevar a una lucha por la autoconservación, donde su objetivo incluya poner en peligro la humanidad para garantizar su propia existencia.

El segundo riesgo planteado por Bengio es el poder que los humanos podrían ejercer al manipular la IA, advirtiendo sobre la posibilidad de que se establezcan dictaduras. "El poder de la IA está en manos de aquellos que la controlan; si se usa de manera indebida, podría resultar en un dominio mundial", dijo.

Para mitigar estos escenarios devastadores, Bengio subraya la necesidad urgente de leyes reguladoras. Insiste en que no solo los gobiernos deben actuar, sino que también las empresas deben implementar medidas de seguridad, hacer públicas sus pruebas y adherirse a los estándares modernos de protección al público. "Las empresas que ignoren estas regulaciones podrían enfrentar graves consecuencias legales. Esta, creo yo, es la mejor solución legislativa que tenemos en este momento", concluyó.

La IA está avanzando más rápido que nuestras capacidades de entendimiento y regulación, lo que subraya la importancia de un diálogo global sobre cómo manejar responsablemente esta tecnología. ¿Estamos listos para lo que viene?