La caja negra de la inteligencia artificial

La inteligencia artificial (IA) es un campo rodeado de misterio y dudas. La mayoría de los algoritmos operan tras lo que se conoce como la ‘caja negra’, un lugar opaco donde ni siquiera sus creadores pueden descifrar qué decisiones se toman o por qué. Aunque existen modelos de código abierto, el usuario promedio no tiene idea de las directrices que determinan las respuestas. ¿Qué ideología subyace, por ejemplo, en las respuestas de ChatGPT o DeepSeek? ¿Las decisiones de estos chatbots son meramente probabilísticas o están influenciadas por políticas? La incertidumbre es abrumadora.

DeepSeek: el temido avance de la IA china

A principios de año, un nombre emergió con fuerza en el ámbito de la IA: DeepSeek. Esta empresa china presentó un modelo que logró superar a sus competidores más avanzados sin necesidad de los superchips de Nvidia y gastando una fracción mínima de los exorbitantes costos necesarios para desarrollar otros modelos. Este hallazgo sacudió la economía global, provocando una gran preocupación entre algunas compañías estadounidenses, aunque eventualmente esos temores se diluyeron.

La batalla geopolítica por la IA

En los últimos cuatro meses, DeepSeek ha estado bajo intenso escrutinio por parte de varios países. Taiwán, Australia e Italia, por ejemplo, han prohibido su uso en equipos gubernamentales. En Estados Unidos, diferentes estados están implementando medidas similares, y se ha presentado una legislación en el Congreso para prohibir su uso en máquinas gubernamentales. La IA ya desempeña un papel crucial en la geopolítica.

Preocupaciones sobre la privacidad y la seguridad

Un informe de una comisión parlamentaria estadounidense destaca que DeepSeek "analiza datos de ciudadanos estadounidenses y los envía a la República Popular China a través de una infraestructura de backend" conectada a una empresa militar china. Además, la censura es alarmante; la empresa no tiene información sobre eventos históricos significativos, como la masacre de Tiananmen. Según su política de privacidad, avisan que los datos recopilados pueden ser compartidos con las autoridades estatales, lo que plantea serias preocupaciones sobre la seguridad.

Una posible prohibición en el horizonte

Con la escalada de la tensión, parece inminente la prohibición de DeepSeek en Estados Unidos, posiblemente extendiéndose más allá de los dispositivos gubernamentales. El republicano John Moolenaar advirtió que esta IA no es simplemente otra herramienta, sino un "arma del arsenal del Partido Comunista Chino, diseñada para espiar a los estadounidenses y robar nuestra tecnología". ¡Las palabras son contundentes!

Anthropic y el enfoque de la transparencia

En medio de la agitación, Anthropic busca aportar serenidad y transparencia con su modelo Claude. Esta empresa ha analizado más de 300,000 interacciones humanas con la IA para comprender cómo emite juicios morales. Se cuestiona si sus respuestas priorizan valores como la precaución o la conveniencia, la asertividad o la armonía laboral. Anthropic tiene la meta de alinear su IA con las preferencias humanas, haciéndola más útil y menos peligrosa.

Innovaciones recientes de OpenAI

Por otro lado, OpenAI ha presentado recientemente dos nuevos modelos, o3 y o4-mini, que representan un avance significativo en el desarrollo de la IA. El cofundador Greg Brockman afirmó que estos modelos son un salto hacia el futuro, ya que prometen generar ideas novedosas y útiles.

Robocop en Tailandia

En un curioso desarrollo, la Real Policía Tailandesa lanzó un robot llamado ‘ciborg policial de inteligencia artificial 1.0’ durante el festival de Songkran. Aunque no se movió en su debut, este robot, vestido como un oficial, utiliza datos de cámaras y drones para detectar comportamientos riesgosos y alertar a los agentes humanos. Sin embargo, sorprendentemente, el robot no reconoce las populares pistolas de agua que la gente usa para divertirse en el festival.