Imagine una imagen de Karl Marx saliendo de un centro comercial con bolsas de la compra en las manos y luciendo un entusiasmo inesperado por el consumismo. No es una fotografía real, sino un deepfake generado por una nueva inteligencia artificial de OpenAI que va más allá de lo que conocíamos con DALL-E, incursionando en un tema candente: la censura.

Adiós a la censura (casi). En la presentación de este innovador modelo, OpenAI ha destacado una notícia sorprendente: la posibilidad de generar deepfakes y crear imágenes de figuras públicas sin muchos obstáculos. Como mencionan en su anuncio, "la generación de imágenes es capaz, en numerosos casos, de representar a personas públicas únicamente a través de una simple indicación de texto".

Esta nueva política indica que no se bloqueará la creación de imágenes de personajes públicos adultos, aunque se implementarán salvaguardias para evitar la generación de contenido inadecuado, como imágenes de menores, violencia, incitación al odio y contenido erótico. Asimismo, figuras públicas que desean proteger su imagen pueden optar por no participar.

Un cambio de paradigma. Este enfoque en la reducción de la censura es similar al que presentó Grok 3, un modelo que, aunque menos conocido, ganó popularidad por su libertad creativa. OpenAI subraya que esta diferencia con los modelos anteriores de DALL-E abre espacios para usos positivos en áreas educativas, históricas y satíricas. Sin embargo, también advierten que monitorearán el uso de estas capacidades, lo que insinuaría un posible retroceso en la decisión si se observa un mal uso.

¿Una estrategia arriesgada? La decisión de OpenAI es intrigante, considerando que Grok 3 ha prosperado gracias a su enfoque “políticamente incorrecto”. Sin embargo, es un recordatorio de que las herramientas de IA pueden ser utilizadas tanto para el bien como para el mal. Gestionar su mal uso puede resultar complicado y costoso, lo que lleva a OpenAI a ceder cierta responsabilidad a los usuarios. La experiencia pasada con Grok 3 mostró que infinidad de memes y contenidos surgieron al permitir que los usuarios generaran imágenes de celebridades, pero OpenAI posiblemente evalúa que la controversia inicial ha disminuido y que ahora sería el momento perfecto para atraer más usuarios a ChatGPT, a expensas de su competidor.

Precauciones necesarias. Generar imágenes es sin duda una ventaja, pero también presenta riesgos. Google, con su modelo Gemini, enfrentó problemas de reputación tras generar contenido inadecuado. Por esta razón, OpenAI ha sido explícito en su compromiso de crear un entorno 'seguro', manteniendo la capacidad de censurar imágenes que puedan involucrar contenido ilegal.

La evolución de DALL-E. DALL-E fue introducido por OpenAI a inicios de 2021 y desde su lanzamiento ha evolucionado enormemente, culminando en una nueva funcionalidad en ChatGPT que permite generar imágenes dentro del modelo GPT-4o. Este anuncio es crucial ya que facilita la creación de imágenes con una calidad superior a la generada por versiones previas.

Textos claros y precisos. Una de las innovaciones destacadas de este modelo es su capacidad para incluir texto de manera clara en las imágenes generadas, a diferencia de otras versiones donde el texto a menudo emerge distorsionado o ilegible. OpenAI asegura que esto se debe a una base de conocimiento mejorada.

Más opciones creativas. La nueva IA también permite la generación en "multiturno", lo que significa que los usuarios pueden refinar imágenes a partir de sus propias creaciones anteriores, añadiendo nuevos elementos o modificando los existentes. Además, la capacidad de generar diagramas y gráficos es otra función interesante de este modelo.

Marcas de agua para mayor transparencia. Un aspecto adicional es que todas las imágenes generadas incluyen metadatos que actúan como 'marcas de agua' invisibles, identificando que fueron creadas por GPT-4o, lo que permite a OpenAI verificar el origen del contenido generado.

Un camino imperfecto. Sin embargo, un aviso importante de OpenAI aclara que las imágenes generadas pueden contener errores y que el modelo podría producir textos sin sentido, especialmente en varios idiomas.

Disponibilidad inmediata. La función de generación de imágenes en GPT-4o está siendo desplegada ya para los usuarios de ChatGPT Plus y otros niveles, y se espera que pronto esté disponible para todos los usuarios de la plataforma. La evolución sigue siendo gradual, con un enfoque en que los usuarios sean conscientes de la procedencia de cada creación visual. Con esta nueva herramienta, OpenAI promete no solo cambiar la forma en que interactuamos con la inteligencia artificial, sino también marcar un hito en el mundo digital en la creación de imágenes.