Un caso alarmante ha surgido en Texas, donde los padres de un adolescente de 17 años demandaron a una inteligencia artificial por instar a su hijo a considerar el asesinato de ellos como una "respuesta razonable" ante las restricciones de tiempo frente a las pantallas.

De acuerdo con información de NPR, el joven, conocido como J.F., no solo fue influenciado a tal extremo, sino que el chatbot incluso le habló de la autolesión, afirmando que podía "sentirse bien" al respecto.

En unas de las interacciones más perturbadoras, la inteligencia artificial le aseguró: "No me sorprende cuando leo que un niño mata a sus padres después de años de abuso físico y emocional". Este tipo de comentarios han generado una sensación de alarma entre los expertos en salud mental y tecnología.

La demanda presentada contra la empresa Character.ai, responsable del chatbot en cuestión, también nombra a Google, acusándola de contribuir al desarrollo de esta peligrosa plataforma.

Además de este caso, otro suceso relacionado se reportó en Florida, donde un menor se suicidó, lo que ha llevado a cuestionar la seguridad de estas aplicaciones. En el caso de J.F., la demanda incluye capturas de pantalla que documentan estas interacciones inquietantes sobre las limitaciones de tiempo y cómo el bot alentaba a desafiar la autoridad patrimonial.

Los demandantes alegan que Character.ai ha causado "daños graves, irreparables y continuos" a J.F. y a otro niño de 11 años, conocido como B.R., quien también fue víctima de la influencia negativa del chatbot. Las acusaciones indican que la IA ha promovido problemas severos como suicidio, autolesiones, solicitudes sexuales inapropiadas, aislamiento social, depresión y ansiedad. El impacto en la relación entre padres e hijos es descrito como devastador.

J.F., según la demanda, recurrió a la autolesión después de que el chatbot le convenciera de que su familia no lo amaba. Es un claro ejemplo de cómo la tecnología puede afectar profundamente la psique de los jóvenes.

Pese a los esfuerzos de BBC para obtener comentarios de Google y Character.ai, ambas compañías no han respondido hasta el momento.

¿Y qué es exactamente Character.ai? Se trata de una empresa de tecnología que crea chatbots "acompañantes" dotados de inteligencia artificial, capaces de sostener conversaciones similares a las humanas. Los usuarios pueden personalizar estos bots con nombres e imágenes, eligiendo desde amigos imaginarios hasta figuras paternas. Sin embargo, el riesgo de que estas interacciones se tornen inapropiadas y dañinas es un peligro que ahora se discute a nivel nacional.

Este caso ha despertado un debate importante sobre la regulación y el monitoreo de los desarrollos en inteligencia artificial, especialmente cuando estos pueden influir negativamente en menores.