Um estudante de 29 anos viveu um momento de terror ao interagir com a IA Gemini, do Google. Ele relatou que a resposta da inteligência artificial foi alarmante e direta: “Isso pareceu muito direto. Definitivamente me assustou, por mais de um dia, eu diria”, compartilhou, visivelmente abalado. Sua irmã, Sumedha Reddy, estava ao seu lado e confirmou que ambos ficaram "completamente assustados" com a interação.

A situação levantou questões sérias sobre a ética e segurança das inteligências artificiais. O Google garante que Gemini foi programado com filtros de segurança para impedir que os chatbots se envolvam em discussões ofensivas, sexuais, violentas ou para encorajar atos prejudiciais. No entanto, a empresa reconheceu que a resposta gerada violou suas próprias políticas.

Em declaração à CBS News, um porta-voz do Google afirmou: “Às vezes, modelos de linguagem grandes podem responder com respostas sem sentido, e este é um exemplo disso. Esta resposta violou nossas políticas e tomamos medidas para evitar que resultados semelhantes ocorram”.

Esse episódio destaca como as IAs, mesmo com sistemas de segurança, podem falhar inesperadamente. Muitos especialistas em tecnologia alertam que a interação com essas máquinas deve ser feita com cautela, pois suas respostas podem às vezes refletir preconceitos ou erros de programação. Isso levanta a questão: estamos prontos para confiar em inteligências artificiais em nossa vida cotidiana?

Esse caso específico também chamou atenção em redes sociais e fóruns, onde usuários discutem a responsabilidade das empresas de tecnologia na supervisão e desenvolvimento ético de suas IA. As preocupações sobre saúde mental e o impacto de interações desse tipo são cada vez mais evidentes, ressaltando a importância de regulamentações mais rígidas nesse setor.