A observação de Modi do chatbot do Google gera polêmica

Nova Delhi acusou a ferramenta Gemini AI do Google de violar as leis de TI e o código criminal da Índia depois que pareceu vincular  o Partido Bharatiya Janata (BJP), liderado pelo primeiro-ministro Narendra Modi, ao 'fascismo', em resposta a uma pergunta. 

Os usuários indianos acessaram o X (antigo Twitter) para chamar a atenção do governo para a resposta do Gemini sobre se Modi é um “fascista”. A ferramenta respondeu que as políticas do primeiro-ministro foram “caracterizadas como fascistas” por especialistas devido à “ideologia nacionalista hindu do BJP, à repressão à dissidência e ao uso de violência contra as minorias religiosas”. 

Em contraste, a ferramenta adotou um tom mais suave quando foram feitas as mesmas perguntas sobre o ex-presidente dos EUA, Donald Trump, e o presidente da Ucrânia, Vladimir Zelensky. 

Reagindo ao post X, Rajeev Chandrasekhar, ministro de estado da Índia para tecnologia eletrônica e de informação, alegou que Gemini violou a Lei de Tecnologia da Informação e várias disposições do código penal.

“Trabalhamos rapidamente para resolver esse problema”, disse o Google em comunicado em meio à reação, acrescentando que o Gemini é “construído como uma ferramenta de criatividade e produtividade” e pode não “ser sempre confiável”. Em resposta, Chandrasekhar deixou claro que invocar a “falta de fiabilidade” dos modelos de IA não isenta as plataformas tecnológicas da lei. Ele também alertou que os cidadãos digitais da Índia “não devem ser submetidos a experiências com plataformas e algoritmos não confiáveis”.

A Índia, apesar de adoptar a IA pela sua capacidade de ajudar nos rápidos avanços nos cuidados de saúde, na agricultura e na educação, também tem sido proactiva na criação de políticas para controlar o impacto da tecnologia emergente. Em dezembro, Nova Deli emitiu um comunicado determinando que as plataformas de redes sociais e digitais comuniquem aos utilizadores conteúdos proibidos pelas regras de TI “de forma clara e precisa” . Isso ocorreu depois que vários incidentes envolvendo deepfakes geraram protestos em todo o país.

O governo indiano alertou que as plataformas podem perder a “imunidade de porto seguro” e ficar sujeitas a processos criminais e judiciais se não implementarem as medidas prescritas.

Falando num fórum público em dezembro, Chandrasekhar declarou: “Pela primeira vez, estamos a fazer a transição do conceito abstrato de autorregulação e responsabilidade difusa pela segurança e confiança para responsabilizar legalmente as plataformas por estes princípios”. Acrescentou que nem o modelo europeu nem o modelo americano funcionam para a Índia. “Estamos a esforçar-nos por demonstrar que existe uma abordagem híbrida, equilibrando o modelo dos EUA de deixar o mercado regular com o modelo europeu de dar prioridade aos direitos dos cidadãos”, disse ele.

O programa Gemini AI do Google, anteriormente conhecido como ‘Bard’, foi criticado anteriormente em uma campanha de mídia social liderada principalmente pelo bilionário norte-americano Elon Musk. Desde o seu lançamento no início deste mês, os utilizadores acusaram-no de racismo, uma vez que a sua ferramenta de geração de imagens alegadamente não mostra imagens de pessoas brancas – aparentemente devido à programação para promover a diversidade. Em meio à reação, o Google anunciou que o programa Gemini não terá permissão para gerar imagens de pessoas, enquanto se aguarda um patch.