O governo indiano propôs na quarta-feira novas regulamentações que exigem que as empresas de IA e mídias sociais rotulem claramente o conteúdo gerado, uma medida que visa coibir a disseminação de deepfakes e desinformação. Medidas semelhantes já foram implementadas pela União Europeia e pela China. Com quase um bilhão de usuários da internet e uma comunidade étnica e religiosa diversificada, a Índia enfrenta o risco de notícias falsas desencadearem conflitos mortais, especialmente durante o período eleitoral, quando deepfakes gerados por IA causaram pânico entre as autoridades.

As novas regulamentações exigem que as plataformas rotulem com destaque o conteúdo gerado por IA, cobrindo pelo menos 10% da superfície visual ou os primeiros 10% dos clipes de áudio, fortalecendo a responsabilidade de empresas como OpenAI, Meta, X e Google. O rascunho da proposta também exige que as empresas de mídia social obtenham o consentimento do usuário sobre se o conteúdo publicado é gerado por IA e implementem medidas técnicas razoáveis ​​para garantir freios e contrapesos. O Ministério de Tecnologia da Informação da Índia declarou que essas regras garantirão a rotulagem visível, a rastreabilidade de metadados e a transparência da mídia gerada por IA, e estão abertas a comentários do público e da indústria até 6 de novembro.

O governo está preocupado com o fato de o uso generalizado de ferramentas de IA generativa aumentar o risco de prejudicar usuários, disseminar informações incorretas, manipular eleições ou personificar indivíduos. Embora a OpenAI, o Google e a Meta não tenham respondido aos questionamentos da Reuters, os tribunais indianos estão ouvindo vários processos relacionados a deep fakes. Um casal de celebridades de Bollywood solicitou ao juiz que exclua e proíba a produção de vídeos de IA que infrinjam seus direitos de propriedade intelectual e questionou a política de treinamento em IA do YouTube. Especialistas em pesquisa de políticas públicas apontaram que a regulamentação proposta pela Índia, que abrange 10% da área de superfície, é "uma das primeiras tentativas no mundo de quantificar claramente os padrões de visibilidade". Se implementada, as plataformas de IA indianas serão obrigadas a estabelecer sistemas de rotulagem automática para identificar e marcar conteúdo gerado por IA. Atualmente, a Índia está se tornando um mercado importante para empresas de inteligência artificial. O CEO da OpenAI disse uma vez que a Índia é seu segundo maior mercado de usuários, e o número de usuários triplicou no ano passado.