A Inteligência Artificial vem causando muita polêmica principalmente quando o assunto é a manipulação de coisas, que são transformadas em novas e aperfeiçoadas no ambiente digital. No caso de imagens, a grande dúvida é sobre como iremos saber, a partir de agora, se o que estamos vendo – numa busca de imagens pelo Google, por exemplo – é real ou uma montagem feita por programas como o chatGPT.
Um episódio que causou um reboliço na web recentemente foi quando o papa Francisco surgiu trajando uma elegante jaqueta de inverno a la Balenciaga, uma imagem gerada no serviço de Inteligência Artificial Midjourney, que se tornou viral e enganou (e ainda segue enganando) algumas pessoas, fazendo-as pensar que era real.
IA desmascarada
Numa tentativa de acalmar os ânimos mais apocalípticos sobre a influência da IA, o Google anunciou, no começo do mês durante o Google I/O, que vai incorporar marcações dentro de imagens criadas por seus modelos de IA para alertar as pessoas de que as imagens foram originalmente criadas por um computador.
A mensagem a ser exibida pelo Google será: “Imagem autorrotulada como gerada por IA”. Estes avisos, segundo o Google, não serão visíveis ao olho humano, apenas por meio de softwares, como a Pesquisa do Google – que, por enquanto só estará disponível em inglês e nos Estados Unidos.
Com isso, a empresa diz que o usuário poderá ler as etiquetas que avisam sobre conteúdo virtualmente modificado por máquinas.
Para evitar enganos
O Google também deve fornecer informações adicionais sobre todas as imagens em seus resultados para ajudar a evitar enganos.
Esse processo será incluído principalmente quando a foto for carregada pela primeira vez no mecanismo de pesquisa e se for citada por sites de notícias.
O Google dá, desta forma, o esforço mais significativo de uma grande empresa de tecnologia até agora para rotular e classificar a produção da IA generativa.
Ataque contra golpes na web
A intenção, além de evitar confusões como a ocorrida com a foto do papa, é coibir ações de spammers e golpistas na internet.
A expectativa é que esta ferramenta seja copiada pelos concorrentes e, em breve, já esteja disponível para além das fronteiras dos EUA, já que a disseminação de fake news é uma preocupação global.
A postagem no blog do Google inclusive afirma que Midjourney, Shutterstock e outros devem lançar as marcações próprias para estes tipos de conteúdo nos “próximos meses”.
