Em tempos de desinformação e manipulação de imagens, a Microsoft desenvolveu uma tecnologia a partir de inteligência artificial que pode ajudar muito a tirar do vazio da dúvida. Saiba como usar o Microsoft Video Authenticator em deepfakes.
Deepfake é um conteúdo criado a partir de inteligência artificial para reproduzir a aparência e voz de alguém. O que possibilita mudanças de contexto e fake news. Ou seja, posso pegar a ação ou fala de uma pessoa comum e aplicar o rosto de uma pessoa influente a fim de difamá-la, causar constrangimentos e até fazê-la ganhar uma eleição.
Se você caiu na conversa do vídeo falso com a suposta magistral imitação de Jim Carrey, em O Iluminado, de Stanley Kubrick – por esse e outros motivos -, deve estar ansioso para não ser mais tapeado.
Funciona assim, o serviço Microsoft Video Authenticator, analisa uma foto ou vídeo para fornecer um percentual, ou pontuação de confiança. Com isso, ele indica se a mídia foi ou não manipulada artificialmente e funciona detectando o limite de mesclagem dos elementos do deepfake e o sutil desvanecimento ou tons de cinza – que podem não ser facilmente detectados pelo olho humano.
Se as deepfakes são criadas através de inteligência artificial (IA), utilizando algoritmos de machine learning para realizar a manipulação das imagens, a única forma de combater uma IA é com outra. E é a aí que a Microsoft tem obtido grandes progressos em desmascarar os mal intencionados. O recurso analisa cada quadro de um vídeo e atribui a cada imagem uma pontuação de confiança.
A tecnologia foi originalmente desenvolvida pela Microsoft Research em coordenação com a equipe Responsible AI da Microsoft e o Comitê de Ética e Efeitos em Engenharia e Pesquisa (AETHER) da Microsoft – um conselho da Microsoft que ajuda a garantir que novas tecnologias sejam desenvolvidas e colocadas em campo de maneira responsável. O Video Authenticator foi criado usando um conjunto de dados públicos do Face Forensic++, e testado no DeepFake Detection Challenge Dataset, ambos modelos líderes para treinamento e teste de tecnologias de detecção de deepfake.
A empresa também permitirá que os produtores de conteúdo adicionem hashes digitais e certificados ao conteúdo que produzem. Esses rótulos serão incluídos nos metadados do conteúdo, e um leitor, que existirá como uma extensão do navegador, verificará se os certificados correspondem aos hashes. Isso ajudará a garantir aos espectadores que o conteúdo é autêntico e não foi alterado.
A ferramenta ainda não funciona com perfeição, alguns quadros podem passar despercebidos. Está disponível somente para membros do RD2020, uma iniciativa sem fins lucrativos que ajuda repórteres e pesquisadores a combater a desinformação. Além disso, irá alimentar uma iniciativa recentemente anunciada pela BBC chamada Project Origin.
Com informações: Microsoft, Engadget e Bloomberg QuickTake.
Nenhum comentário:
Postar um comentário