Uso de deepfake on-line aumentou em 900% em um ano

Número de vídeos utilizando golpes por deepfake on-line teve um aumento de 900% em um ano. (Foto: Unsplash)

Segundo dados da Kaspersky, o número de vídeos utilizando golpes por deepfake on-line teve um aumento de 900% em um ano. Apesar de divertido e capaz de aumentar as possibilidades de criação de conteúdos, essa tecnologia também tem o potencial de causar danos significativos, desde desinformação até ataques à reputação, uma vez que ela consegue clonar a imagem ou a voz de alguém. Entre empresas ou até mesmo no dia a dia de pessoas físicas, o uso dos deepfakes para fraudes também é algo que preocupa.

Por isso, as companhias estão buscando cada vez mais soluções eficientes para evitar as fraudes utilizando deepfakes. Para Marcelo Peixoto, CEO da Minds Digital, Voice ID Tech pioneira em biometria de voz no Brasil, a autenticação por voz se apresenta como uma solução promissora para combater esses golpes.

“A partir da tecnologia de anti-spoofing, a IA consegue determinar se o conteúdo é de uma voz natural ou sintética, sabendo diferenciar suas características únicas e se ela é humana ou produzida artificialmente. Com a tecnologia unida à ciência de dados nós conseguimos altos níveis de acurácia, para autenticar clientes em 1 segundo, gerando uma fricção mínima na experiência do cliente”, afirma o executivo.

Diante desse cenário, o CEO da Minds Digital listou 7 mitos e verdades sobre Deepfake. Confira:

1. Deepfakes sempre são fáceis de detectar.

Mito. Os deepfakes nem sempre são fáceis de detectar. Embora existam avanços constantes na identificação de deepfakes, especialmente por meio de métodos baseados em inteligência artificial, como análise de padrões e reconhecimento de anomalias, os criadores também estão constantemente refinando suas técnicas para torná-los mais convincentes e indetectáveis.

2. Deepfakes podem ser usados para desinformação.

Verdade. A capacidade de criar vídeos convincentes de eventos fictícios ou declarações falsas pode ser explorada para espalhar desinformação e manipular a opinião pública.

3. Deepfakes são usados apenas para criar conteúdo de entretenimento.

Mito. Embora casos de vídeos e músicas utilizando imagens e vozes de artistas sejam conhecidos, a tecnologia é usada para diversos propósitos, incluindo sátira política, paródias, e até mesmo fins maliciosos, como golpes de phishing ou contra a reputação de pessoas.

4. A tecnologia por trás dos deepfakes está em constante evolução.

Verdade. Os avanços na inteligência artificial, especialmente em redes neurais e aprendizado profundo, continuam a melhorar a qualidade e a autenticidade dos deepfakes.

5. Em IAs mais evoluídas, é impossível detectar se é deepfake.

Mito. Por mais que existam preocupações sobre o uso de tecnologias avançadas, sempre é possível determinar se algum conteúdo é sintético. Afinal, da mesma forma que a tecnologia evolui para a criação do conteúdo, ela evolui na detecção desses indícios que se trata de um conteúdo fake.

6. Existem esforços para combater deepfakes.

Verdade. Pesquisadores e empresas estão investindo em ferramentas de detecção de deepfakes e em métodos para autenticar conteúdo digital.

7. Deepfakes levantam preocupações éticas e legais.

Verdade. O uso não consensual de deepfakes pode violar a privacidade das pessoas e causar danos à reputação. Muitos países estão considerando ou implementando legislações para lidar com o uso inadequado de deepfakes, como aqui no Brasil, recentemente foi aprovado o Plano Nacional de Cibersegurança.