Notícias sobre "Deepfake"

Atacantes podem usar deepfakes para criar vídeos ou áudios comprometedores (falsos) de executivos e, em seguida, exigir um resgate para não divulgá-los.

O uso de IA para micro-direcionamento de eleitores, geração de discursos e criação de deepfakes está mudando a política. Uma análise dos riscos para a democracia.

A mesma tecnologia que cria deepfakes pode ser usada para detectá-los. Como LLMs multimodais podem analisar vídeos em busca de artefatos de IA.

Além de deepfakes, modelos como Midjourney e DALL-E apresentam riscos de geração de conteúdo prejudicial, violação de direitos autorais e ataques de jailbreak.

Com a clonagem de voz se tornando trivial, ataques de vishing onde o atacante se passa por um executivo para autorizar fraudes estão se tornando uma ameaça real.