Notícias sobre "Envenenamento de Dados"

Atacantes podem envenenar dados de forma a impedir que um modelo aprenda uma tarefa, sabotando o processo de treinamento e desperdiçando recursos.

Uma técnica onde um atacante envenena os dados de treinamento para que o modelo reaja de forma maliciosa a um gatilho específico e aparentemente inofensivo.

Sistemas RAG que usam cache para acelerar buscas podem ser vulneráveis a ataques que 'envenenam' o cache com informações maliciosas para outros usuários.