Uma nova ferramenta chamada Nightshade permite que artistas injetem pixels invisíveis em suas imagens, enganando modelos de IA. Isso promete remodelar o equilíbrio de poder entre IA e artistas, mas também apresenta riscos de uso indevido.
O Nightshade altera pixels em imagens para fazer com que os modelos de IA aprendam nomes de objetos e cenários incorretos; por exemplo, fazendo um cachorro parecer um gato. Os pesquisadores submeteram o trabalho do Nightshade para revisão por pares na conferência de segurança da computação USENIX.
