Le MIT développe la technologie 'PhotoGuard' pour protéger les images contre les modifications malveillantes de l'IA

À mesure que la technologie des deepfakes basée sur l’IA continue de progresser, il devient de plus en plus difficile pour les gens de juger à l’œil nu « quel contenu est forgé par l’IA ». Afin d'éviter que les images ne soient mal interprétées après avoir été modifiées par les robots d'exploration, le MIT a récemment annoncé une technologie appelée Photoguard, qui peut traiter les images pour les rendre difficiles à reconnaître et à falsifier par l'IA

Il est rapporté que cela " PhotoGuard" La technologie empêche principalement l'IA de reconnaître le contenu de l'image en apportant de légères modifications à l'image. Cette technologie offre deux solutions pour empêcher les images d'être modifiées par l'IA. L'une est la méthode « encodeur », qui interfère avec la capacité du modèle d'algorithme à comprendre l'image en modifiant les pixels de l'image ; faire croire à l'IA que l'image A est l'image B, générant ainsi la mauvaise image.

Cependant, après enquête, IT House a appris que l'espace d'application de cette technologie est en réalité limité. Les chercheurs préviennent que la technologie PhotoGuard est plus adaptée aux scénarios anti-crawler. La technologie elle-même présente également certaines limites. retournez les images traitées pour pirater cette technologie .

Les chercheurs ont souligné que pour résoudre le problème de la fraude à l'IA, outre les moyens techniques, les développeurs de modèles, les plateformes de médias sociaux et les départements concernés doivent également travailler ensemble pour fournir une solution complète de « lutte contre la fraude à l'IA »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!