Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

FakeParts: una nueva familia de deepfakes generados por IA

Created by
  • Haebom

Autor

Gaetan Brison, Soobash Daiboo, Samy Aimeur, Awais Hussain Sani, Xi Wang, Gianni Franchi, Vicky Kalogeiton

Describir

Este artículo presenta "FakeParts", un nuevo tipo de deepfakes que altera regiones espaciales específicas o intervalos temporales de vídeos auténticos mediante manipulaciones sutiles y localizadas. A diferencia del contenido totalmente sintetizado, las manipulaciones parciales, como cambios en las expresiones faciales, reemplazos de objetos y modificaciones del fondo, se integran a la perfección con los elementos reales, lo que las hace especialmente engañosas y difíciles de detectar. Para abordar esta importante deficiencia en el rendimiento de la detección, este artículo presenta "FakePartsBench", el primer conjunto de datos de referencia a gran escala diseñado específicamente para capturar todo el espectro de deepfakes parciales. Compuesto por más de 25 000 vídeos con anotaciones de manipulación a nivel de píxel y fotograma, este conjunto de datos permite una evaluación exhaustiva de los métodos de detección. Estudios de usuarios demuestran que FakeParts reduce la precisión de la detección humana en más de un 30 % en comparación con los deepfakes existentes, con una degradación similar observada con los modelos de detección de vanguardia. Esta investigación expone vulnerabilidades críticas en los métodos actuales de detección de deepfakes y proporciona un recurso para desarrollar métodos más robustos contra la manipulación parcial de vídeo.

Takeaways, Limitations

Takeaways:
Se presenta la existencia y los riesgos de un nuevo tipo de deepfake (FakeParts) con manipulación parcial.
Revelar vulnerabilidades en los métodos existentes de detección de deepfakes.
Proporcionar un conjunto de datos de referencia a gran escala (FakePartsBench) para la detección parcial de deepfakes.
Destaca la necesidad de desarrollar una tecnología mejorada de detección de deepfakes.
Limitations:
Se necesita una mayor validación de la diversidad y generalización del conjunto de datos FakePartsBench.
Es posible que no cubra todos los casos de deepfakes en el mundo real.
Falta de presentación clara de las limitaciones del conjunto de datos presentados y del método de detección.
👍