La detección de imágenes o videos generados con inteligencia artificial es cada vez más complicado. Los pequeños errores que anteriormente nos pusieron en alerta (más dedos, reflejos incoherentes, texturas extrañas) comienzan a desaparecer. Y con ellos, nuestras certezas también desaparecen.
Pero, ¿en qué medida estamos perdiendo esa capacidad de distinguir lo real del artificial? ¿Qué tan fácil es confundir una foto auténtica con una creada por AI? Un nuevo estudio de la IA para un buen laboratorio de Microsoft Intenta responder a estas preguntas. Y lo hace con datos que nos invitan a reflexionar.
Más de 12,000 personas frente a AI. Para medir nuestra capacidad con figuras concretas, Microsoft lanzó un experimento a gran escala basado en un juego en línea simple, Real o no tal vez. El desafío es directo: vea una imagen y decida si es real o generado por IA.
Entre el 1 y el 8 de agosto de 2024, los participantes completaron 17,340 juegos y evaluaron unos 287,000 cuadros. El conjunto incluía 350 imágenes reales y aproximadamente 700 sintéticos, creados con Dall-E 3, Midjourney V6Amazon Titan V1, Difusión estable XL, Difusión estable-3, variantes de invasión y caras producidas con Gans. Los resultados no son alentadores: la tasa de éxito promedio fue del 62% y, aplicada solo a las imágenes generadas por IA, aumentó solo el 63%.
Aún más sorprendente: las imágenes que más confundieron los jugadores no eran falsas, sino genuinas. Tres fotos reales obtuvieron menos del 20% de éxitos, probablemente porque su estética, escenas muy contrastantes o inusuales, recuerda lo que asociamos con la IA.
Se enfrenta bien, malos paisajes. Al segmentar por tema, el patrón es claro: obtenemos más cuando las personas aparecen y fallan en voz alta con paisajes naturales o urbanos. La explicación que dan los investigadores es el doble. Por un lado, el cerebro humano está finamente entrenado para detectar imperfecciones en las caras; Por otro lado, la exposición continua a imágenes de modelos como Midjourney o Dall-E nos ha enseñado a reconocer ciertas características estilísticas. Por otro lado, los paisajes de «corrientes» generados por motores menos populares, o por algoritmos ajustados a la estética aficionada, se camuflan mejor.
Los parámetros técnicos no son suficientes. El equipo también midió el rango dinámico, la exposición o la nitidez. Aunque se detectan pequeñas diferencias, son demasiado sutiles para que un usuario promedio las perciba a simple vista. La intuición, por lo tanto, se queda corta.
Superado por detectores automáticos. Microsoft comparó el rendimiento humano con su propio detector de imágenes IA, que excede el 95% de los golpes y mantiene esa precisión en cualquier categoría. El problema es que estas herramientas no siempre están disponibles y muchas imágenes carecen de agua o calificaciones de credenciales. Sin esa firma digital, seguimos dependiendo de nuestro juicio visual.
Prueba. Si quieres verificar por ti mismo lo difícil que es distinguir una foto real de un creado por AI, el Real o no tal vez Todavía está abierto al público. Puede descubrir que su ojo crítico todavía tiene un margen de mejora.
Imágenes | Microsoft
En | Uno podría pensar que pagar 200 euros al mes para Claude permitiría usarlo sin límites. Antrópico piensa lo contrario
