La inteligencia artificial se está convirtiendo en un auténtico quebradero de cabeza para los departamentos de contabilidad de muchas empresas, y no precisamente por la automatización de tareas que pueden dejarles sin trabajo. Ahora, la gran amenaza proviene de una fuente inesperada: la facilidad con la que se pueden generar recibos de gastos falsos gracias a la capacidad de generar imágenes hiperrealistas con IA.
IA al servicio del fraude. Hasta hace poco, el fraude de gastos se concentraba en áreas ya conocidas: pequeñas trampas en la subsistencia, el transporte o los recibos de compras que los empleados presentaban para su reembolso. Sin embargo, como lo destaca un artículo publicado en ello Tiempos financierosEl número de solicitudes de reembolso basadas en recibos falsificados ha aumentado drásticamente en los últimos meses.
Como se detalla en el análisis Desde AppZen, desde que OpenAI lanzó ChatGPT y Google lanzó su Gemini con IA generativa de imágenes, el fraude en los recibos de gastos ha aumentado un 14%. El problema no es que hayan aumentado desde entonces, sino que su calidad ha mejorado tanto que cada vez es más difícil detectarlos. «Estos recibos se han vuelto tan buenos que les decimos a nuestros clientes: ‘no confíen en sus ojos'», dijo Chris Juneau, vicepresidente senior y director de marketing de productos de SAP Concur. Tiempos financieros.
Recibos indistinguibles. Como prácticamente demostraron en el podcast El podcast de contabilidadGenerar recibos de gastos fraudulentos que puedan pasar por auténticos, está al alcance de cualquiera. Ni siquiera necesitas ser un usuario de pago de ChatGPT o Gemini.
Con sólo un puñado de comandos ingresados con lenguaje natural en ChatGPT, el recibo obtenido encajaría perfectamente como uno de los miles de recibos de gastos de alimentación o transporte que las empresas procesan a diario.
IA para detectar IA. Puede parecer que el problema de los billetes falsificados es un problema menor porque se trata de cantidades relativamente pequeñas. Sin embargo, la pérdida económica promedio por fraude de recibos falsos en los EE. UU. es de 133.000 dólares en promedio, según una encuesta elaborado por Medius en 2024 para altos ejecutivos financieros.
La expansión de este tipo de fraude financiero ha llegado a oídos de OpenAI, uno de los principales generadores de estos ingresos, ha cartas tomadas en el tema, incluyendo metadatos en sus imágenes para identificar que se trata de contenido generado por IA. Esto ha permitido a empresas fintech como Ramp desarrollarse Herramientas basadas en IA que analizan los metadatos de este tipo de recibos para frenar el fraude. La fintech afirmó que con este software había detectado recibos falsos por valor de un millón de dólares en sólo 90 días.
La ley está hecha, la trampa está hecha.. Ante este movimiento de detección de recibos fraudulentos a través de metadatos, los empleados «tramposos» también han optado por perfeccionar sus técnicas utilizando más ingenio: tomar una foto del recibo generado por la IA y adjuntarla como un recibo, tal como lo harían como un recibo real.
De esa manera, la imagen ya no incluye los metadatos del agente de IA, volviendo al punto de partida. «Será una carrera armamentista continua. Sólo tenemos que mantenernos a la cabeza», afirmó. en declaraciones a Bloomberg Karim Atiyeh, cofundador y CTO de Ramp.
Patrones de gasto. En respuesta a esta nueva estrategia, la IA utiliza lo que mejor sabe hacer: analizar patrones. Estos agentes «verificadores» de recibos de gastos tienen en cuenta el contexto en el que estos recibos podrían haberse generado si fueran auténticos (horarios de viajes, coincidencias de fechas, repetición de nombres, etc.).
A partir de estos datos, el sistema determina si el recibo es falso o no, sin necesidad de verificar los metadatos. «La tecnología puede analizar todo con tanto detalle, tanto es así que los humanos, al cabo de un tiempo, se nos escapan cosas; son humanos», aseguró al Tiempos financieros Calvin Lee, director sénior de gestión de productos de Ramp
En | El 81% de los entrevistadores sospecharon que la IA hacía trampa en las entrevistas: el 31% lo confirmó sin lugar a dudas y lo puso fin
Imagen | Géminis
