Uso Inteligencia artificial (AI) no es nuevo en el sector de seguridad pública. Desde hace un tiempo, se utiliza para crear un sistema que pueda aprender, explicar, tomar decisiones y reconocer formularios a través de técnicas como Aprendizaje automático, agrupamientoAlgoritmos predictivos, entre otras cosas. Sin embargo, irritación Inteligencia artificial generativa (IAG), que se especializa en crear contenido nuevo a partir de los datos con los que está capacitado, como textos, imágenes o videos, es un fenómeno cegador que pregunta la fascinación, pero también grandes preocupaciones, ya que puede violar los derechos de los ciudadanos y afectar la confianza en las instituciones.
Ya hay casos del uso de IAG en diferentes partes del mundo. Como ejemplo, en el draft de la policía de San Francisco (EE. UU.) Usado: en esta ciudad, los agentes usan un copiloto IAG que transforma las grabaciones de las tarjetas de su cuerpo en la redacción del informe. Lo que podría tomar horas terminó en unos minutos, dando más tiempo a la policía que patrulla las calles para operar y compartir acceso.
Hay experiencias en otros continentes. En Agram, la ciudad de la India, la policía está capacitada en ingeniería Inmediato Y hoy, algunos oficiales de policía, con gran orgullo, recibieron el grado de «comandos de IA», que combinan esta tecnología con el trabajo policial tradicional. En la Unión Europea, varios casos piloto demuestran el uso de IAG en el análisis de la obligación de inteligencia penal y en la reducción de la carga burocrática. Los resultados iniciales muestran un ahorro de tiempo significativo, una mayor satisfacción de los funcionarios y una mayor confianza de los ciudadanos.
Informe AI de seguridad pública: evaluación de beneficios (Police Projects, NYU) Documentos de cómo IAG puede aumentar la eficiencia policial, mejorar la comunicación con las comunidades y facilitar la responsabilidad. Una de sus conclusiones es irresistible: cuando IAG se aplica a las tareas administrativas y de gestión, un impacto positivo es inmediato y medible.
En Colombia, tenemos un pretorium: el Tribunal Constitucional ha lanzado un sistema de apoyo para auditar a miles de ancianos que vienen todos los días. Pretoria analiza los textos legales y ayuda a filtrar casos relevantes, lo que demuestra que IAG puede convertirse en un aliado para acelerar la justicia sin reemplazar los criterios humanos.
Sin embargo, no es todo lo simple como parece. IAG trae desafíos que no se pueden ignorar. Veamos algunos de ellos:
Halucinaciones: Los sistemas IAG pueden inventar datos, cifras o hechos con la misma certeza con la que proporcionan información de información verdadera. En seguridad y justicia, la alucinación puede poner en peligro las investigaciones penales, afectar la multa o violar los derechos básicos.
Inclinación: IAG aprende de datos históricos y puede reproducir prejuicios sociales basados en desigualdades económicas. El sistema de predicción del delito puede aumentar las estigmatizaciones, concentrar la supervisión en las comunidades raciales vulnerables o étnicas y la desconfianza de los ciudadanos.
Cyberamezas avanzados: Informe AI generativa: espada de doble borde en el paisaje de amenazas cibernéticas (Revisión de inteligencia artificial, 2025) Advertencia de apariencia software malicioso Polimórfica: programas maliciosos generados en la capacidad de mutar y evitar las defensas tradicionales. Esta amenaza hace que la seguridad de IAG sea de seguridad y delitos organizados.
Ética y gestión: Como todavía no hay reglas claras, la tentación del uso de IAG para la vigilancia masiva y el control social puede abrumar los marcos democráticos. El riesgo de entrar en la práctica de «Gran Hermano» es real y requiere una audiencia pública abierta.
Vigilancia masiva: Cámaras con reconocimiento facial, sistemas de monitoreo de ciudadanos y modelos predicen el comportamiento antes de que aparezcan: todo parece tomado de la película Informe minoritarioPero ya se ha demostrado en varias ciudades del mundo. La línea que separa la prevención legítima del abuso en la vida privada se vuelve más difusa.
La ética debe ser una brújula que lidere cada proyecto basado en IAG. Prevenir la fascinación tecnológica del rendimiento en el abuso o la exclusión social debe ser un objetivo prioritario.
IAG ya forma parte de la seguridad pública actual. Sus ventajas son claras: reducir los costos administrativos, más tiempo para el trabajo operativo, un mayor análisis de capacidad y nuevas herramientas de prevención. Una conclusión simple podría ser: IAG no reemplaza al ser humano, lo aumenta. Los jueces o la policía no deciden el uso adecuado, sino que liberan a los funcionarios de carga burocráticos que pasarán más tiempo para esencialmente: proteger a las comunidades y garantizar la justicia.
Es importante reconocer que el estado colombiano ya ha sacado una hoja de ruta con Conpess 4144 en AI como una oportunidad para aprovechar la adopción responsable del IAG que beneficia los beneficios sin caer en la trampa de abuso o ingenuidad.
IAG es una espada de dos puntas. La pregunta no es si la usamos, sino cómo. Y la respuesta marcará una diferencia entre una herramienta que fortalece la democracia o las armas en manos imprudentes, la pone en riesgo.
Autor: Juan Carlos Nieto Aldana.
Experto de inteligencia estratégica y seguridad públicaa.
