Upotreba Umjetna inteligencija (AI) nije nov u sektoru javne sigurnosti, neko vrijeme se koristi za kreiranje sistema sposobnih za učenje, obrazloženje, donošenje odluka i priznavanje obrazaca kroz tehnike kao što su Mašinsko učenje, grupiranjeprediktivni algoritmi, između ostalog. Međutim, pojava generativne umjetne inteligencije (IAG), koja je specijalizirana za stvaranje novog sadržaja iz podataka s kojima je bio obučen kao tekstovi, slike, videozapisi, među ostalim, ali i velikom zabrinutošću jer može kršiti prava građana i utjecati na povjerenje u institucije.
Već postoje slučajevi upotrebe IAG U različitim dijelovima svijeta, kao primjer, u policiji San Francisco-Eeu, koristi se Nacrt jedan: U ovom gradu agenti koriste IAG Co -Pilot koji transformiše snimke svojih tjelesnih kamera u izradu nacrta izvještaja. Ono što bi moglo potrajati satima završeno je za nekoliko minuta, dajući više vremena policiji koja patrolira ulicama za operativni i zajednički pristup.
Na drugim kontinentima postoje iskustva, u gradu Agra u Indiji, policija je obučena u inženjerstvu Prompt I danas neki policajci, s velikim ponosom, dobiju stepen «AI naredbe«Kombinuju ovu tehnologiju sa tradicionalnim policijskim radom. U Evropskoj uniji su razni pilot slučajevi dokazuju upotrebu IAG-a u analizi kriminalističke obaveštajne obaveze i birokratskog smanjenja opterećenja. Pokazuju značajne uštede vremena, veće zadovoljstvo službenika i povećanje povjerenja građana.
Izveštaj «Javna sigurnost AI: Procjena prednosti» (Policijska projekta, NYU): Dokument kako IAG može povećati policijsku efikasnost, poboljšati komunikaciju sa zajednicama i olakšati odgovornost. Jedan od njegovih zaključaka je neodoljiv: Kada se IAG primijeni na administrativne i upravljačke zadatke, pozitivan utjecaj je neposredan i mjerljiv.
U Kolumbiji imamo pretoriju: Ustavni sud je pokrenuo sistem za podršku reviziji hiljada starača koji dolaze svakodnevno. Pretoria analizira pravne tekstove i pomaže u filtriranju relevantnih slučajeva, pokazujući da IAG može postati saveznik za ubrzanje pravde bez zamjene ljudskih kriterija.
Međutim, nije sve lako kao što se čini, IAG donosi s IT izazovima koji se ne mogu zanemariti, da vidimo neke od njih:
Halucinacije: IAG sustavi mogu izmisliti podatke, brojke ili činjenice s istim sigurnošću s kojim pružaju istinitu informativne informacije. U sigurnosti i pravdi halucinacija može ugroziti krivičnu istragu, utjecati na kaznu ili kršiti osnovna prava.
Pristranosti: IAG saznaje od povijesnih podataka i mogu reproducirati društvene predrasude na osnovu ekonomskih nejednakosti. Sistem predviđanja zločina može pojačati stigmatizacije, koncentrirati nadzor u ranjivim ili etničkim rasnim zajednicama i nepovjerenjem građana.
Napredni cyber: Izveštaj Generativni AI: mač sa dvostrukim oštricom u krajoliku cyber prijetnji (pregled umjetne inteligencije, 2025) upozoriti o izgledu zlonamjernog softvera Polimorfni: zlonamjerni programi generirani u sposobnosti mutiranja i izbjegavanja tradicionalnih odbrana. Ova prijetnja čini IAG-u oružje za sigurnost i organizirani kriminal.
Etika i upravljanje: Kako još uvijek nema jasnih pravila, iskušenje za korištenje IAG-a za masovno nadzor i socijalnu kontrolu mogu preplaviti demokratske okvire. Rizik da se upada u «Big Brother» prakse je stvaran i zahtijeva otvorenu javnu raspravu.
Masovni nadzor: Komore sa prepoznavanjem lica, sistemima za praćenje građana i modeli koji predviđaju ponašanje prije nego što se pojave: sve se čini snimljeno iz filma Izvještaj manjinaali već je dokazano u nekoliko gradova na svijetu. Linija koja razdvaja legitimnu prevenciju zloupotrebe u privatnom životu postaje više difuzniji.
Etika mora biti kompas koji vodi svaki projekt zasnovan na IAG-u. Sprečavaju tehnološku fascinaciju izvedbe u zlostavljanju ili socijalnoj isključenosti treba biti prioritetni cilj.
IAG je već dio sadašnje javne sigurnosti. Njegove prednosti su jasne: smanjenje administrativnih troškova, više vremena za operativni rad, veću analizu kapaciteta i novim alatima za prevenciju. Jednostavan zaključak mogao bi biti: IAG ne zamjenjuje ljudsko biće, to ga povećava. Njegova najbolja upotreba ne treba odlučiti sudije ili policija, već slobodnim zvaničnicima iz birokratskog tereta koji će provoditi više vremena za suštinsko: zaštititi zajednice i garantovati pravdu.
Važno je prepoznati da je Kolumbijska država već izvukla mapu puta sa Conpesom 4144 na AI kao priliku da vodi odgovornim usvajanjem IAG-a koji koristi prednosti bez pada u zamku zlostavljanja ili naivnosti.
IAG je dvoetažni mač. Pitanje nije ako ćemo ga koristiti, ali kako. A odgovor će napraviti razliku između alata koji jača demokratiju ili oružje koje u nesmotrenim rukama, stavlja ga u rizik.
Autor: Juan Carlos Nieto Aldana.
Stručnjak za stratešku inteligenciju i javnu sigurnost.
