Europol publică un ghid practic pentru combaterea biasului în utilizarea AI de către forțele de ordine

Europol, prin Laboratorul său de Inovație, a lansat raportul AI bias in law enforcement – a practical guide, un document esențial pentru înțelegerea și combaterea riscurilor de bias în utilizarea inteligenței artificiale în domeniul aplicării legii. Raportul oferă recomandări clare și instrumente practice pentru prevenirea, identificarea și reducerea acestor riscuri în toate etapele dezvoltării și implementării sistemelor AI.

Inteligența artificială este deja un instrument valoros pentru autoritățile de aplicare a legii, oferind capacitatea de a analiza seturi mari și complexe de date, de a automatiza sarcini repetitive și de a sprijini luarea deciziilor informate. Utilizată responsabil, aceasta poate contribui semnificativ la îmbunătățirea siguranței publice și a eficienței operaționale.

Cu toate acestea, raportul atrage atenția asupra riscurilor generate de bias, care pot apărea în diferite etape ale ciclului de viață al unui sistem AI. Aceste riscuri pot afecta echitatea rezultatelor, pot eroda încrederea publicului și pot pune în pericol drepturile fundamentale. De aceea, raportul încurajează forțele de ordine să documenteze cu atenție fiecare etapă de dezvoltare, să elaboreze un cadru de evaluare care să ia în considerare contextul social, istoric și demografic și să asigure formarea personalului care utilizează astfel de tehnologii. Evaluarea performanței și a impactului sistemelor trebuie realizată înainte de implementare, iar modelele trebuie reanalizate periodic, pe tot parcursul utilizării lor. De asemenea, se recomandă aplicarea unor tehnici de testare a echității și corectare a biasului atât la nivelul rezultatului generat de AI, cât și în deciziile finale luate de operatorii umani care se bazează pe aceste rezultate.

Raportul subliniază importanța alinierii măsurilor de echitate la obiectivele operaționale ale fiecărei aplicații AI, pentru a asigura rezultate eficiente și etice. Totodată, promovează standardizarea strategiilor de evaluare și atenuare a biasului la nivelul întregii organizații, pentru a menține coerența în abordare.

Laboratorul de Inovație Europol dezvoltă soluții concrete pentru susținerea activităților operative ale statelor membre UE, fiind un element-cheie în aplicarea strategiei „Delivering Security in Partnership”. Totodată, sprijină activ activitățile EMPACT – Platforma Europeană Multidisciplinară împotriva Amenințărilor Criminale – care vizează combaterea celor mai grave amenințări generate de crima organizată și internațională.