Përdorimi në rritje i inteligjencës artificiale në polici mund të përforcojë diskriminimin ndaj grupeve të pakicave, për shkak të të dhënave të njëanshme mbi të cilat trajnohen sistemet, paralajmërojnë studiuesit.
Sipas studimeve, sistemet e inteligjencës artificiale që parashikojnë zonat ku mund të ndodhin krime mund të riprodhojnë paragjykimet ekzistuese, duke krijuar një cikël që e përforcon më tej këtë fenomen, shkruan BBC.
Ekspertët kërkojnë më shumë mbikëqyrje njerëzore dhe një rishikim të mënyrës se si përdoret kjo teknologji në punën e policisë. Një nga masat e propozuara është kontrolli i të dhënave që përdoren nga forcat e rendit, me qëllim identifikimin dhe eliminimin e paragjykimeve.
Dr. Carolyn McKay, profesore e asociuar dhe studiuese e drejtësisë digjitale në Fakultetin Juridik të Universitetit të Sidneit, thekson se veprimtaria e policisë shtetërore duhet t’i nënshtrohet mbikëqyrjes dhe kontrollit njerëzor.
Sipas saj, problemi qëndron te fakti se sistemet e inteligjencës artificiale trajnohen mbi të dhëna historike që mund të përmbajnë paragjykime njerëzore. Kjo mund të çojë në parashikime që, në vend që të jenë neutrale, përforcojnë situatën ekzistuese.
Për ta shpjeguar këtë rrezik, McKay përdor shembullin e një hartografi që duhet të krijojë hartën e një qyteti që nuk e ka vizituar kurrë, duke pasur në dispozicion vetëm harta 50-vjeçare. Rezultati do të ishte një hartë që pasqyronte realitetin e dikurshëm, duke përfshirë rrugë që nuk ekzistojnë më dhe duke anashkaluar ndryshimet e ndodhura ndër vite.
I njëjti parim mund të zbatohet edhe në parashikimin e krimeve. Nëse inteligjenca artificiale identifikon zona të caktuara si më të rrezikshme, policia mund të përqendrojë patrullimet pikërisht aty. Si pasojë, në këto zona regjistrohen më shumë krime, thjesht sepse ka më shumë efektivë që i vëzhgojnë ato. Ndërkohë, zonat ku policia është më pak e pranishme mund të duken më të sigurta, pasi rastet evidentohen më rrallë.
Kështu krijohet një cikël vetëpërforcues: të dhënat e reja ushqejnë sistemin, i cili vazhdon të identifikojë të njëjtat zona si problematike, duke ndikuar në vendimet e ardhshme të policisë.
Sociologia Sarah Brayne, nga Universiteti i Teksasit në Austin, ka studiuar përdorimin e të dhënave masive nga Departamenti i Policisë së Los Anxhelosit. Në një studim të botuar në revistën shkencore American Sociological Review, ajo zbuloi se policia po përdorte gjithnjë e më shumë të dhënat për të parashikuar krimet, dhe jo vetëm për t’iu përgjigjur atyre pasi kishin ndodhur.
Sipas studimit, të dhënat e përdorura nga këto sisteme nuk ishin të paanshme. Krimet e kryera në hapësira publike kishin më shumë gjasa të vëreheshin dhe të regjistroheshin, ndërsa vëmendja e policisë përqendrohej në mënyrë disproporcionale te lagjet me popullsi me ngjyrë.
Kur këto të dhëna përpunohen nga inteligjenca artificiale, parashikimet mund të duken objektive, edhe pse bazohen në informacione të ndikuara nga paragjykimet e mëparshme.
Brayne paralajmëron se modelet mund të krijojnë një cikël ku jo vetëm parashikojnë ngjarje si krimet apo kontaktet me policinë, por kontribuojnë edhe në ndodhjen e tyre në të ardhmen.
Megjithatë, jo të gjithë studiuesit e shohin teknologjinë në të njëjtën mënyrë. Dr. Dimitrios Kollias, profesor i asociuar në fushën e inteligjencës artificiale multimodale në Universitetin Queen Mary të Londrës, argumenton se sistemet moderne kanë evoluar dhe mund të marrin parasysh paragjykimet që përmbajnë të dhënat historike.
Sipas tij, analogjia e hartës së vjetër është e dobishme për të shpjeguar mënyrën se si paragjykimet e së kaluarës mund të trashëgohen nga sistemet e inteligjencës artificiale, por ajo nuk e përshkruan plotësisht funksionimin e tyre.
Kollias thekson se sistemet moderne nuk kopjojnë thjesht të dhënat me të cilat janë trajnuar, por mund të kombinojnë informacionin e mësuar dhe të prodhojnë rezultate ose zgjidhje të reja.
Megjithatë, ai paralajmëron se aftësia për të marrë vendime të reja dhe për të vepruar me më shumë autonomi sjell rreziqe të tjera. Për këtë arsye, sipas tij, është thelbësore që sjellja e sistemeve të inteligjencës artificiale të mbetet e sigurt, e besueshme dhe nën kontrollin e efektshëm njerëzor.
Çështja e përdorimit të inteligjencës artificiale në polici mbetet kështu një sfidë mes mundësive që ofron teknologjia dhe rrezikut që vendimet e bazuara në të dhëna të njëanshme të përforcojnë pabarazitë ekzistuese. /skyweb.al
