Çdo javë, mbi një miliard njerëz i drejtohen chatbot-eve për informacione, këshilla, por edhe për shumë shërbime të tjera.
Vetëm ChatGPT ka rreth 900 milionë përdorues në javë.
Ndikimi i këtyre sistemeve pritet të rritet edhe më shumë në vitet e ardhshme. Tashmë ka shenja se modelet e mëdha gjuhësore (LLM), si ChatGPT, Claude dhe Gemini, mund të ndikojnë opinionet e përdoruesve përmes përgjigjeve dhe bisedave të tyre.
Kjo ka ngritur shqetësime në rritje se chatbot-et mund të shndërrohen në mjete të përhapjes së propagandës.
Frika nga propaganda “e padukshme”
Shumica e diskutimeve mbi manipulimin politik përmes IA fokusohen në idenë se kompanitë e mëdha mund t’i programojnë modelet që të favorizojnë ideologji të caktuara dhe të shtypin të tjerat.
Ky shqetësim nuk është i pabazë. Kompania kineze DeepSeek është akuzuar se ka programuar modelin e saj për të shmangur temat e ndjeshme si Masakra e Sheshit Tiananmen apo shtypja e kundërshtarëve politikë.
Megjithatë, modelet më të avancuara si ChatGPT, Claude dhe Gemini zhvillohen nga kompani amerikane dhe nuk kontrollohen drejtpërdrejt nga regjime autoritare.
Por kjo nuk do të thotë se qeveritë autoritare nuk mund të ndikojnë në mënyrë indirekte në sjelljen e tyre.
Sipas një studimi të publikuar në revistën Nature, shtetet autoritare mund të ndikojnë tashmë në përgjigjet e chatbot-eve pa ndërhyrje direkte në programim.
Si ndikojnë mediat shtetërore në chatbot-et e IA
Modelet gjuhësore trajnohen me sasi të mëdha tekstesh nga interneti, duke mësuar modele gjuhe dhe informacioni.
Një pasojë e rëndësishme është se ato nuk përgjigjen gjithmonë njësoj në të gjitha gjuhët.
Në gjuhët që përdoren në shtete autoritare, të dhënat shpesh dominohen nga media shtetërore ose pro-qeveritare, pasi ato prodhojnë shumë përmbajtje dhe janë lehtësisht të aksesueshme.
Ndërkohë, mediat e pavarura dhe burimet akademike shpesh janë të kufizuara ose të bllokuara pas pagesave.
Si rezultat, modelet mund të trajnohen në mënyrë disproporcionale me përmbajtje që pasqyron propagandë shtetërore.
Kështu, një chatbot mund të përsërisë pa dashje narrativat qeveritare si informacione neutrale.
Rasti i Kinës
Studiuesit analizuan të dhëna të mëdha trajnimi për modelet gjuhësore dhe zbuluan se një pjesë e konsiderueshme e përmbajtjes në gjuhën kineze vinte nga media të lidhura me Partinë Komuniste të Kinës.
Edhe pse këto burime përbënin një përqindje relativisht të vogël të të dhënave, ato shfaqeshin shumë më shpesh sesa burime si Wikipedia kineze.
Kur modelet u testuan me përmbajtje të ndryshme shtetërore, rezultatet ishin të qarta: sa më shumë ekspozim ndaj propagandës shtetërore, aq më pozitive bëheshin përgjigjet ndaj qeverisë kineze.
Në disa raste, përgjigjet ndryshonin ndjeshëm në varësi të përqindjes së përmbajtjes shtetërore në të dhënat e trajnimit.
Çfarë treguan testet me ChatGPT dhe Claude
Studiuesit testuan edhe chatbot-et komerciale duke i bërë të njëjtat pyetje politike në anglisht dhe në kinezisht.
Në rreth 75% të rasteve, përgjigjet në gjuhën kineze ishin më të favorshme ndaj qeverisë kineze sesa ato në anglisht.
Një trend i ngjashëm u vu re edhe në gjuhë të tjera të përdorura në shtete autoritare.
Në këto raste, chatbot-et shpesh jepnin përgjigje që justifikonin ose mbështesnin qeveritë përkatëse. Ndërsa në vende me liri më të madhe të shtypit, përgjigjet ishin më kritike ndaj qeverive.
Pse chatbot-et mund të jenë më të fuqishme se propaganda tradicionale
Propaganda nuk është fenomen i ri.
Por chatbot-et sjellin një dimension krejt të ri: ato nuk transmetojnë informacion të njëanshme, por zhvillojnë biseda personale me përdoruesin.
Kjo i bën shumë më bindëse sesa media tradicionale.
Ndryshe nga një gazetë apo televizion shtetëror, përdoruesi nuk e ka gjithmonë të qartë burimin e informacionit në një chatbot.
Kjo mund të krijojë iluzionin e objektivitetit, edhe kur përgjigjet janë të ndikuara nga narrativat shtetërore.
A mund të nxisë AI lirinë e mendimit?
Studimi nuk provon se chatbot-et i bëjnë qytetarët më besnikë ndaj qeverive autoritare, por vetëm se përgjigjet ndryshojnë sipas gjuhës dhe të dhënave.
Në disa raste, chatbot-et perëndimore mund të kenë efekt të kundërt, duke ofruar informacione më kritike ndaj regjimeve.
ChatGPT është i ndaluar në Kinë, gjë që tregon se autoritetet e shohin si potencialisht të rrezikshëm për kontrollin e informacionit.
Kjo sugjeron se IA mund të jetë njëkohësisht mjet ndikimi dhe mjet për përhapjen e ideve më të hapura.
Çfarë duhet të bëjnë kompanitë e IA
Ekspertët theksojnë se kompanitë duhet të trajtojnë seriozisht problemin e paragjykimit sistemik.
Një zgjidhje mund të jetë kufizimi i përdorimit të burimeve shtetërore të njëanshme në të dhënat e trajnimit.
Gjithashtu, modelet duhet të mësohen të njohin dhe të shmangin përsëritjen e propagandës.
