Shefi i Anthropic, Dario Amodei: Pse duhet të kontrollojmë tani ritmin e zhvillimit të Inteligjencës Artificiale ose rrezikojmë katastrofën

Ese nga Dario Amodei – Shefi i Anthropic

 Kam punuar me Inteligjencën Artificiale gjatë dymbëdhjetë viteve të fundit, sepse besoj se ajo mund ta përmirësojë në mënyrë rrënjësore cilësinë e jetës njerëzore.

Kam shkruar shpesh për këto përfitime të jashtëzakonshme: besoj se AI-ja mund të shërojë shumicën e sëmundjeve të rënda brenda 5–10 viteve, të përshpejtojë ndjeshëm ritmet e rritjes ekonomike, të krijojë një botë begatie dhe fuqizimi dhe të sjellë një rilindje të demokracisë dhe lirisë.

Këtë urgjencë e ndiej personalisht. Babai im vdiq nga një sëmundje që u bë e shërueshme vetëm pak vite pas vdekjes së tij, ndërsa unë vetë i mbijetova një kanceri në fazë të hershme që nuk do të mund të trajtohej as pesëdhjetë vjet më parë.

E përdorur me kujdes, AI-ja mund të jetë mrekullia më e fundit në një varg të gjatë arritjesh teknologjike që e kanë ngritur dhe fisnikëruar njerëzimin.

Por, si shumë teknologji përpara saj, AI-ja sjell edhe rreziqe dhe, pikërisht sepse është një teknologji kaq e fuqishme, këto rreziqe janë serioze. Edhe për to kam shkruar shumë.

Ato përfshijnë rrezikun e humbjes së kontrollit mbi sistemet e AI-së, keqpërdorimin e AI-së për sulme kibernetike dhe bioterrorizëm, si edhe tronditje serioze ekonomike. Një garë drejt fundit, e nxitur nga interesat tregtare, mund t’i bëjë këto rreziqe edhe më të mprehta.

Bashkë me bashkëthemeluesit dhe punonjësit e mi, jam përballur me këtë dualitet mes rrezikut dhe përfitimit që nga themelimi i Anthropic.

Moszhvillimii teknologjisë i privon njerëzit nga përfitimet e saj, ose thjesht e lë AI-në në duart e fuqive autoritare; ndërsa zhvillimi i saj me shpejtësi të tepruar është i papërgjegjshëm.

Ne kemi kërkuar një rrugë të mesme: Të tregojmë se është e mundur ta zhvillojmë me kujdes dhe njëkohësisht të kemi sukses tregtar, si edhe ta shndërrojmë sigurinë në një fushë ku kompanitë e AI-së konkurrojnë me njëra-tjetrën.

Me fjalë të tjera, të krijojmë një garë drejt majës. Gjithmonë i kemi kushtuar një pjesë të konsiderueshme të përpjekjeve tona studimit, trajtimit dhe informimit të publikut rreth këtyre rreziqeve të AI-së, si edhe mbështetjes së një rregullimi të menduar mirë, edhe kur për këtë jemi akuzuar për ekzagjerim, “fatalizëm teknologjik” apo kapje të procesit rregullator. Jemi përpjekur t’i japim përparësi kujdesit ndaj shpejtësisë dhe maturisë ndaj fitimit.

Por gjatë muajve të fundit jam bindur se trajtimi i plotë i këtyre rreziqeve kërkon edhe më shumë maturi, jo vetëm investime për parandalimin e rreziqeve, por edhe kontrollimin e ritmit me të cilin përparojnë aftësitë, në mënyrë që masat parandaluese të kenë kohë t’i ndjekin. Duhet ta ngadalësojmë ritmin me të cilin përmirësojmë aftësitë e modeleve të AI-së. Përparimi do të vazhdojë të duket i shpejtë dhe ne duhet ta përdorim me mençuri kohën që fitojmë.

Dy gjëra më kanë bindur për këtë.

Shqetësimi im i parë është se, afërsisht që nga kjo verë, AI-ja po përparon me një shpejtësi shumë më të madhe, kryesisht për shkak të aftësisë së saj në rritje për të ndërtuar gjeneratën pasardhëse të AI-së.

Kjo dinamikë quhet vetëpërmirësim rekursiv dhe, siç kemi përshkruar ne dhe të tjerë, po fillon të shfaqet në të gjithë industrinë, përfshirë edhe Anthropic.

Nëse lihet pa kontroll, ajo mund ta tejkalojë aftësinë tonë për t’i kuptuar dhe kontrolluar këto sisteme; prandaj duhet ndjekur me shumë kujdes, nëse duhet ndjekur fare.

Shqetësimi im i dytë është incidenti OpenAI–Hugging Face (OAI-HF), në të cilin një tufë agjentësh veproi në thelb si një grup fanatikësh të përkushtuar ndërmori sulme kibernetike ndaj objektivave që nuk ishte udhëzuar t’i sulmonte dhe që nuk kishin lidhje me detyrën e dhënë, sakrifikoi agjentë të veçantë për suksesin e grupit dhe u përpoq të depërtonte te “vlerësuesi” përgjegjës për matjen e performancës së tyre.

Është e lehtë ta shpërfillësh këtë incident, sepse askush nuk u lëndua dhe dëmi ekonomik ishte i vogël. Por, sipas mendimit tim, një tufë me aftësi më të mëdha, por me të njëjtin nivel mospërafrimi, mund të kishte shkaktuar dëme katastrofike.

Duke pasur parasysh përshpejtimin e zhvillimit të aftësive të AI-së, shqetësimi im është se brenda 6–12 muajve një tufë e tillë mund të jetë në gjendje të marrë nën kontroll të gjithë internetin përmes një botnet-i të qëndrueshëm duke shkaktuar potencialisht qindra miliarda dollarë dëme dhe se shkalla e dëmit mund të vazhdojë të rritet nëse AI-ja fuqizohet pa mekanizmat e nevojshëm mbrojtës.

Është po aq e lehtë ta konsiderosh OAI-HF si dështim të vetëm një kompanie, por besoj se ky do të ishte gabim. Incidente të ngjashme, ndonëse më pak të rënda, kanë ndodhur në të gjithë industrinë, përfshirë edhe në Anthropic. Besoj se çdo kompani që zhvillon AI në kufirin më të avancuar ka detyrimin të veprojë sikur incidenti OAI-HF të kishte ndodhur brenda saj.

Për këtë arsye po propozoj një plan me tri hapa, me synimin për të kontrolluar ritmin në kufirin e avancimit: ta ndërtojmë AI-në me një ritëm të ekuilibruar, që synon të garantojë sigurinë e saj, duke realizuar njëkohësisht përfitimet dhe duke u përballur me dilemat e rëndësishme gjeopolitike.

Për të qenë i qartë, kontrollimi i ritmit nuk nënkupton ndalimin e trajnimit të modeleve apo të përparimit teknik.

Ai nënkupton që kompanitë të marrin kohën e nevojshme për t’i përafruar dhe mbrojtur modelet e tyre dhe që vlerësues të palëve të treta ta konfirmojnë këtë.

Kuadri ynë për kontrollimin e ritmit është një përpjekje për ta forcuar më tej angazhimin ndaj sigurisë dhe për të nxitur një garë drejt majës. Hapi i parë është diçka për të cilën Anthropic po angazhohet njëanshmërisht dhe po u kërkon qeverive t’i detyrojnë edhe kompanitë e tjera në kufirin e avancimit të bëjnë të njëjtën gjë. Hapi i dytë kërkon koordinim në të gjithë industrinë.

Hapi i tretë kërkon koordinim global. Hapat nuk është e nevojshme të ndërmerren rreptësisht sipas kësaj radhe dhe disa mund të jenë shumë më të vështirë se të tjerët, por ky kuadër më është dukur i dobishëm për të menduar se çfarë duhet arritur.

Hapat janë:

1. Vlerësues të integruar. Çdo kompani e AI-së në kufirin më të avancuar angazhohet t’i japë një ekipi vlerësuesish të integruar nga palë të treta, si METR, akses të vazhdueshëm, të ngjashëm me atë të punonjësve. Roli i tyre do të jetë të verifikojnë respektimin e praktikave dhe angazhimeve të sigurisë, të raportojnë incidentet dhe të ndihmojnë në vlerësimin e përafrimit jo vetëm të modeleve të përfunduara, por edhe të kanaleve dhe proceseve të trajnimit. Ky është hapi kyç për verifikueshmërinë e çdo angazhimi për kontrollimin e ritmit dhe ka precedent në industrinë bankare, ku ndonjëherë “mbikëqyrësit” rregullatorë punojnë të integruar pranë punonjësve. Anthropic po angazhohet njëanshmërisht për këtë hap që tani. Synojmë që ai të jetë pjesë e një përpjekjeje më të gjerë për të dyfishuar punën tonë mbi sigurinë dhe përafrimin.
2. Koordinimi demokratik. Kompanitë që zhvillojnë AI në kufirin më të avancuar brenda vendeve demokratike koordinohen për të vendosur standarde të përbashkëta sigurie, si edhe kufizime ndaj ritmit të përparimit të pakontrolluar të AI-së. Disa forma koordinimi që do të ndikonin realisht mbi ritmin janë ligjërisht të ndërlikuara dhe do të kërkojnë mbështetjen e qeverive.
3. Koordinimi global. Shtetet e Bashkuara dhe qeveritë e tjera demokratike përpiqen të koordinohen me qeveritë autoritare, për aq sa kjo është e mundur, duke i marrë seriozisht vështirësitë e verifikimit të respektimit të marrëveshjeve.

Në pjesën tjetër të esesë do t’i përshkruaj me radhë këta hapa. Por fillimisht mendoj se është e rëndësishme të shpjegoj konkretisht se si kontrollimi i ritmit do të na lejojë ta bëjmë më të sigurt procesin e zhvillimit të AI-së. Rreziku është tepër i madh që ky kontrollim të jetë një ushtrim bosh — duhet ta përdorim me mençuri kohën që na jep.

Pse duhet kontrolluar ritmi?

Ideja për ta ndalur ose ngadalësuar AI-në është hedhur që në vitin 2023, por mendoj se atëherë nuk kishte shumë kuptim.

Pyetja ishte gjithmonë: çfarë do të bënit me kohën shtesë? Modelet e AI-së së asaj kohe nuk ishin aq të fuqishme sa të vepronin si agjentë në botën reale në ndonjë mënyrë koherente dhe nuk ishin të afta për mashtrim, manipulim, hile apo sulme kibernetike të konsiderueshme.

Ngadalësimi për të trajtuar rreziqet e përafrimit të tyre dukej si një përpjekje për të studiuar psikologjinë njerëzore duke eksperimentuar mbi baktere. Sot, megjithatë, tabloja është krejtësisht tjetër. Modelet aktuale janë një minierë pothuajse e pashtershme njohurish, si për mënyrën e duhur të ndërtimit të AI-së, ashtu edhe për problemet që mund të lindin kur ajo nuk ndërtohet siç duhet.

Besoj se, nëse ngadalësimi do të na jepte qoftë edhe një ose dy vite shtesë përpara se modelet të arrijnë nivele kritike aftësish dhe ne do ta përdornim këtë kohë për të çuar përpara përafrimin, mund ta ulnim ndjeshëm rrezikun që diçka të shkojë seriozisht keq.

Një strategji e koordinuar e kontrollimit të ritmit do t’u jepte zhvilluesve të AI-së në kufirin më të avancuar kohën për ta kryer këtë punë jetike, pa sakrifikuar avantazhin tregtar apo epërsinë e Shteteve të Bashkuara në AI.

Në një kuptim më të gjerë, shoqëria duhet të ketë fjalën e saj për mënyrën se si përdoret kjo teknologji dhe më shumë kohë për diskutimet e nevojshme publike, të cilën do ta sillte kontrollimi i ritmit, do të ishte padyshim diçka e mirë.

Në mënyrë konkrete, një ritëm më i ngadaltë do t’u lejonte kompanive të përqendroheshin dhe t’u kushtonin edhe më shumë burime fushave të mëposhtme, të cilat tashmë janë përparësi kryesore për Anthropic:

• Përsosmëri operacionale. Trajnimi dhe vënia në përdorim e modeleve të sotme të AI-së përbëjnë një sfidë të jashtëzakonshme operacionale, që përfshin mijëra njerëz, miliona çipa dhe një infrastrukturë ndër më komplekset në historinë e teknologjisë.Shumë gjëra shkojnë keq jo sepse kompanive u mungon ndonjë teori apo njohuri e rëndësishme, por për shkak të problemeve në zbatim. Për shembull, kemi prova se incidentet e fundit të përafrimit që raportuam u shkaktuan pjesërisht nga filtrimi jo i përsosur i mjediseve të dëmtuara të të nxënit përforcues.Ishte një punë që ne dhe furnitorët tanë e kryem me një nivel të arsyeshëm kujdesi, por jo mjaftueshëm mirë. Monitorimi, izolimi në mjedise të sigurta, higjiena e mjediseve të trajnimit dhe problemet me të dhënat janë fusha jashtëzakonisht të ndërlikuara, ku vështirësitë operacionale shfaqen vazhdimisht. Kemi disa prej ekipeve më kompetente në botë për këto detyra, por thjesht ka tepër shumë gjëra për t’u bërë njëherësh.

  Duke punuar me një ritëm më të matur, mund të arrijmë një nivel shumë më të lartë përsosmërie operacionale. Ekziston precedent për funksionimin miliona herë pa incidente të sistemeve teknologjikisht komplekse dhe kritike për sigurinë për shembull avionët e transportit civil, por duhet kohë që gjërat të bëhen siç duhet.

• Përafrimi. Kemi bërë përparim të qartë në përafrim, pra në trajnimin e modeleve që të mbeten të sigurta, etike, në përputhje me udhëzimet tona dhe realisht të dobishme, sipas parimeve të përfshira në Kushtetutën e Claude. Por ka ende shumë për të bërë që trajnimi ynë i përafrimit të ecë në të njëjtin ritëm me rritjen e aftësive të modeleve. Shembuj të rrallë dhe të papritur të sjelljeve të padëshiruara vazhdojnë të shfaqen; koha shtesë e fituar nga kontrollimi i ritmit do t’i ndihmonte studiuesit tanë të kuptonin më mirë shkaqet dhe të zhvillonin teknika më të mira parandaluese.
• Interpretueshmëria. Në të njëjtën mënyrë, interpretueshmëria, shkenca e të kuptuarit të asaj që ndodh brenda modeleve të AI-së, ka bërë përparim të jashtëzakonshëm gjatë viteve të fundit dhe po luan një rol gjithnjë e më të rëndësishëm në auditimin e modeleve përpara publikimit.Ajo mund të përdoret pothuajse si një rezonancë magnetike funksionale, por për “trurin” e një AI-je, duke na ndihmuar të shohim arsyet e fshehta të një sjelljeje të caktuar. Për shembull, përdorëm metoda të interpretueshmërisë për të shqyrtuar motivimet e pashprehura në incidentet e fundit të përafrimit që po hetojmë.Por këto metoda nuk prodhojnë gjithmonë rezultate të qarta dhe të besueshme. Pavarësisht gjithë përparimit, ne kuptojmë ende vetëm një pjesë të papërfillshme të asaj që ndodh brenda këtyre modeleve. Një përpjekje e përqendruar për t’i përmirësuar teknikat tona të interpretueshmërisë edhe më shpejt se sot mund të sillte përparim të thellë brenda 1–2 viteve dhe do të kishte material të bollshëm eksperimental nga incidentet që kanë ndodhur tashmë.
• Testimi dhe vlerësimi. Testimi dhe vlerësimi i modeleve të AI-së bëhen më të vështira me rritjen e aftësive të tyre. Modelet më inteligjente janë më të afta t’i mashtrojnë testet dhe, për rrjedhojë, mund të duken të përafruara, ndërkohë që kanë probleme serioze të pazbuluara. Krijimi i një arsenali shumë më të gjerë dhe më krijues vlerësimesh, së bashku me analiza interpretueshmërie që i kontrollojnë ato nga një kënd tjetër, do të ishte jashtëzakonisht i vlefshëm. Në këtë drejtim mund të bëhet shumë përparim brenda 1–2 viteve.

Vlerësues të integruar

Hapi i parë i planit me tri faza — dhe ai për të cilin Anthropic po angazhohet njëanshmërisht — është vendosja e vlerësuesve të integruar, me akses të ngjashëm me atë të punonjësve, për të verifikuar praktikat e sigurisë dhe për të raportuar incidentet.

Integrimi i vlerësuesve mund të tingëllojë si një hap i vogël ose pa pasoja, por shpesh gjërat që duken më të mërzitshme apo procedurale janë në të vërtetë më thelbësoret. Vlerësuesit e integruar përbëjnë një praktikë mjaft radikale, që shkon shumë më larg se çdo gjë që bën sot ndonjë kompani e AI-së, dhe sjellin përfitimet e mëposhtme:

• Verifikueshmëria. Vlerësuesit e integruar mund të kontrollojnë në nivelin më praktik nëse një kompani e AI-së po i zbaton vërtet praktikat e trajnimit, vënies në përdorim, operacioneve dhe masave mbrojtëse që pretendon se ndjek. Çdo angazhim për kontrollimin e ritmit do të përmbajë në mënyrë të pashmangshme shumë paqartësi, gjykime dhe përplasje mes “germës së ligjit” dhe “frymës së ligjit”. Prandaj duket jetike që një palë e tretë neutrale të mund t’i shohë realisht hollësitë.
• Transparenca. Pavarësisht angazhimeve që marrim, publiku meriton të dijë se çfarë po ndodh. Anthropic e ka mbështetur prej kohësh transparencën: ne mbështetëm legjislacionin për transparencën kur pjesa më e madhe e industrisë kundërshtonte çdo rregullim, ndërsa kartat e modeleve dhe raportet tona të rrezikut shkojnë në qindra faqe. Por jemi ende ne ata që zgjedhim çfarë të përfshijmë dhe çfarë të lëmë jashtë. Vlerësuesit e integruar do ta ndryshojnë këtë dinamikë.
• Opinion i dytë. Përtej verifikimit të angazhimeve formale dhe informimit të publikut, vlerësuesit e integruar mund të ofrojnë thjesht një mendim të dytë, të çliruar nga interesat tregtare. Shumë përfitime sigurie mund të vijnë vetëm nga fakti që vlerësuesit vënë në dukje diçka që punonjësit nuk e kishin marrë parasysh, por janë të gatshëm ta rregullojnë sapo ndërgjegjësohen për të.

Për shkak të këtyre përfitimeve, çdo propozim për kontrollimin e ritmit ka të ngjarë të funksionojë shumë më mirë nëse fillon me vlerësues të integruar.

Këta vlerësues duhet të kenë akses të vazhdueshëm në autorizime dhe mjete të ngjashme me ato që kanë punonjësit e brendshëm që kryejnë vlerësime të krahasueshme të rrezikut. Në veçanti, Anthropic synon që në të ardhmen e afërt të ftojë një ekip të jashtëm vlerësimi, të pajisur me të gjitha sa vijojnë:

• Tavolina pune në zyrat tona, karta hyrjeje dhe kompjuterë të kompanisë.
• Akses në hapësirat e punës, mjetet dhe autorizimet, në pjesën më të madhe të krahasueshme me ato të ekipeve tona të brendshme të vlerësimit të rrezikut. Do të bëjmë disa përjashtime, si në rastet kur këtë e kërkon ligji ose kontratat tona, apo për mbrojtjen e informacionit privat të klientëve dhe partnerëve. Do të vendosim gjithashtu norma të forta të brendshme që përforcojnë aksesin e vlerësuesve në informacionin përkatës, përfshirë bisedat e drejtpërdrejta me punonjësit.
• Një kontratë që balancon ndërlikimet e përmendura më sipër. Vlerësuesit e jashtëm duhet të kenë të drejtën të publikojnë përfundimet kryesore mbi nivelet e rrezikut, incidentet, praktikat dhe aksesin që morën ose që iu mohua — pa kontroll editorial nga Anthropic. Ne do të kemi vetëm një mundësi të kufizuar për të redaktuar informacionin që prek sigurinë, mbrohet nga privilegji ligjor, është i ndjeshëm tregtarisht ose konfidencial për palë të treta; por nuk mund të censurojmë gjetje vetëm sepse janë të pafavorshme. Vlerësuesit mund të deklarojnë publikisht nëse redaktimi ka hequr diçka të rëndësishme për përfundimet e tyre.

Ky është një hap i pazakontë për një kompani, por mendojmë se është e rëndësishme ta provojmë në praktikë konceptin e vlerësuesve të jashtëm të integruar. Edhe një herë, u bëjmë thirrje kompanive të tjera në kufirin më të avancuar të ndjekin të njëjtën rrugë.

Kontrollimi i ritmit brenda demokracive

Sapo vlerësuesit e integruar të veprojnë brenda një mase kritike kompanish amerikane të AI-së, kontrollimi i verifikueshëm i ritmit bëhet më i realizueshëm. Në veçanti, bëhet e mundur që ritmi të përcaktohet mbi bazën e karakteristikave të hollësishme të modeleve ose të kanaleve të trajnimit.

Mënyra më efektive për të kontrolluar ritmin është rregullimi që zbatohet ndaj të gjitha kompanive amerikane të AI-së në kufirin më të avancuar, sepse kështu përfshihen edhe ato që nuk janë të gatshme të bashkëpunojnë vullnetarisht. Anthropic ka mbështetur prej kohësh një rregullim të arsyeshëm dhe të synuar të AI-së, veçanërisht projektligjet që përqendrohen te transparenca dhe auditimi nga palë të treta. Besoj se të gjithë laboratorët në kufirin e avancimit duhet të bashkëpunojnë me qeverinë për ta formalizuar idenë e vlerësuesve të përhershëm të integruar, për të parandaluar dhe dokumentuar më mirë incidentet e brendshme të përafrimit si ato që kanë ndodhur gjatë muajve të fundit dhe për të zbatuar rregulla që mbajnë aftësitë në ekuilibër me sigurinë.

Për fat të keq, miratimi i ligjeve kërkon kohë, ndërsa AI-ja po përparon shumë shpejt. Prandaj, paralelisht me rrugën rregullatore, kompanitë e AI-së mund dhe duhet të punojnë së bashku vullnetarisht për të vendosur standarde, një proces që, sipas meje, do të funksionojë më mirë falë verifikueshmërisë që ofrojnë vlerësuesit e përhershëm të integruar. Për arsye që lidhen me rregullat kundër monopolit, do të ishte e dobishme që qeveria amerikane t’i ndërmjetësonte ose të paktën t’i mundësonte këto diskutime. Ajo nuk ka pse të marrë pjesë, por duhet të japë një përjashtim të kufizuar për disa lloje diskutimesh mbi sigurinë. Ky dialog mund të zhvillohet edhe përmes grupeve të industrisë që kanë njëfarë lidhjeje me qeverinë — për shembull, nëpërmjet mekanizmit të propozuar nga Demis Hassabis. Në çdo rast, këto diskutime duhet të ecin përpara me shpejtësi.

Në përgjithësi, jam më entuziast për një ritëm që përcaktohet nga ajo që një sistem i caktuar AI-je në kufirin më të avancuar mund të bëjë dhe nga niveli i sigurisë që vërejmë tek ai. Për shembull, një skemë e mundshme mund të përmbajë një seri “pikash kontrolli”: nëse modelet kanë aftësinë X, atëherë duhet të shoqërohen me certifikime për vetitë e përafrimit Y dhe Z — si një ndërthurje vlerësimesh, analizash të interpretueshmërisë dhe auditimesh të mjediseve të trajnimit — që dëshmojnë vetitë e tyre të përafrimit. Në këtë shembull, X mund të jetë “modeli është i aftë të arratiset ose të mposhtë shumicën e metodave të zakonshme të izolimit”, ndërsa Y mund të jetë gjithçka që kërkohet për ta bërë shumë të pamundur që modeli të ketë prirjen të dalë nga mjedisi i vet dhe të marrë kontrollin e një numri të madh kompjuterësh.

Duhet të shqyrtojmë gjithashtu kontrollimin e ritmit duke kufizuar përbërësit që përdoren për modelet në kufirin më të avancuar, si fuqia llogaritëse e trajnimit, natyra e cikleve të trajnimit apo përdorimi i brendshëm i AI-së për të përmirësuar AI-në. Shqetësohem se disa prej këtyre masave mund të manipulohen më lehtë sesa sjellja e jashtme, por kjo është pikërisht një temë që ia vlen të diskutohet me vlerësuesit e integruar.

Kontrollimi i ritmit brenda demokracive do të kufizohet nga epërsia që kanë kompanitë amerikane ndaj regjimeve autoritare, në radhë të parë ndaj Partisë Komuniste Kineze. Nëse ngadalësojmë përtej masës së kësaj epërsie, projektet e lidhura me PKK-në — që nuk do ta kontrollonin ritmin — do të dilnin përpara, duke krijuar një rrezik serioz për sigurinë kombëtare. Jam dakord me Sekretarin Bessent se një epërsi kineze në AI do të përbënte rrezik të madh për Shtetet e Bashkuara dhe botën. Projektet e lidhura me PKK-në do të përballeshin me rreziqet e përafrimit që kompanitë amerikane po përpiqen t’i parandalojnë me kujdes; edhe nëse do t’i shmangnin këto rreziqe, ato mund t’u jepnin mundësinë të mbizotëronin ushtarakisht ndaj demokracive, për shembull përmes dronëve të drejtuar nga AI-ja. Prandaj një pjesë kyçe e kontrollimit të ritmit brenda demokracive është ruajtja e një epërsie sa më të madhe të demokracive ndaj autokracive, në mënyrë që të kemi hapësirën e nevojshme për ta ngadalësuar zhvillimin në mënyrë efektive.

Hapat kryesorë që mund të ndërmarrim për ta mbrojtur këtë epërsi janë:

• Të mos i shiten Kinës çipa të fuqishëm për AI apo pajisje për prodhimin e gjysmëpërçuesve dhe të goditen kontrabanda e çipave dhe aksesi në distancë te qendrat e të dhënave jashtë Kinës. Çipat do të jenë përcaktuesi kryesor i fuqisë së Kinës në AI.
• Të goditet distilimi i paautorizuar nga kompanitë e vendeve autoritare. Distilimi i modeleve në kufirin më të avancuar u lejon kompanive të mbetura pas ta ngushtojnë diferencën me një pjesë të vogël të kostos që do t’u duhej për ta zhvilluar AI-në në mënyrë të pavarur.
• Të forcohet siguria në kompanitë e AI-së dhe të parandalohet vjedhja e peshave të modeleve.

Kompanitë dhe qeveria amerikane duhet të bashkëpunojnë për t’i bërë këta hapa sa më të efektshëm. Anthropic i ka mbështetur vazhdimisht të gjitha këto masa, sepse gjithmonë kemi kuptuar se ato do të ishin thelbësore për çdo kontrollim të ritmit.

Nëse i zbatojmë siç duhet, besoj se këto masa do ta ngadalësonin mjaftueshëm përparimin e Kinës për ta zgjeruar ndjeshëm epërsinë amerikane gjatë 3–5 viteve të ardhshme — periudha kur AI-ja do të marrë rëndësinë më të madhe gjeopolitike.

Disa mund të mendojnë se këto masa e vështirësojnë bashkëpunimin me Kinën, por unë besoj të kundërtën: ato rrisin fuqinë negociuese të demokracive dhe e bëjnë më të mundshme një marrëveshje në të ardhmen.

Kontrollimi global i ritmit

Paralelisht me kontrollimin e ritmit brenda demokracive, duhet të synojmë edhe kontrollimin global të ritmit në kufirin e avancimit, ndonëse kjo do të jetë shumë më e vështirë. Ai do të kërkojë bashkëpunim me Kinën, vendin autoritar me aftësitë më të përparuara në AI.

Nuk duhet të tregohemi naivë: pesha gjeopolitike është aq e madhe, sa ka të ngjarë të ekzistojnë kufizime të forta për atë që mund të arrihet, veçanërisht në fillim. Nëse i kufizojmë ndjeshëm aftësitë tona të AI-së me bindjen se Kina do të bëjë të njëjtën gjë dhe më pas Kina e shkel marrëveshjen, AI-ja mund të jetë aq e fuqishme, sa kjo shkelje t’i japë asaj epërsi gjeopolitike.

Prandaj, çdo marrëveshje ose duhet të jetë plotësisht e verifikueshme, ose duhet të jetë aq e kufizuar sa shkelja e saj të mos përbëjë një kërcënim ekzistencial ushtarak. Dyshoj se jo vetëm Shtetet e Bashkuara, por edhe Kina do t’i kenë këto shqetësime dhe ankthe. Çdo vendim për kontrollimin global të ritmit, sidomos në të ardhmen e afërt, duhet marrë në mënyrë të tillë që të mbrojë epërsinë e Shteteve të Bashkuara dhe aleatëve të tyre.

Ekzistojnë disa nivele marrëveshjesh të mundshme. Disa prej tyre mendoj se janë plotësisht të realizueshme, siç kam propozuar më parë, ndërsa për disa të tjera jam shumë skeptik, megjithëse duhet të përpiqemi. Sipas rendit të vështirësisë në rritje:

• Niveli 1. Një marrëveshje që ndalon disa përdorime të kufizuara dhe qartësisht të rrezikshme të AI-së, si përdorimi i saj për prodhimin e armëve biologjike ose lejimi i përdoruesve që ta bëjnë këtë. Sulmet bioterroriste janë të këqija për të gjithë, përfshirë Shtetet e Bashkuara dhe kundërshtarët e tyre, prandaj një marrëveshje në këtë pikë është ndoshta e mundur.
• Niveli 2. Një marrëveshje që të dyja palët t’i testojnë modelet përpara publikimit, për rreziqe të menjëhershme në fusha si siguria kibernetike, biologjia dhe përafrimi. Siç u përmend më sipër, kjo mund të bëhet përmes një organizmi global standardesh. Në fakt, mendoj se krijimi i një organizmi të tillë ka gjasa të jetë i realizueshëm, por pajisja e tij me fuqi reale do të jetë sfiduese. Vështirësia do të qëndrojë te verifikimi se asnjëra palë nuk mban modele sekrete që nuk i teston, por mund t’i përdorë fshehurazi, për shembull për qëllime ushtarake.
• Niveli 3. Një lloj “kufiri shpejtësie” për ritmin e vetëpërmirësimit rekursiv. Ndërsa modelet ndërtojnë modelet e ardhshme, ritmi i përmirësimit mund të bëhet marramendës. Ulja e tij nga “jashtëzakonisht i shpejtë” në “vetëm disi i shpejtë” do të sakrifikonte relativisht pak avantazh strategjik, ndërsa mund ta përmirësonte ndjeshëm sigurinë. Kjo mund të krahasohet me traktatet SALT: kufizimi i numrit të raketave e zvogëloi potencialin shkatërrues, duke ruajtur njëkohësisht kapacitetin parandalues të secilit vend. Mendoj se një marrëveshje e tillë do të ishte e vështirë, por ndodhet pikërisht në kufirin e së mundshmes.
• Niveli 4. Një kontrollim i plotë i ritmit, apo edhe një “pauzë”, ku qeveritë pjesëmarrëse bien dakord ta kufizojnë ndjeshëm ritmin e përgjithshëm të zhvillimit të AI-së. E mbështes hedhjen e kësaj ideje për diskutim, por mendoj se nuk ka gjasa të realizohet së shpejti. Shkelja e një marrëveshjeje të tillë, duke iu shmangur monitorimit, mund ta ndryshojë rrënjësisht ekuilibrin e fuqisë globale; për këtë arsye pres që nxitja për ta shkelur të jetë jashtëzakonisht e madhe dhe niveli i besimit që do të na duhej te mekanizmat e verifikimit të jetë shumë i lartë.

Çdo bashkëpunim që arrijmë të krijojmë me Kinën do ta zgjasë kohën që kemi në dispozicion për kontrollimin e ritmit në vendet demokratike. Duhet të synojmë nivelet më të larta, duke i konsideruar njëkohësisht nivelet më të ulëta si më të mundshme dhe realiste.

Në fund, është e rëndësishme të theksohet se edhe nëse nuk arrijmë marrëveshje formale, vetë ndryshimi i normave joformale mund të ketë vlerë. Ndarja e informacionit mbi vetëpërmirësimin rekursiv dhe mospërafrimin e modeleve mund t’i bindë të gjithë se sjellja e papërgjegjshme nuk është në interesin e tyre.

Përfundimi

Vazhdoj të besoj se AI-ja mund ta përmirësojë jashtëzakonisht shumë cilësinë e jetës njerëzore. Dëshira ime për t’i realizuar këto përfitime nuk është zbehur. Por përfitimet do të arrihen vetëm nëse e ndërtojmë teknologjinë në mënyrën e duhur dhe — për sa kohë që e përdorim mirë kohën që fitojmë — ia vlen të tregojmë një kujdes të pazakontë për t’i bërë gjërat siç duhet. Përparimi do të vazhdojë të jetë relativisht i shpejtë dhe ne mund ta përdorim këtë kohë për të çuar përpara shkencën e interpretueshmërisë, për të përmirësuar sigurinë operacionale dhe rigorozitetin në kompanitë e AI-së në kufirin më të avancuar dhe për të ndërtuar modele te përafrimi i të cilave kemi shumë më tepër besim. Masat që propozoj për ta çuar përpara kufirin e zhvillimit me një ritëm të sigurt nuk do të jenë të lehta. Por besoj se ia kemi për detyrë njerëzimit të përpiqemi.