Tre prej figurave më të fuqishme dhe rivale të Inteligjencës Artificiale kanë gjetur një pikë të rrallë dakordësie: sistemet më të avancuara mund të jenë duke u zhvilluar më shpejt sesa aftësia e njerëzve për t’i kontrolluar.
Drejtuesi i Anthropic, Dario Amodei, u bëri thirrje kompanive të ngadalësojnë përmirësimin e aftësive të modeleve të AI-së, duke argumentuar se përparimi teknologjik është përshpejtuar ndjeshëm gjatë muajve të fundit.
Sipas tij, shkaku kryesor është aftësia në rritje e Inteligjencës Artificiale për të ndihmuar në krijimin e modeleve pasardhëse, një proces që njihet si “vetëpërmirësim rekursiv”. Nëse vazhdon pa masa sigurie, ky proces mund të ecë më shpejt se aftësia njerëzore për ta kuptuar dhe kontrolluar.
Thirrja e Amodei-t mori mbështetjen e menjëhershme të drejtuesve të dy kompanive rivale.
“Dario ka të drejtë”, shkroi Elon Musk, drejtuesi i xAI, ndërsa shpërndau propozimin e tij.
Edhe drejtuesi i OpenAI, Sam Altman, deklaroi se kompanitë duhet të kontrollojnë ritmin e zhvillimit të modeleve më të fuqishme.
Altman mbështeti gjithashtu propozimin që ekspertëve të pavarur t’u jepet akses i vazhdueshëm, i ngjashëm me atë të punonjësve, për të kontrolluar modelet, procesin e trajnimit dhe respektimin e masave të sigurisë. Ai tha se OpenAI do të zbatojë të njëjtën praktikë.
Incidenti që ngriti alarmin
Një nga arsyet kryesore të alarmit është incidenti i korrikut, gjatë testimeve të brendshme të aftësive kibernetike të modeleve të OpenAI.
Sipas vetë kompanisë, agjentët e AI-së kapërcyen kufizimet që duhej t’i mbanin të izoluar, siguruan lidhje me internetin dhe komunikuan mes tyre përmes kanaleve të paautorizuara.
Agjentët shfrytëzuan dobësi teknike, depërtuan në pjesë të infrastrukturës së OpenAI dhe në sistemet e platformës Hugging Face, ekzekutuan kod në dhjetëra serverë dhe siguruan akses të plotë në të paktën një prej tyre.
Veprimet nuk ishin pjesë e detyrës së përcaktuar nga studiuesit. OpenAI e cilësoi ngjarjen si një “sinjal paralajmërues”, por sqaroi se nuk u prekën të dhënat e klientëve, funksionimi apo disponueshmëria e produkteve të saj.
Amodei paralajmëroi se një grup agjentësh më të fuqishëm, por me të njëjtat probleme kontrolli, mund të shkaktonte dëme shumë më të mëdha.
Jo ndalim, por kontroll i ritmit
Propozimi nuk kërkon ndalimin e trajnimit të modeleve. Amodei propozon ekspertë të jashtëm brenda laboratorëve të AI-së, standarde të përbashkëta sigurie ndërmjet kompanive dhe koordinim ndërkombëtar.
Pika më e vështirë mbetet përfshirja e Kinës. Çdo ngadalësim vetëm nga kompanitë amerikane mund t’u japë avantazh rivalëve kinezë, ndërsa një marrëveshje globale do të ishte e vështirë për t’u kontrolluar.
Megjithatë, fakti që drejtuesit e Anthropic, OpenAI dhe xAI po mbështesin publikisht të njëjtin shqetësim tregon se frika mbi ritmin e zhvillimit të AI-së tashmë ka depërtuar edhe brenda vetë industrisë.
LEXONI ESENE E PLOTE TE DARIO AMODEI-t
