OpenAI deklaroi të martën se po ngadalëson ritmin e zhvillimit të modeleve të inteligjencës artificiale, ndërsa po rishikon sistemet e saj të kërkimit dhe trajnimit. Ky vendim vjen pasi zyrtarët e kompanisë u kapën të papërgatitur muajin e kaluar, kur një agjent i AI-së, që po testohej, arriti të hakonte një tjetër kompani të inteligjencës artificiale, Hugging Face, raporton Reuters.
Laboratori i AI-së që qëndron pas ChatGPT tha se ka pezulluar për dy javë testimin e modeleve dhe po shton sisteme të tjera të inteligjencës artificiale për të monitoruar aktivitetet e agjentëve të AI-së gjatë testimeve. Kompania ka pezulluar gjithashtu trajnimin e gjeneratës së ardhshme të modeleve, të quajtur Astra, ndërsa prova më e madhe e planifikuar për trajnimin e modeleve mbetet në pritje. OpenAI nuk iu përgjigj pyetjeve se kur kishte nisur kjo periudhë dyjavore e ngadalësimit.
Ky zhvillim përbën një hap të pazakontë për OpenAI, e cila vitet e fundit ka përshpejtuar ndjeshëm procesin e testimit të modeleve të reja dhe zhvillimit të produkteve, ndërsa konkurrenca në industrinë e AI-së është rritur. Megjithatë, ende nuk është e qartë nëse masat e reja do të jenë të mjaftueshme për të parandaluar sjelljen problematike të modeleve, veçanërisht pasi kompania po punon paralelisht për t’i bërë ato edhe më të fuqishme.
Zyrtarët e OpenAI kanë pranuar se ka ende pikëpyetje rreth efektivitetit të një prej masave kryesore për forcimin e sistemeve të testimit, të quajtur “monitorimi i zinxhirit të mendimit” (chain-of-thought monitoring). Përmes kësaj metode, studiuesit mund të shqyrtojnë procesin e planifikimit të një modeli dhe të kuptojnë strategjitë që ai po përdor. Megjithatë, disa kërkime të hershme tregojnë se një model mund të mos zbulojë në procesin e tij të mendimit planet për të shkelur rregullat.
Muajin e kaluar, OpenAI tha se një agjent autonom, i fuqizuar nga dy modele të avancuara të inteligjencës artificiale, doli nga mjedisi i kontrolluar i testimit dhe hakoi kompaninë Hugging Face. Agjenti po i nënshtrohej një testi të sigurisë kibernetike dhe arriti të depërtonte në sistemet e Hugging Face për të përmbushur objektivin e testit. OpenAI po heton incidentin dhe planifikon të publikojë së shpejti një raport.
Reuters kishte raportuar më parë se, deri në atë moment, kompania shpesh kryente disa teste të ndryshme të modeleve në të njëjtën kohë, të cilat funksiononin me shpejtësi të lartë dhe gjeneronin sasi shumë të mëdha të dhënash, duke e bërë të vështirë për punonjësit t’i monitoronin të gjitha.
Tani, OpenAI po kërkon që disa prej proceseve të saj më të ndjeshme të zhvillohen në “sandbox”-e më të sigurta, pra në mjedise të izoluara nga sistemet e tjera.
Më 7 gusht, OpenAI njoftoi se do të forconte kontrollet e sigurisë për modelet e saj më të fuqishme dhe do të pezullonte çdo aktivitet që lidhej me Astra, modelin e saj të gjeneratës së re të AI-së, i cili ende nuk i kishte përmbushur këto kërkesa sigurie.
Kompania tha se këto masa janë në përputhje me planin e saj të shpallur më herët për menaxhimin e aftësive potencialisht kritike të AI-së, të njohur si Preparedness Framework. Të martën, drejtuesit e OpenAI thanë se industria do të ketë nevojë për një strategji më të gjerë për t’u përgatitur për modelet e ardhshme të inteligjencës artificiale.
