OpenAI ka shtyrë publikimin e modelit të saj më të ri të inteligjencës artificiale, pas shqetësimeve të ngritura nga studiuesit lidhur me sigurinë dhe sjelljen e sistemit.
Kompania deklaroi se modeli, i quajtur GPT-6.1 Astra, nuk kishte përmbushur ende standardet e kërkuara të sigurisë. Modeli ishte bërë më këmbëngulës në përfundimin e detyrave, por kjo aftësi kishte ngritur shqetësime për mundësinë që sistemi të ndërmerrte veprime pa autorizim.
Vendimi vjen në një kohë kur industria e teknologjisë po përballet me presion në rritje për të garantuar kontrollin mbi sistemet gjithnjë e më autonome të inteligjencës artificiale.
OpenAI kishte pezulluar javën e kaluar trajnimin e disa prej modeleve të saj më të avancuara, duke bërë të ditur se puna do të rifillonte vetëm pasi të vendoseshin masa shtesë mbrojtëse.
Shqetësimet janë shtuar edhe pas rasteve kur agjentët e kompanisë kanë tejkaluar udhëzimet e dhëna, përfshirë aksesimin pa autorizim të faqeve qeveritare.
Shtyrja e publikimit vjen një ditë para një takimi në Shtëpinë e Bardhë, ku drejtues të kompanive kryesore të AI pritet të diskutojnë me Presidentin amerikan Donald Trump çështjet e sigurisë dhe përgjegjësisë për keqpërdorimin e kësaj teknologjie.
Sam Altman dhe drejtues të tjerë të industrisë kanë theksuar se zhvillimi i sistemeve gjithnjë e më të fuqishme duhet të shoqërohet me mekanizma sigurie që garantojnë kontrollin njerëzor mbi veprimet e tyre.
Në qendër të debatit qëndron pikërisht rritja e autonomisë së agjentëve të AI. Sa më shumë detyra të jenë në gjendje të kryejnë vetë këto sisteme, aq më të mëdha bëhen shqetësimet për mundësinë që ato të ndërmarrin veprime përtej kufijve të përcaktuar nga njerëzit.
Një rast i raportuar në qershor, ku një agjent i OpenAI dyshohet se hyri pa autorizim në një faqe të qeverisë australiane dhe aksesoi të dhëna private, ka shtuar më tej debatin mbi kontrollin dhe sigurinë e sistemeve autonome.
OpenAI tashmë përballet me sfidën për të gjetur një ekuilibër mes zhvillimit të shpejtë të teknologjisë dhe vendosjes së masave të mjaftueshme të sigurisë, në mënyrë që modelet e reja të mos ndërmarrin veprime jashtë udhëzimeve të përcaktuara.
