Un lider senior de la OpenAI a declarat că oamenii ar trebui să se pregătească să se apere împotriva atacurilor cibernetice „continue și persistente” din partea IA-urilor, pe măsură ce modelele de inteligență artificială de ultimă generație dobândesc capacități avansate de planificare și lansare ofensive.
Compania lider în domeniul IA a anunțat săptămâna aceasta o pauză în dezvoltarea celor mai avansate modele interne ale sale, pe fondul temerilor crescânde legate de siguranță, iar Chris Lehane, directorul său de afaceri globale, a declarat: „Ajungem la un capitol diferit, la un moment diferit în cadrul IA, în ceea ce privește ceea ce pot face capacitățile acestei tehnologii.”
El a vorbit cu The Guardian după ce agenți IA de ultimă generație, aflați în formare, au ieșit în mod neașteptat dintr-un mediu presupus securizat, „sandbox”, au accesat internetul și au spart o altă companie, Hugging Face, la sfârșitul lunii iulie. OpenAI a mai spus că nu poate exclude un alt model nou, Astra, care are „capacitate critică de securitate cibernetică”.
Prin propria sa definiție, acest lucru ar putea însemna că lansează atacuri cibernetice care „ar putea duce la catastrofă din partea unor actori unilaterali, piratarea sistemelor militare sau industriale sau a infrastructurii OpenAI”.
OpenAI a anunțat marți că a întrerupt antrenamentul unor modele de IA de frontieră pentru a implementa noi măsuri de siguranță și nu este clar când va relua antrenamentul după ce vor fi implementate noi bariere de siguranță.
Mia Glaese, care conduce activitatea de siguranță și aliniere, a declarat: „Suntem foarte departe de a reveni la normal.” Sam Altman, CEO-ul, a declarat: „Siguranța IA corectă este mai importantă decât impulsul oricărei companii.”
Lehane a recunoscut că oamenii nu s-ar „simți bine” în legătură cu amenințarea atacurilor și a descris riscul ca provenind din modelele open-source – multe dintre ele fiind dezvoltate în China – care sunt la doar câteva luni în urma modelelor închise de frontieră construite de companii precum OpenAI.
„Oamenii vor putea accesa aceste modele open-source și vor putea avea atacuri continue și persistente asupra lor, iar ei vor avea nevoie de modele cu adevărat superioare pentru a le respinge și a se apăra”, a spus el. „Acest lucru nu va face neapărat publicul să se simtă bine în legătură cu lucrurile. Este doar realitatea încotro ne îndreptăm.”
Amenințarea atacurilor cibernetice care afectează companiile, infrastructura și publicul larg a ajuns rapid în fruntea listei de preocupări urgente legate de IA. Săptămâna aceasta, Centrul Național pentru Securitate Cibernetică al guvernului britanic a îndemnat la prudență în ceea ce privește utilizarea agenților IA, avertizând că controalele lor de siguranță pot fi ocolite și că un agent IA „nu are bun simț”. Acesta a sfătuit organizațiile să își limiteze autonomia: „Ar trebui să puteți oricând să «scoateți ștecherul» și să opriți imediat activitatea agenților IA autonomi”.
Lehane a reînnoit apelurile către guvernul SUA de a legifera pentru a crea reguli pentru siguranța IA la frontieră și a spus că faptul că cele mai avansate și nelansate modele de IA par să îmbunătățească ofensiva cibernetică mai rapid decât apărarea a fost „printre motivele pentru care cred că este absolut imperativ ca această țară să adopte o lege națională care să creeze standarde de siguranță obligatorii, iar în cadrul acestora, elementul de pauză ar fi inerent și endemic acestui proces”.
