Modeli i inteligjencës artificiale Gemini i Google ka hyrë pa autorizim në sistemet e mbrojtura të tre kompanive reale gjatë një testi të sigurisë kibernetike, pasi sistemi kishte marrë aksidentalisht akses në internet. Incidentet ndodhën në maj të këtij viti gjatë një vlerësimi të kryer nga kompania e pavarur Irregular.

Gemini ishte ngarkuar të kryente një ushtrim të kontrolluar kundër një kompanie fiktive. Por në një prej rasteve, kompania e krijuar për testin kishte të njëjtin emër me një biznes real, ndërsa modeli kishte mundësi të lidhej me internetin jashtë mjedisit të testimit.

Në një prej incidenteve, Gemini provoi vazhdimisht fjalëkalime derisa arriti të hynte në një sistem të mbrojtur. Në dy rastet e tjera, inteligjenca artificiale gjeti kredenciale të publikuara në depo publike online dhe i përdori ato për të hyrë në sistemet e dy kompanive të tjera.

Google ka konfirmuar se në të tre rastet modeli ndaloi veprimet pasi kuptoi se sistemet që kishte aksesuar u përkisnin kompanive reale dhe nuk ishin pjesë e simulimit. Kompanitë e prekura, emrat e të cilave nuk janë bërë publikë, janë njoftuar për incidentet. Deri më tani nuk është raportuar ndonjë dëm i shkaktuar.

Heather Adkins, zëvendëspresidente e Google për inxhinierinë e sigurisë, deklaroi se zhvillimi i sigurt i modeleve të fuqishme të inteligjencës artificiale është kritik dhe se kompania investon ndjeshëm në këtë drejtim.

Pas incidenteve, Google tha se ka bashkëpunuar me kompaninë që zhvilloi testimin për të ndryshuar procedurat dhe për të parandaluar përsëritjen e rasteve të ngjashme.

Ngjarja ka rikthyer diskutimin mbi rreziqet që mund të shoqërojnë modelet gjithnjë e më autonome të inteligjencës artificiale, veçanërisht kur ato pajisen me akses në internet dhe aftësi për të kryer veprime në sisteme reale.