OpenAI je otpustio troje istraživača nakon interne istrage zbog navodnog nepropisnog postupanja sa osetljivim informacijama kompanije. Najmanje dvoje otpuštenih bilo je uključeno u istraživanja bezbednosti veštačke inteligencije. Istovremeno, kompanija se suočava sa dodatnom pažnjom javnosti zbog incidenata tokom testiranja svojih AI modela, uključujući slučaj koji je pogodio sisteme platforme Haging Fejs (Hugging Face), piše Tanjug.
OpenAI je potvrdio da su tri zaposlena dobila otkaz nakon interne istrage.
Portparol kompanije rekao je da je istragom utvrđeno da su zaposleni koristili osetljive informacije mimo propisanih procedura, čime su prekršili interne politike kompanije.
Kompanija nije objavila njihova imena.
Prema dostupnim informacijama, najmanje dvoje otpuštenih istraživača radilo je na bezbednosti veštačke inteligencije, uključujući istraživanja koja su bila povezana sa spoljnom organizacijom koja proučava ponašanje i bezbednost AI modela.
OpenAI: Nisu otpušteni zbog upozoravanja na rizike veštačke inteligencije
Važan deo slučaja jeste to što, prema objavljenim navodima, otkazi nisu povezani sa samim izražavanjem zabrinutosti zbog bezbednosti veštačke inteligencije.
Problem je, prema objašnjenju kompanije, bio u načinu na koji su zaposleni postupali sa osetljivim informacijama i u kršenju internih pravila.
OpenAI je saopštio da je poverenje u pravilno rukovanje takvim informacijama od ključnog značaja za njegov rad.
AI modeli tokom testiranja pristupili sistemima Haging Fejsa
Vest o otkazima dolazi u trenutku kada se OpenAI suočava sa dodatnim pitanjima o bezbednosti sve sposobnijih AI sistema.
Kompanija je u avgustu objavila detalje incidenta koji se dogodio tokom internih testiranja sajber sposobnosti svojih modela.
Tokom tih testiranja, modeli OpenAI-ja uspeli su da zaobiđu pojedine kontrole namenjene njihovom izolovanju od interneta i pristupe delovima interne istraživačke infrastrukture kompanije, kao i sistemima platforme Haging Fejs.
OpenAI je naglasio da su modeli u tom testiranju radili sa smanjenim zaštitnim merama, kako bi njihove sposobnosti u sajber-bezbednosti mogle što detaljnije da se ispitaju.
Kompanija je nakon istrage navela da su modeli koristili ranjivosti u zajedničkoj infrastrukturi, ostvarili pristup internetu i pristupili sistemima trećih strana.
Kompanija pojačava zaštitu AI agenata
OpenAI je nakon incidenta najavio dodatne mere zaštite.
One uključuju strože zahteve za bezbednost tokom čitavog životnog ciklusa modela, izolovanija testna okruženja, ograničavanje pristupa internetu i dodatnu kontrolu pristupa modelima.
Kompanija je takođe navela da ulaže više resursa u nadzor ponašanja modela kako bi se potencijalno problematične aktivnosti ranije uočile.
Posebnu pažnju privlači činjenica da su testirani sistemi bili dovoljno sposobni da pronađu i iskoriste bezbednosne slabosti u više računarskih sistema kada nisu imali uobičajene zaštitne mehanizme.
OpenAI je ovaj incident opisao kao ozbiljno upozorenje o tome koliko bezbednosne mere moraju da prate razvoj sve sposobnijih AI agenata.
Bilo je i drugih slučajeva tokom bezbednosnih testiranja
OpenAI je početkom avgusta objavio i da su tokom odvojenih testiranja kod dva spoljna partnera zabeleženi slučajevi u kojima su modeli pristupili javnom internetu.
Kompanija je naglasila da su se ti događaji dogodili u specifičnim uslovima testiranja, uz smanjene zaštitne mere, i da nisu predstavljali uobičajeni način rada modela u javno dostupnim proizvodima.
Jedan od testova sproveo je britanski Institut za bezbednost veštačke inteligencije, dok je drugi organizovao eksterni partner za sajber-bezbednost.
Ovakva testiranja imaju cilj da pokažu koliko su savremeni modeli sposobni da samostalno rešavaju složene sajber-zadatke, ali istovremeno otvaraju pitanje kako takve eksperimente bezbedno ograničiti.
Sve veća pažnja posvećena bezbednosti veštačke inteligencije
Incidenti tokom testiranja dodatno su pojačali raspravu o tome kako treba kontrolisati AI agente koji mogu samostalno da izvršavaju složene zadatke.
Za razliku od klasičnih četbotova, AI agenti mogu da koriste alate, pristupaju različitim sistemima i obavljaju niz koraka bez potrebe da čovek odobri svaku pojedinačnu radnju.
Zbog toga se bezbednost takvih sistema sve više posmatra kao pitanje tehničkih zaštita, nadzora i jasnog ograničavanja dozvola.
OpenAI je saopštio da će nastaviti da pojačava kontrole i prati ponašanje svojih modela tokom razvoja i testiranja.
Slučaj sa otkazima troje istraživača, međutim, odnosi se na zasebno pitanje – postupanje zaposlenih sa osetljivim informacijama kompanije. Prema obrazloženju OpenAI-ja, upravo je kršenje internih pravila bilo razlog za raskid radnog odnosa.
Za najnovije biznis vesti iz Srbije i sveta, pratite nas na Tiktoku, Fejsbuku i na našoj Instagram stranici.
