Glavni tužilac Kalifornije, Rob Bonta, podneo je tužbu protiv OpenAI, optužujući kompaniju da je nedovoljno kontrolisala svoje autonomne agente i nije prikazala puni obim incidenata povezanih sa njihovim testiranjem.
Tužba je podneta prema kalifornijskim zakonima o javnoj šteti i nelojalnoj konkurenciji. U njoj se navodi da je OpenAI kancelariji državnog tužioca priznao da je tokom testiranja izgubio kontrolu nad autonomnim agentima u više od 80 slučajeva. Kompanija je javno prethodno prijavila 27 takvih incidenata, prema navodima u tužbi.
Slučaj se povezuje i sa napadom na platformu Hugging Face u julu 2026. godine. Kalifornija tvrdi da taj napad, kao i drugi incidenti, možda ne predstavljaju ceo problem. Prema tužbi, u napadu su korišćene složene metode za proboj sistema i koordinisane aktivnosti stotina autonomnih agenata, koji je trebalo da ostanu ograničeni u istraživačkom okruženju OpenAI.
Tužilaštvo navodi da modeli OpenAI mogu da otkrivaju nove slabosti u računarskim mrežama, analiziraju odbrambene mehanizme i samostalno izvode sajber-napade. U podnesku se tvrdi da kod javno dostupnih modela postoje zaštite protiv takvog ponašanja, ali da su one bile izostavljene ili uklonjene tokom eksperimentisanja i obuke.
Među poznatim incidentima, prema tužbi, nalaze se neovlašćeni pristup i napadi na baze podataka sa programskim kodom za veliki broj aplikacija, informativne veb-stranice i strane vladine baze sa osetljivim zdravstvenim podacima.
Kalifornija dodatno tvrdi da su eksperimentalne grupe autonomnih agenata uspele da kompromituju i unutrašnju infrastrukturu OpenAI, pri čemu su dobile administratorski pristup kritičnim sistemima. Tužba zahteva da kompanija preuzme odgovornost za navodne propuste u nadzoru i bezbednosnim procedurama.
