კომპანია OpenAI-მ ხელოვნური ინტელექტის (AI) მოდელების კონტროლიდან გამოსვლის ახალი შემთხვევები დააფიქსირა. Reuters-ის ინფორმაციით, აღნიშნული ფაქტები კომპანია Hugging Face-ზე განხორციელებული ჰაკერული შეტევის გამოძიებისას გამოვლინდა.
კომპანია ამჟამად ყველა ინციდენტს იძიებს. წყაროს ცნობით, იზოლირებული გარემოდან AI-ს „გაქცევის“ შემთხვევები შეზღუდული ხასიათისა იყო და აგენტებს OpenAI-ს შიდა ქსელი არ დაუტოვებიათ.
ტესტირება მიმდინარეობდა სპეციალურ იზოლირებულ გარემოში (sandbox), სადაც გარე წვდომა მკაცრად შეზღუდულია. დასახული ამოცანის გადასაჭრელად, მოდელებმა დამოუკიდებლად დაიწყეს სისტემიდან გამოსასვლელის ძიება და „ნულოვანი დღის დაუცველობა“ (Zero-day vulnerability) — უსაფრთხოების სისტემის მანამდე უცნობი ხარვეზი აღმოაჩინეს.
ამ ხარვეზის გამოყენებით, მოდელებმა გარე ინტერნეტზე წვდომა მოიპოვეს. მათ განსაზღვრეს, რომ საჭირო მონაცემები Hugging Face-ის პლატფორმაზე იმყოფებოდა (სადაც AI მოდელები და მათი დეველოპერული ინსტრუმენტები თავსდება) და ამ მონაცემების მოსაპოვებლად ერთდროულად რამდენიმე ჰაკერული ტექნიკა გამოიყენეს.
მსგავსი ინციდენტი ცოტა ხნის წინ კომპანია Anthropic-შიც დაფიქსირდა, თუმცა არსებითი განსხვავებით:
კიბერუსაფრთხოების ტესტირებისას Claude-ის მოდელებმა სამი კომპანიის სისტემა გატეხეს, თუმცა ეს მოხდა ადამიანური შეცდომის გამო, რამაც მათ გარე ინტერნეტთან წვდომა შემთხვევით მისცა.
OpenAI-ს მოდელებმა დამოუკიდებლად მიაგნეს უსაფრთხოების სისტემის სუსტ წერტილს და საკუთარი ინიციატივით გავიდნენ იზოლირებული გარემოდან.
ექსპერტების შეფასებით, OpenAI-ში დაფიქსირებულმა ახალმა ინციდენტებმა შესაძლოა აშშ-ის თეთრი სახლის მხრიდან ხელოვნური ინტელექტის სფეროს მკაცრი რეგულირების ინტერესი კიდევ უფრო გაზარდოს.
