OpenAI აცხადებს, რომ შიდა ტესტირების პროცესში მის ტექნოლოგიაზე დაფუძნებულმა ავტონომიურმა AI-აგენტმა დამოუკიდებლად მოიპოვა ღია ინტერნეტზე წვდომა და Hugging Face-ის სისტემებში უნებართვოდ შეაღწია. კომპანიამ ამ შემთხვევას „უპრეცედენტო კიბერინციდენტი“ უწოდა.
AI-აგენტი იმ ტიპის სისტემაა, რომელსაც დავალებების შესრულება ადამიანის უშუალო ჩარევის გარეშე შეუძლია.
OpenAI-ს ინფორმაციით, ინციდენტის აღმოჩენა და შეჩერება თავად Hugging Face-ის უსაფრთხოების გუნდმა და მისმა AI-ინსტრუმენტებმა შეძლო.
როგორ მოხდა ინციდენტი
კომპანიის განმარტებით, აგენტი მუშაობდა GPT-5.6 Sol მოდელისა და კიდევ უფრო ძლიერი, თუმცა ჯერჯერობით არასაჯარო მოდელის კომბინაციით. სისტემა სპეციალურ, იზოლირებულ ციფრულ გარემოში (ე.წ. sandbox) ჰაკერული შესაძლებლობების შესამოწმებლად იტესტებოდა. ტესტირების დროს AI-მ აღმოაჩინა აქამდე უცნობი ველი, რომლის გამოყენებითაც იზოლირებული გარემოდან ღია ინტერნეტზე გასვლა შეძლო.
მიზანი იყო ტესტის „მოტყუება“
OpenAI-ს ცნობით, ინტერნეტში გასვლის შემდეგ AI-აგენტმა Hugging Face-ის ინფრასტრუქტურაში შეაღწია, რათა ისეთი ინფორმაცია მოეპოვებინა, რომელიც ჰაკერული შესაძლებლობების შეფასების ტესტის წარმატებით ჩაბარებაში დაეხმარებოდა.
კომპანიის განცხადებით, მოდელმა მოახერხა საიდუმლო ინფორმაციის მოპოვების გზების აღმოჩენა, რომელიც შეფასების პროცესის მოსატყუებლად შეიძლებოდა გამოეყენებინა.
ინციდენტი მას შემდეგ დასრულდა, რაც Hugging Face-ის უსაფრთხოების სისტემებმა და ხელოვნური ინტელექტის ინსტრუმენტებმა საეჭვო აქტივობა დროულად დააფიქსირა და შეაჩერა.
ამ ფაქტზე თავად Hugging Face-ის აღმასრულებელი დირექტორიც აკეთებს კომენტარს და ამბობს, რომ OpenAI-ის სისტემას „ბოროტი განზრახვა” არ ჰქონია.
OpenAI კი, იმის ნაცვლად, რომ გვამშვიდებდეს, აღნიშნავს, რომ მსგავსი შემთხვევები გახშირდება.
OpenAI მიიჩნევს, რომ ხელოვნური ინტელექტის მოდელების შესაძლებლობების ზრდასთან ერთად მსგავსი ინციდენტები მომავალში უფრო ხშირი გახდება. ეს შემთხვევა აჩვენებს, რომ თანამედროვე AI-მოდელებს უკვე შეუძლიათ ისეთი უსაფრთხოების ხარვეზების აღმოჩენა და გამოყენება, რომლებიც მანამდე უცნობი იყო.
პოლიტიკოსები რეგულაციების გამკაცრებას ითხოვენ
ინციდენტს აშშ-ის კონგრესმენი გრეგ კასარიც გამოეხმაურა. მისი შეფასებით, ხელოვნური ინტელექტი იმდენად სწრაფად ვითარდება, რომ არსებული რეგულაციები უსაფრთხოების სათანადო გარანტიას ვეღარ უზრუნველყოფს. ამიტომ ის AI-სისტემების სავალდებულო დამოუკიდებელ უსაფრთხოების ტესტირებას, უსაფრთხოების ინციდენტების სავალდებულო გასაჯაროებასა და საერთაშორისო თანამშრომლობის გაძლიერებას მოითხოვს, რათა მსგავსი შემთხვევებისგან საზოგადოება უკეთ იყოს დაცული.
