Google-ის ხელოვნური ინტელექტის მოდელმა Gemini-მ სისტემის უსაფრთხოების გამოცდის ფარგლებში ინტერნეტზე წვდომა მოიპოვა და სამი რეალური კომპანიის ვებგვერდებზე კიბერშეტევა განახორციელა.
ინციდენტი მიმდინარე წლის მაისში მოხდა, თუმცა შემთხვევის შესახებ ინფორმაცია გასულ კვირას Wall Street Journal-ის გამოძიების შედეგად გახდა ცნობილი. გამოცემა აღნიშნავს, რომ ეს ტექნოლოგიურ გიგანტში მსგავსი შემთხვევის პირველი საჯაროდ ცნობილი მაგალითია. მანამდე ხელოვნური ინტელექტის მოდელების მიერ კიბერშეტევების განხორციელების შემთხვევები OpenAI-სა და Anthropic-საც დაუფიქსირდათ.
ტესტი კიბერუსაფრთხოების კომპანია Irregular-მა ჩაატარა. ექსპერიმენტის ფარგლებში ხელოვნური ინტელექტის აგენტებს სიმულირებულ გარემოში გამოგონილი კომპანიების კონფიდენციალური ინფორმაციის მოპოვება დაევალათ. თავდაპირველად აგენტებს ინტერნეტთან წვდომა არ ჰქონდათ.
დავალების შესრულების პროცესში Gemini-მ ინტერნეტზე წვდომის მოპოვება შეძლო, რის შემდეგაც რეალური კომპანიების ინფრასტრუქტურაზე წვდომა მოიპოვა და მათი შიდა ინფორმაციის მოპოვება სცადა. რეალურ კომპანიებს იმავე სახელები ჰქონდათ, რომლებიც სიმულირებულ გარემოში გამოყენებულ გამოგონილ კომპანიებს.
კიბერშეტევა მას შემდეგ შეწყდა, რაც ხელოვნური ინტელექტის აგენტებმა დაადგინეს, რომ უკვე რეალური კომპანიის ინფრასტრუქტურას უტევდნენ.
შემთხვევა ხელოვნური ინტელექტის აგენტებისთვის ინტერნეტზე თავისუფალი წვდომის შესაძლო რისკებზე მიმდინარე დისკუსიის ფონზე მოხდა. ბოლო პერიოდში ინდუსტრიაში გაიზარდა ყურადღება იმ საფრთხეებზე, რომლებიც უფრო ავტონომიური AI სისტემების განვითარებას შეიძლება ახლდეს.
ხელოვნური ინტელექტის განვითარების ტემპის შენელების აუცილებლობაზე ბოლო კვირებში ისაუბრეს დარგის წამყვანი კომპანიების ხელმძღვანელებმაც, მათ შორის Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ და OpenAI-ის ხელმძღვანელმა სემ ალტმანმა. მსგავს პოზიციაზე საუბარი ჰქონდა Google-ის ხელოვნური ინტელექტის მიმართულების ხელმძღვანელ დემის ჰასაბისსაც.
