ტესტირების დროს, Alibaba-ს ხელოვნური ინტელექტის (AI) აგენტმა, ROME-მა, შეზღუდვები გადალახა და კრიპტოვალუტის მაინინგი სცადა, იტყობინება Axios, ინციდენტის შესახებ სამეცნიერო ანგარიშზე დაყრდნობით.
ტესტირების დროს მკვლევრებმა ხელოვნური ინტელექტის აგენტის მხრიდან უჩვეულო ქცევა შენიშნეს, უსაფრთხოების სისტემამ კი ქცევითი გადახრები აღმოაჩინა და შიდა გაფრთხილებები გაააქტიურა.
ROME-მა ტესტირების სენდბოქსიდან გაქცევა გარე ბრძანებების გარეშე სცადა. აგენტმა შექმნა საპირისპირო SSH გვირაბი - მექანიზმი, რომელიც კომპიუტერთან დისტანციური სერვერის საშუალებით დაკავშირების საშუალებას იძლევა.
Axios-ის თანახმად, აგენტის სასწავლო პროგრამა არ მოიცავდა SSH გვირაბის შექმნის შესაძლებლობას ან კრიპტოვალუტის მოპოვების ამოცანას.
ინციდენტის აღმოჩენის შემდეგ, დეველოპერებმა შეცვალეს სასწავლო პროცესი და გაამკაცრეს შეზღუდვები, რათა მომავალში მსგავსი ქცევა თავიდან აეცილებინათ.
