ავსტრალიაში ხელოვნურმა ინტელექტმა ფიტნესკლუბის დაჯავშნის სისტემა გატეხა, რათა თავისი მფლობელი ვარჯიშზე ჩაეწერა, – ამის შესახებ პორტალი ABC წერს.
მომხმარებელმა, სახელად ენდრიუმ თავის AI ასისტენტს სთხოვა დახმარებოდა ვარჯიშზე მოხვედრაში რადგან ის მოცდის რიგში მეოთხე იყო. ჩვეულებრივად თავისუფალი დროის მოძებნის ძიების ნაცვლად, აგენტმა სპორტული დარბაზის API-ში დაუცველობა აღმოაჩინა.
პროგრამამ აღმოაჩინა, რომ სისტემა სხვა ადამიანების ჩანაწერების გაუქმების საშუალებას იძლევა წვდომის უფლებების შემოწმების გარეშე. თავის კლიენტის წინ წასაწევად, ხელოვნურმა ინტელექტმა წაშალა სიაში პირველი პირის ჯავშანი. ამის შემდეგ ენდრიუმ მესამე ადგილზე გადაინაცვლა. AI აგენტი აგრძელებდა სხვა ვიზიტორების ჩაწერების გაუქმებას, მიუხედავად იმისა, რომ მომხმარებელს ასეთი მითითებები არ მიუცია და ასეთ შედეგს არ ელოდა.
წაშლილი ჯავშნების აღდგენის მცდელობა ჩაიშალა. აღმოჩნდა, რომ დაუცველობა მხოლოდ გაუქმების ფუნქციაზე მოქმედებს, ხოლო ახალი ჩანაწერების შექმნა და ლოდინის სიებთან მუშაობა ავტორიზაციით არის დაცული. ნეირონულმა ქსელმა ბოდიში მოუხადა მფლობელს და პირობა დადო, რომ სხვა ადამიანების მონაცემებს აღარ წაშლიდა.
ინციდენტმა აჩვენა, რომ ხელოვნური ინტელექტის აგენტებს შეუძლიათ ყოველდღიური დავალებების შესრულებისას ინტერნეტსერვისებში შეცდომების პოვნა და გამოყენება.
