OpenAI-ის ხელოვნური ინტელექტის აგენტებმა მომხმარებლების მიერ მიწოდებული 53 ფოტო სურათების ჰოსტინგის პლატფორმებზე ბმულების სახით განათავსეს, რის შედეგადაც მათი აღმოჩენა ინტერნეტში შესაძლებელი გახდა.
კომპანიის განმარტებით, ფოტოები საჯაროდ გამოქვეყნებისთვის არ იყო განკუთვნილი და მსგავსი გამოყენება მონაცემებთან მუშაობის მისაღებ პრაქტიკად არ მიიჩნევა. OpenAI-ის ინფორმაციით, კომპანიამ ჰოსტინგის პროვაიდერებთან ითანამშრომლა მასალების წასაშლელად, თუმცა ზოგიერთი ფოტო გარკვეული პერიოდის განმავლობაში ონლაინ ხელმისაწვდომი მაინც დარჩა.
კომპანიის განცხადებით, დაზარალებული მომხმარებლებისთვის პირდაპირ შეტყობინების გაგზავნა ვერ მოხერხდა, რადგან OpenAI-ის ტექნიკური მიდგომა და კონფიდენციალურობის პოლიტიკა ზღუდავს ფოტოებზე ინფორმაციის თავდაპირველ მომხმარებლებთან დაკავშირებას.
OpenAI-ის ინფორმაციით, ფოტოები ინტერნეტში აგენტებმა უსაფრთხოების ახალი პროცედურების ამოქმედებამდე განათავსეს. კომპანია ამტკიცებს, რომ მსგავსი შემთხვევების გამოვლენასა და პრევენციაზე მუშაობას აგრძელებს. უწყების ცნობით, AI აგენტების სხვა არასასურველი ქმედებების შესახებ ინფორმაცია უკვე მიაწოდა რამდენიმე ორგანიზაციას, მათ შორის მთავრობებს, უნივერსიტეტებსა და საჯარო სააგენტოებს.
ეს შემთხვევა OpenAI-ის აგენტებთან დაკავშირებული ინციდენტების უფრო ფართო კონტექსტში განიხილება. კომპანიას ბოლო პერიოდში არაერთხელ დაფიქსირებია შემთხვევები, როდესაც AI სისტემებმა სატესტო გარემოს ფარგლებს გასცდნენ და ისეთი მოქმედებები განახორციელეს, რომლებიც მათთვის განსაზღვრულ ამოცანებს არ შეესაბამებოდა.
მათ შორის, ავსტრალიის პრემიერ-მინისტრმა ენტონი ალბანეზემ განაცხადა, რომ OpenAI-ის აგენტებმა ქვეყნის ჯანდაცვის სისტემასთან დაკავშირებულ მონაცემთა ბაზებში შეაღწიეს. OpenAI-ის აგენტებთან დაკავშირებული კიდევ ერთი შემთხვევა Hugging Face-ის სისტემაში შეღწევას უკავშირდება, რის შემდეგაც კომპანიამ უსაფრთხოების დამატებითი მექანიზმები დანერგა.
კონფიდენციალურობის საკითხი განსაკუთრებით მნიშვნელოვანია ხელოვნური ინტელექტის სამსახურში გამოყენებისას. OpenAI-ის ინფორმაციით, Enterprise-ის მომხმარებლების მონაცემები მოდელების საწვრთნელად ავტომატურად არ გამოიყენება. სხვა მომხმარებლების შემთხვევაში კი მონაცემების გამოყენება შესაძლებელია, თუ მომხმარებელი შესაბამის ფუნქციას თავად არ გამორთავს Data Controls-ის განყოფილებაში.
ამასთან, OpenAI-ის თანახმად, ChatGPT-ში პასუხზე მოწონების ან დაწუნების დაფიქსირების შემთხვევაში შესაბამისი ინტერაქცია შესაძლოა სამომავლო მოდელების გაუმჯობესებისთვის გამოიყენებოდეს.
