ინფორმაციის მოძიება არასდროს ყოფილა ისეთი მარტივი, როგორც დღეს, თუმცა ახალი კვლევა აჩვენებს, რომ ეს კომფორტი, განსაკუთრებით ახალგაზრდა მომხმარებლებისთვის, გარკვეულ საფრთხეებსაც შეიცავს. მკვლევრები Google-ის საძიებო სისტემაში ხელოვნური ინტელექტის მზარდ გამოყენებას აკრიტიკებენ და აცხადებენ, რომ AI-ს მიერ გენერირებულმა პასუხებმა, შესაძლოა, ბავშვები შეცდომაში შეიყვანოს.
დღეს ხელოვნური ინტელექტი სულ უფრო ხშირად თავად პასუხობს კითხვებს, ნაცვლად იმისა, რომ, უბრალოდ, შესაბამის ვებსაიტებზე გადაამისამართოს მომხმარებელი. შესაბამისად, შეცდომის დაშვების ფასი მნიშვნელოვნად იზრდება.
Common Sense Media-ს Youth AI Safety Institute-ის მიერ გამოქვეყნებული ანგარიშის მიხედვით, Google Search-ის AI ფუნქციები ბავშვებისთვის „მიუღებელ რისკს“ წარმოადგენს.
მკვლევრებმა Google-ის AI Overviews და AI Mode 2 600-ზე მეტ საძიებო მოთხოვნაზე შეამოწმეს. ტესტირება ჩატარდა 11 და 15 წლის მომხმარებლების ანგარიშებით, რომელთაც SafeSearch რეჟიმი ჩართული ჰქონდათ.
კვლევის თანახმად, ხელოვნურმა ინტელექტმა რიგ შემთხვევებში ვერ ამოიცნო სუიციდური აზრებისა და ფსიქოზის ნიშნები, გაამართლა კვებითი აშლილობებისთვის დამახასიათებელი ქცევები, მომხმარებლებს მიაწოდა ინსტრუქციები deepfake-ების, მათ შორის, სექსუალური ხასიათის ყალბი ფოტოების შესაქმნელად, ხოლო სასკოლო დავალებების შემთხვევაში ზოგჯერ პირდაპირ გასცა პასუხები იმის ნაცვლად, რომ მოსწავლეებს დამოუკიდებლად მუშაობაში დახმარებოდა.
ანგარიშში ასევე აღნიშნულია, რომ AI ზოგჯერ მცდარ ინფორმაციას ისეთივე თავდაჯერებით აწვდის მომხმარებელს, როგორც სწორ ფაქტებს, რის გამოც ბავშვებისთვის სიმართლისა და დეზინფორმაციის ერთმანეთისგან გარჩევა რთულდება.
ერთ-ერთ მაგალითად მკვლევრები ასახელებენ შემთხვევას, როდესაც სისტემამ კვებითი აშლილობების დახმარების სერვისად ორგანიზაცია მიუთითა, რომელმაც საქმიანობა ჯერ კიდევ 2023 წელს შეწყვიტა.
მათი შეფასებით, პრობლემა განსაკუთრებით სერიოზულია იმის გამო, რომ Google-ის AI-ფუნქციები უშუალოდ საძიებო სისტემაშია ინტეგრირებული. შედეგად, ბავშვები AI-ს მიერ გენერირებულ პასუხებს ავტომატურად იღებენ.
AI Overviews და AI Mode მშობლებს გამორთვის შესაძლებლობას ამ ეტაპზე არ აძლევს.
Common Sense Media-ის შეფასებით, ეს Google-ის მიდგომას განსაკუთრებულს ხდის, რადგან ბავშვებმა შესაძლოა ვერც კი გააცნობიერონ, რომ პასუხებს ხელოვნური ინტელექტი უგენერირებთ.
თავად Google ანგარიშის დასკვნებს არ ეთანხმება. კომპანიის განცხადებით, მკვლევრებმა გამოიყენეს „შეზღუდული რაოდენობის, ორაზროვანი და ხელოვნურად შექმნილი მოთხოვნები“, რომლებიც ბავშვების მიერ საძიებო სისტემის რეალურ გამოყენებას არ ასახავს.
კომპანია აცხადებს, რომ მის AI-სისტემებს მრავალსაფეხურიანი უსაფრთხოების მექანიზმები, მშობლების კონტროლის ფუნქციები და სახიფათო მოთხოვნებზე რეაგირების შემზღუდავი სისტემები აქვს.
კომპანია ასევე მიიჩნევს, რომ AI-თ გაძლიერებული ძიება „ბავშვებისა და მოზარდებისთვის სწავლის, ინფორმაციის აღმოჩენისა და მისი უკეთ გააზრების უაღრესად სასარგებლო საშუალებაა”.
კვლევის ავტორების შეფასებით, მიუხედავად იმისა, როგორ განვითარდება Google-ის უსაფრთხოების მექანიზმები ან რა რეგულაციები ამოქმედდება მომავალში, ერთი რამ აშკარაა – როდესაც მომხმარებელი პასუხს ბმულებზე ადრე იღებს, ინფორმაციის სიზუსტეს კიდევ უფრო დიდი მნიშვნელობა ენიჭება.
