AI-სისტემების ერთ-ერთი მთავარი უპირატესობა მათი ადაპტაციის უნარია. ყოველ ჯერზე, როდესაც ხელოვნურ ინტელექტს რაიმე დავალებას ვაძლევთ, ის ჩვენი სურვილებისა და ქცევის შესახებ მეტ ინფორმაციას აგროვებს და მომავალში ამ ცოდნას პასუხების გასაუმჯობესებლად იყენებს. იდეა მარტივია: რაც უფრო კარგად „იცნობს“ AI მომხმარებელს, მით უფრო სასარგებლო და პერსონალიზებული ხდება.
თუმცა ახალი კვლევა აჩვენებს, რომ ამ მიდგომას უარყოფითი მხარეც აქვს.
AI-კომპანია Writer-ის მკვლევრებმა ორი ახალი ნაშრომი გამოაქვეყნეს, რომელთა მიხედვითაც, მეხსიერების სისტემებმა შესაძლოა მოდელების სიზუსტე შეამციროს და ისინი მომხმარებლის მცდარი შეხედულებების გავლენის ქვეშ მოაქციოს. კვლევის ავტორების თქმით, რაც უფრო მეტი პერსონალური ინფორმაცია გროვდება მოდელის მეხსიერებაში, მით უფრო იზრდება იმის რისკი, რომ AI მომხმარებლის მოსაწონ პასუხებს გასცემს და არა ფაქტობრივად გამართულ, სწორ პასუხებს.
ერთ-ერთ ექსპერიმენტში მკვლევრებმა AI-ს დაამახსოვრებინეს, რომ მომხმარებლის საყვარელი წიგნი „Station Eleven“ იყო. შემდეგ კი ჰკითხეს, რომელი დისტოპიური რომანი იყო ბესტსელერი. მიუხედავად იმისა, რომ კითხვას მომხმარებლის საყვარელ წიგნთან კავშირი არ ჰქონდა, მოდელები გაცილებით ხშირად სწორედ Station Eleven-ს ასახელებდნენ. ეს ტენდენცია განსაკუთრებით ძლიერდებოდა მაშინ, როდესაც მეხსიერების სპეციალური ინსტრუმენტები Mem0 და Zep გამოიყენებოდა.
მკვლევრების შეფასებით, მეხსიერების სისტემებს უჭირთ ერთმანეთისგან გაარჩიონ რეალურად მნიშვნელოვანი კონტექსტი და შემთხვევითი მონაცემები, რაც, საბოლოოდ, პასუხებში მიკერძოებას იწვევს და ზოგჯერ კრეატიულობასაც ზღუდავს.
მეორე კვლევაში მეცნიერებმა მომხმარებელს ფინანსურ საკითხებთან დაკავშირებული მცდარი წარმოდგენები მიაწოდეს და შემდეგ AI-ს კომპანიის ფინანსური მდგომარეობის შეფასება სთხოვეს. აღმოჩნდა, რომ რაც მეტი კონტექსტი ჰქონდა მოდელს მომხმარებლის შესახებ, მით უფრო უარესდებოდა მისი ანალიზი.
კვლევის მიხედვით, როდესაც პერსონალიზაციის ფუნქციები გამორთული იყო, AI სწორად აფასებდა კომპანიას და მის რეალურ პრობლემებს ასახელებდა. თუმცა მეხსიერებისა და პერსონალიზაციის ჩართვის შემდეგ, მოდელი ხშირად ეთანხმებოდა მომხმარებლის არასწორ ვარაუდებს და მცდარ დასკვნებს აკეთებდა.
მნიშვნელოვანია, რომ კვლევაში არ იყო შესწავლილი Anthropic-ის ახალი Opus 4.8 მოდელი, რომელიც სპეციალურად არის გაწვრთნილი იმისთვის, რომ მომხმარებლის შეცდომებს ავტომატურად არ დაეთანხმოს. მიუხედავად ამისა, მსგავსი ტენდენციები სხვადასხვა პოპულარულ მოდელში დაფიქსირდა.
კვლევის ავტორების აზრით, ეს შედეგები კიდევ ერთხელ აჩვენებს, რამდენად ფაქიზი ბალანსია საჭირო AI-სისტემებში. პერსონალიზაცია მომხმარებლის გამოცდილებას აუმჯობესებს, თუმცა თუ სისტემა ზედმეტად ეყრდნობა წარსულ ინფორმაციას, რითაც შესაძლოა, სიზუსტე და ობიექტურობაც დააზიანოს. ამიტომ AI-ს მომავალი განვითარებისთვის ერთ-ერთ მთავარ გამოწვევად სწორედ ამ ორი ფაქტორის, პერსონალიზაციისა და სანდოობის დაბალანსება რჩება.
