ჯანდაცვის სფეროს ტერმინოლოგიისა და განმარტებების გაგება საკმაოდ რთულია ხელოვნური ინტელექტისთვის, რომელიც მართალია, იდეალურად სწრაფია, მაგრამ სერიოზულად ბორძიკობს ნიუანსებში. ეს განსაკუთრებით საგანგაშოა იმ ფონზე, თუ რა სისწრაფით ინერგება მედიცინაში ისეთი ზოგადი დანიშნულების სისტემები, როგორებიცაა ChatGPT, Claude და Gemini. მართალია, ისინი ბრწყინვალედ უმკლავდებიან ტრადიციულ ბიზნესკომუნიკაციებს და მარტივად აკავშირებენ სხვადასხვა სფეროს ინფორმაციას, მაგრამ სამედიცინო გადაწყვეტილებების მიღების სპეციფიკური, ურთულესი ჩარჩოს გააზრება უჭირთ.
სტენფორდის უნივერსიტეტისა და ჟურნალ Nature Medicine-ის უახლესი კვლევებიც ადასტურებს, რომ მიუხედავად უდიდესი პოტენციალისა, ენობრივი მოდელები ჯერ მზად არ არიან ავტონომიური კლინიკური გადაწყვეტილებების მისაღებად, რადგან ხშირად უშვებენ კონტექსტურ შეცდომებს და სტრუქტურირებულ ადამიანურ ზედამხედველობას საჭიროებენ.
პაციენტის ელექტრონული ისტორია ზოგჯერ 20,000 გვერდსაც კი მოიცავს. მისი რამდენიმე წამში შეჯამება, არასრული დოკუმენტაციის აღმოჩენა და ალტერნატიული დიაგნოზების შეთავაზება ექიმებისთვის უდიდესი შვებაა.
მაგრამ ჯანდაცვაში ყველაზე კრიტიკული პროცესები სწორედ იქ მიმდინარეობს, სადაც ექიმები და მზღვეველები მკურნალობის აუცილებლობაზე მსჯელობენ, ან როცა სხვადასხვა დარგის სპეციალისტები ერთმანეთის მიგნებებს აანალიზებენ. ამ დროს მხარეები მხოლოდ განსხვავებული პერსპექტივებიდან კი არ საუბრობენ, არამედ იყენებენ ენას, რომელიც კონკრეტულად მათი პროფესიული დისციპლინისთვის არის დამახასიათებელი. სწორედ აქ განიცდიან კრახს ზოგადი ენობრივი მოდელები.
წინასწარი ავტორიზაციის პროცესში, როცა სადაზღვევო წყვეტს, დააფინანსოს თუ არა კონკრეტული მკურნალობა, ხელოვნური ინტელექტის ტესტირებამ დამაფიქრებელი შემთხვევა გამოავლინა, როგორებიცაა:
არასწორი დანიშნულება კისრის ტკივილისას: პაციენტს კისრის ტკივილითა და ხელის სისუსტით მოდელმა კონსერვატიული მკურნალობა დაუნიშნა. არადა, ნევროლოგიურ შეფასებაში მითითებული იყო „მკვეთრად დადებითი ჰოფმანის რეფლექსი“. ეს ზურგის ტვინის კომპრესიის ნიშანი და სასწრაფო კვლევის უტყუარი საფუძველია. AI-მ ეს „წითელი ალამი“ უბრალოდ ვერ ამოიცნო.
მძიმე ასთმის ვერშემჩნევა: პაციენტს 12 თვის განმავლობაში 3-ჯერ ჰქონდა დანიშნული სტეროიდი. ალგორითმმა მკურნალობის გაძლიერებაზე უარი თქვა, რადგან ექიმის ჩანაწერში პირდაპირ არსად ეწერა სიტყვა „მძიმე ასთმა“. რეალურად, პულმონოლოგი მაშინვე მიხვდებოდა, რომ წელიწადში 3-ჯერ სტეროიდების დანიშვნა თავისთავად ნიშნავს მძიმე დაავადებას და ბიოლოგიურ თერაპიას მოითხოვს.
ეს მაგალითები აჩვენებს ფუნდამენტურ გამოწვევას: ზოგად AI-ს არ ესმის, რომ ჯანდაცვის ენა ათობით სპეციალიზებული დიალექტისგან შედგება, სადაც კრიტიკული დეტალები ხშირად პირდაპირ არ იწერება, რადგან იმ კონკრეტულ სფეროში ისედაც „ყველამ იცის“.
კლინიკების მენეჯერები ხშირად ხედავენ შთამბეჭდავ პრეზენტაციებს, სადაც AI უშეცდომოდ აჯამებს ისტორიას და ჰგონიათ, რომ ეს ტექნოლოგია ყველა მიმართულებით ერთნაირად წარმატებით იმუშავებს. ისინი ვერ აცნობიერებენ, რომ მოდელმა, რომელიც კარდიოლოგიაში იდეალურია, ონკოლოგიაში შეიძლება კატასტროფული შეცდომა დაუშვას.
ეს ხარვეზები ხშირად უხილავია, სანამ პაციენტამდე არ მივა ან ძვირადღირებულ დავას არ გამოიწვევს. შედეგად, სამედიცინო პერსონალი ინოვაციას ეწინააღმდეგება. ექიმები, რომლებსაც წლების განმავლობაში უნახავთ კლინიკური რეალობისგან აცდენილი IT სისტემები, ტექნოლოგიის მტრები კი არ არიან, უბრალოდ სამართლიანად არ ენდობიან სისტემას, რომელსაც მათი სპეციფიკა არ ესმის.
როგორ ვასწავლოთ AI-ს სამედიცინო ენა?
მოდელებს ისევე უნდა მივუდგეთ, როგორც კლინიკები უდგებიან რეზიდენტებს – ისინი ნიჭიერები არიან, მაგრამ სტრუქტურირებულ და მკაცრ ზედამხედველობას საჭიროებენ. ამისთვის 5 ძირითადი ნაბიჯის გადადგმაა საჭირო:
მოითხოვეთ მტკიცებულება და ციტირება. AI-მ ყოველი თავისი დასკვნა კონკრეტულ სამედიცინო ჩანაწერს უნდა დაუკავშიროს. ლამაზად შეფუთული, მაგრამ დაუსაბუთებელი რეზიუმეები საშიშია. ექიმს უნდა შეეძლოს ლოგიკის ჯაჭვის გადამოწმება.
კლინიკური ზედამხედველობა. აიღეთ საბაზისო ენობრივი მოდელი და უშუალოდ ექიმების დახმარებით ასწავლეთ მას კონკრეტული სპეციალობის ლოგიკა. ეს AI-ის ერთგვარი კლინიკური ინტერნატურაა.
დააბალანსეთ სისწრაფე და რისკი. მიანდეთ ალგორითმს რუტინული საქმეები, მაგრამ რთულ, კომპლექსურ შემთხვევებში აუცილებლად დატოვეთ ადამიანის კონტროლის ეტაპი, თუნდაც ამან პროცესი დროებით შეანელოს.
შეინახეთ. სისტემამ უნდა ჩაიწეროს, რა მონაცემები გამოიყენა და რა ლოგიკით მივიდა დასკვნამდე, რათა შეცდომის შემთხვევაში ტექნიკურმა გუნდმა მიზეზის პოვნა და ალგორითმის გამოსწორება შეძლოს.
შექმენით უწყვეტი უკუკავშირის მარყუჟი: როდესაც ექიმი შეასწორებს მოდელის შეცდომას, ეს ინფორმაცია ავტომატურად უნდა აისახოს სისტემის სამომავლო მეხსიერებაში.
წყარო: HBR; www.marketer.ge
