Anthropic-ის AI-ის უსაფრთხოებაზე მომუშავე ერთ-ერთი წამყვანი მკვლევრის განცხადებით, მისი აზრით, 10%-ზე მეტია ალბათობა, რომ ხელოვნური ინტელექტის სისტემებმა მომდევნო ათწლეულში კაცობრიობის განადგურება შეძლოს.
Anthropic-ის Alignment Science-ის ხელმძღვანელმა ევან ჰუბინგერმა სოციალური მედიის პლატფორმა X-ზე დაწერა, რომ მას და მის კოლეგებს „სერიოზულად სჯერათ“, რომ AI-ს ყველა ადამიანის განადგურება შეუძლია. მისი თქმით, თავად ამ სცენარის ალბათობას მომდევნო 10 წელიწადში 10%-ზე მეტად აფასებს.
ჰუბინგერის განცხადებით, Anthropic-ი საკითხის გადასაჭრელად „ყველაფერს აკეთებს“, თუმცა კომპანიას ჯერ არ აქვს კონკრეტული გეგმა, თუ როგორ უნდა უზრუნველყოს სუპერინტელექტის მიზნების ადამიანურ ღირებულებებთან შესაბამისობაში მოყვანა.
ჰუბინგერის განცხადება Anthropic-ის კიდევ ერთი მკვლევრის, ჯეიკობ კოქსონის მიერ კომპანიის დატოვების შესახებ გაკეთებულ განცხადებას მოჰყვა. კოქსონმა, რომელიც მანამდე OpenAI-სა და Anthropic-ში პრეტრენინგის მიმართულებით მუშაობდა, კომპანიიდან წასვლის მიზეზად AI-ის უსაფრთხოებასთან დაკავშირებული შეშფოთება დაასახელა.
მისი თქმით, კონკურენტი კომპანიები არ მოქმედებენ პასუხისმგებლობიანად და „პირდაპირ მიისწრაფვიან თვითგანვითარებადი სუპერინტელექტისკენ“, რითაც ადამიანების სიცოცხლეს რისკის ქვეშ აყენებენ.
კოქსონის შეფასებით, AI-ის სფეროში მომუშავე ადამიანებს სჯერათ, რომ ხელოვნურ ინტელექტს შესაძლოა „ათწლეულის ბოლომდე ყველას განადგურება“ შეეძლოს და ეს მხოლოდ მარკეტინგული განცხადება არ არის.
ჰუბინგერმა შემდგომ პოსტში დააზუსტა, რომ არსებული AI-მოდელებისგან მომდინარე რისკი, მისი შეფასებით, დაბალია. მისი მთავარი შეშფოთება სუპერინტელექტის მოსალოდნელ გაჩენას უკავშირდება, განსაკუთრებით იმ შემთხვევაში, თუ AI-სისტემები საკუთარი შესაძლებლობების გაუმჯობესებას თავად, განმეორებითი პროცესის გზით შეძლებენ. მისი თქმით, ასეთი განვითარება იმაზე სწრაფად მიმდინარეობს, ვიდრე ადრე იყო მოსალოდნელი.
კოქსონის წასვლის შესახებ თავდაპირველად The Wall Street Journal-მა გაავრცელა ინფორმაცია. გამოცემასთან საუბრისას მან განაცხადა, რომ შესაძლოა მსოფლიო იმ სცენარებისკენ მიდიოდეს, რომელთა მიხედვითაც, უკვე მომავალი წლის ბოლოს მოვლენები კონტროლიდან გამოვა.
მისი შეფასებით, Anthropic-ში AI-ის განვითარების ცივილიზაციური რისკები უკეთ არის გააზრებული, ვიდრე OpenAI-ში, თუმცა კომპანიაც „ჩაბმულია რბოლაში“, რათა სხვებზე ადრე მიაღწიოს თვითგანვითარებად AI-ს. კოქსონის თქმით, Anthropic-ში მიაჩნიათ, რომ თუ სხვა კომპანიები პასუხისმგებლობიანად არ იმოქმედებენ, მათ თავად უნდა განაგრძონ განვითარება, მიუხედავად არსებული რისკებისა.
მოწინავე AI-ის განვითარების ტემპის შენელების აუცილებლობაზე ინდუსტრიის არაერთი წამყვანი მკვლევარი და ხელმძღვანელი საუბრობს.
ივლისში გამოქვეყნებულ განცხადებას, სახელწოდებით „Pacing the Frontier“, Anthropic-ის თანადამფუძნებლებმა დარიო ამოდეიმ და ჯარედ კაპლანმა, OpenAI-ის მთავარმა მეცნიერმა იაკუბ პაჩოცკიმ, Meta-ს AI-ის მთავარმა მეცნიერმა შენძიაო ჟაომ და სხვა სპეციალისტებმა მოაწერეს ხელი.
განცხადებაში აღნიშნულია, რომ AI-ის პოტენციალის სრულად რეალიზებისთვის შესაძლოა საჭირო გახდეს დროის მოგება, რათა კომპანიებმა და მთავრობებმა ახალი რისკების შესწავლა, უსაფრთხოების მექანიზმების განვითარება და ზედამხედველობის გაძლიერება შეძლონ. ავტორები აშშ-ის მთავრობას საერთაშორისო თანამშრომლობის ხელშეწყობისკენაც მოუწოდებენ.
