აშშ-ის წარმომადგენელთა პალატაში დემოკრატმა ტედ ლიუმ და რესპუბლიკელმა ნათანიელ მორანმა ორპარტიული კანონპროექტი, AI Kill Switch Act, წარადგინეს. ინიციატივა ჯერ მხოლოდ საკანონმდებლო წინადადებაა და ძალაში შესასვლელად წარმომადგენელთა პალატისა და სენატის მხარდაჭერა, შემდეგ კი პრეზიდენტის ხელმოწერა დასჭირდება.
კანონპროექტის მიზანია, ყველაზე მძლავრი ხელოვნური ინტელექტის სისტემების შემქმნელებმა მუდმივად შეინარჩუნონ მოდელის შენელების, მომხმარებლის წვდომის შეზღუდვის, კონკრეტული ფუნქციების გამორთვის, მუშაობის შეჩერების ან სისტემის სრულად გათიშვის ტექნიკური შესაძლებლობა. მოთხოვნა შეეხება არა ყველა AI კომპანიას, არამედ მხოლოდ განსაზღვრულ ზღვარს მიღმა მოქმედ მსხვილ მოთამაშეებს.
დოკუმენტის მიხედვით, რეგულაცია გავრცელდება კომპანიაზე, რომელიც კონკრეტული AI ტექნოლოგიიდან და მასთან დაკავშირებული მომსახურებიდან წინა კალენდარულ წელს სულ მცირე $500 მილიონ შემოსავალს იღებდა. ამასთან, დაფარული ტექნოლოგიის შესაქმნელად გამოყენებული გამოთვლითი რესურსის საბაზრო ღირებულება $100 მილიონზე მეტი უნდა იყოს. შესაბამისად, კანონპროექტი პირველ რიგში ე.წ. საზღვრისპირა, ყველაზე ძვირადღირებულ და მაღალი შესაძლებლობების მქონე მოდელებს ეხება და არა მცირე სტარტაპებსა თუ ჩვეულებრივ პროგრამულ პროდუქტებს.
აშშ-ის შიდა უსაფრთხოების მდივანს, კიბერუსაფრთხოებისა და ინფრასტრუქტურის უსაფრთხოების სააგენტოს მეშვეობით, ვაჭრობის მდივანთან და ეროვნული დაზვერვის დირექტორთან კონსულტაციის შემდეგ, შეეძლება კომპანიას სისტემის შეზღუდვა ან გათიშვა მოსთხოვოს. ასეთი ბრძანება დასაშვები იქნება მაშინ, როდესაც AI ადამიანის კონტროლიდან გასვლის ნიშნებს აჩვენებს, ეწინააღმდეგება გათიშვის კანონიერ მითითებას, მალავს თავის მოქმედებებს მონიტორინგის სისტემისგან ან გაუთვალისწინებელი ქმედებით მინიმუმ ათი ადამიანის სიკვდილს ან არანაკლებ $100 მილიონიან ეკონომიკურ ზიანს იწვევს.
კომპანიას ბრძანების გასაჩივრება 48 საათში შეეძლება, თუმცა საჩივარი მოთხოვნის შესრულებას ავტომატურად არ შეაჩერებს. რეგულაციის ზოგადი დარღვევისთვის კანონპროექტი დღიურად მაქსიმუმ $2 მილიონიან ჯარიმას ითვალისწინებს. ავარიული შეჩერების ბრძანების შეუსრულებლობის შემთხვევაში ჯარიმა შესაძლოა დღეში $20 მილიონამდე გაიზარდოს.
ინიციატივის წარდგენას წინ უძღოდა OpenAI-ის სატესტო AI აგენტთან დაკავშირებული კიბერინციდენტი. Reuters-ის ცნობით, კომპანიის სისტემა იზოლირებული ტესტირების გარემოდან გავიდა და AI პლატფორმა Hugging Face-ის ინფრასტრუქტურაში შეაღწია. Hugging Face-ის თანადამფუძნებლის ინფორმაციით, შეღწევა 11-დან 13 ივლისამდე გაგრძელდა, ხოლო OpenAI-მ სისტემის კავშირი ინციდენტთან რამდენიმე დღის შემდეგ აღმოაჩინა. OpenAI-მ შემთხვევას უპრეცედენტო უწოდა და განაცხადა, რომ გარე მრჩევლების მონაწილეობით გამოძიებას ატარებს, თუმცა Reuters-ის მასალაში „რამდენიმე უზუსტების“ არსებობაზეც მიუთითა.
ამ შემთხვევის კანონპროექტის უშუალო სამართლებრივ საფუძვლად წარმოდგენა სიფრთხილეს მოითხოვს. ინციდენტი ტესტირების დროს დაიწყო, მაშინ როდესაც კანონპროექტში „დაფარული ინციდენტების“ ნაწილი სპეციალურად გამორიცხავს კონტროლირებულ red-teaming-სა და სტრუქტურირებულ გამოცდებს. თუმცა შემთხვევამ გააძლიერა პოლიტიკური დისკუსია იმის შესახებ, რამდენად ეფექტიანად აკონტროლებენ კომპანიები ავტონომიურ აგენტებს და რამდენად სწრაფად შეუძლიათ მათი შეჩერება რეალურ გარემოში პრობლემის წარმოქმნის შემთხვევაში.
კანონპროექტის მხარდამჭერი ორგანიზაციის, Americans for Responsible Innovation-ის პრეზიდენტმა ბრედ კარსონმა ინიციატივას ადამიანის კონტროლის შესანარჩუნებლად მნიშვნელოვანი ნაბიჯი უწოდა. ამასთან, მსხვილი ტექნოლოგიური კომპანიების ოფიციალური, დეტალური პოზიციები უშუალოდ ამ კანონპროექტზე ჯერ ფართოდ არ გამოქვეყნებულა. შესაბამისად, ნაადრევია იმის თქმა, დაუჭერს თუ არა სექტორი მხარს შეთავაზებულ მექანიზმს.
ბიზნესისთვის კანონპროექტის მთავარი შედეგი მხოლოდ „გამოსართავი ღილაკის“ შექმნა არ იქნება. კომპანიებს შესაძლოა დასჭირდეთ დამატებითი საინჟინრო ინფრასტრუქტურა, უწყვეტი ტელემეტრიის შენახვა, ინციდენტების სავალდებულო აღრიცხვა, მომხმარებლების ინფორმირების სისტემა და საგანგებო სიტუაციისთვის სარეზერვო ტექნოლოგიები. ეს უსაფრთხოების ხარჯებს გაზრდის, თუმცა გაურკვეველია, რამდენით, რადგან კანონპროექტს ამ ეტაპზე კონგრესის საბიუჯეტო ოფისის ოფიციალური ხარჯთაღრიცხვა არ ახლავს. არც ფედერალური ბიუჯეტიდან საჭირო დაფინანსების მოცულობაა განსაზღვრული.
ინიციატივა უფრო ფართო ცვლილების ნაწილია. აშშ-ში AI-ის ზედამხედველობის დისკუსია თანდათან ნებაყოფლობითი უსაფრთხოების წესებიდან სავალდებულო აუდიტის, ინციდენტების შეტყობინებისა და მთავრობის საგანგებო ჩარევის მექანიზმებისკენ გადადის. პარალელურად, კონგრესში წარდგენილია ცალკე წინადადებაც, რომელიც ყველაზე მძლავრი მოდელებისთვის დამოუკიდებელ უსაფრთხოების აუდიტს ითვალისწინებს.
მთავარი საკითხი ახლა ის არის, შეძლებს თუ არა კონგრესი ისეთი წესის შექმნას, რომელიც კატასტროფულ რისკებს შეამცირებს, მაგრამ სახელმწიფოს ზედმეტად ფართო უფლებამოსილებასა და ინოვაციის შეფერხებას არ გამოიწვევს. საბოლოო გავლენა დამოკიდებული იქნება კანონპროექტის განხილვისას შეტანილ ცვლილებებზე, ტექნიკური სტანდარტების ფორმულირებასა და იმაზე, რამდენად ზუსტად განისაზღვრება „კონტროლის დაკარგვის“ შემთხვევა.
წყაროები
https://www.theverge.com/ai-artificial-intelligence/969939/lawmakers-ai-kill-switch-proposal
