Anthropic-მა ხელოვნური ინტელექტის უსაფრთხოების კანონპროექტი წარადგინა
ხელოვნური ინტელექტის სფეროში უსაფრთხოების ზომებთან დაკავშირებით განხილვები გრძელდება და ახლა, როგორც ჩანს, კომპანია Anthropic-მა მთავრობის მიერ ინდუსტრიის რეგულირების საკუთარი ხედვა წარმოადგინა. გავრცელებული ცნობებით, ხელოვნური ინტელექტის ლაბორატორია ავრცელებს ახალ კანონპროექტს უსაფრთხოების შესახებ, რომლის განხილვასაც კონგრესისგან სავარაუდოდ მოითხოვს. კანონმდებლობა განსაზღვრავს გარკვეულ სценариев, რომლებშიც კონკრეტული AI მოდელი შეიძლება გავრცელდეს აკრძალული იყოს.
კატასტროფული რისკები და 50 ადამიანის ზღვარი
როგორც ტექსტშია აღნიშნული, ეს სცენარები მოიცავს „მოსალოდნელ, უშუალო რისკს“ — როდესაც 50-ზე მეტი ადამიანის დაღუპვის საფრთხე არსებობს ან შესაძლებელია მილიარდ დოლარზე მეტი ქონებრივი ზიანი დადგეს. აღნიშნული კატასტროფული რისკი აუცილებლად უნდა „უკავშირდებოდეს ბიოლოგიური იარაღის შექმნასა თუ გამოშვებას, მოდელის მიერ მისი დეველოპერის მართვის სისტემების (harness) გვერდის ავლით კონტროლს ან კიბერთავდასხმას“. შემოთავაზებული მეტრიკა — 50 ადამიანი და ერთი მილიარდი დოლარი — ჰგავს კალიფორნიის ახლახან მიღებულ კანონპროექტს, სენატის მე-53 კანონს, რომელმაც მსგავსი სცენარები „კატასტროფულ რისკად“ განსაზღვრა.
დამოუკიდებელი შემფასებლები და 72-საათიანი ვადა
Anthropic-ის კანონპროექტის თანახმად, მოდელის კატასტროფული პოტენციალის ანალიზი შეიძლება განხორციელდეს აშშ-ის კომერციის დ Departament-ში რეგისტრირებული „დამოუკიდებელი შემფასებლების“ მეშვეობით. ეს შემფასებლები შესაძლოა თავად ხელოვნური ინტელექტის ლაბორატორიებმა დააფინანსონ, იმ პირობით, რომ „გადახდა არ იქნება დამოკიდებული შეფასების შედეგებზე“. კანონპროექტის მიხედვით, თუ შემფასებლები დაასკვნიან, რომ მოსალოდნელია უშუალო კატასტროფული რისკი, მათ 72 საათი ექნებათ კომერციის დეპარტამენტთან დასაკავშირებლად. ამის შემდეგ კომერციის დეპარტამენტმა ვაშინგტონის, დ.კ.-ს მოსამართლეს უნდა სთხოვოს მოდელის გამოშვების შეჩერება.
რას ნიშნავს ეს ჩვენთვის
ქართველი და ზოგადად საზოგადოებისთვის მსგავსი ინიციატივები მნიშვნელოვანია იმ კუთხით, რომ გლობალური ტექნოლოგიური გიგანტები ცდილობენ მკაცრი სამართლებრივი ჩარჩოების შექმნას ოდესმე შესაძლო ყველაზე მძიმე შედეგების ასაცილებლად. მიუხედავად იმისა, რომ ლაბორატორიები ზოგჯერ წინააღმდეგნი არიან სავალდებულო სახელმწიფო ზედამხედველობისა და ურჩევნიათ ნებაყოფლობითი სისტემები, Anthropic-ის მიერ შემოთავაზებული კანონპროექტი აჩვენებს ინდუსტრიის შიგნით არსებულ მცდელობებს პასუხისმგებლობის გაზრდისკენ. თუმცა, როგორც წყაროდან ჩანს, ჯერ კიდევ ბუნდოვანია, რამდენად შეძლებს შემოთავაზებული სისტემა გარე გავლენების გამორიცხვას და როგორ აისახება ეს ტექნოლოგიების მომავალ განვითარებაზე.
წყარო: TechCrunch
