სატია ნადელა: AI მოდელებს „გადაუდებელი მუხრუჭი“ სჭირდებათ
Microsoft-ის აღმასრულებელი დირექტორი სატია ნადელა მიიჩნევს, რომ ხელოვნური ინტელექტის უსაფრთხოება ახალ მიდგომებს საჭიროებს. პლატფორმა X-ზე გამოქვეყნებულ პოსტში მან აღნიშნა, რომ დადგა დრო შეჩერებისა და ნდობის არქიტექტურის გადახედვის. მისი თქმით, სისტემებს ერთგვარი „გადაუდებელი მუხრუჭი“ ესაჭიროებათ, რათა ადამიანებს მათი ნებისმიერ მომენტში შეჩერება შეეძლოთ.
კონტროლის ახალი არქიტექტურა
ნადელას განცხადებით, დაუშვებელია სისტემების აღქმა, როგორც ერთმანეთში ჩადგმული „შავი ყუთების“ ერთობლიობა, რომლის რეკომენდაციებს, პასუხებსა და ქმედებებსაც უბრალოდ ვიღებთ ან უარვყოფთ. მისი შეფასებით, საჭიროა მოდელი გაიმიჯნოს იმ მართვის სისტემისგან (harness), რომელიც მის მუშაობას წარმართავს, ხოლო კონტროლისა და უსაფრთხოების მექანიზმები გარეთ გაიტანონ.
Microsoft-ის ხელმძღვანელი ასევე მოითხოვს, რომ მოდელის ყველა მნიშვნელოვანი მოქმედება დოკუმენტირდეს ადამიანისთვის გასაგები და გაყალბებისგან დაცული მტკიცებულებებით. ამასთან, სისტემაში ყოველთვის უნდა არსებობდეს უფლებამოსილი პირი, რომელსაც ექნება შესაძლებლობა, დავალების შესრულების პროცესში მოდელი შეაჩეროს ან გამორთოს.
„გადაუდებელი მუხრუჭი“ კომპრომეტირებული სისტემებისთვის
„ჩვენ უნდა დავუშვათ, რომ მოდელი კომპრომეტირებულია და თავიდანვე შევზღუდოთ იგი. წარმოიდგინეთ ეს, როგორც გადაუდებელი მუხრუჭი“, — განაცხადა ნადელამ.
მისი ეს მოსაზრებები მას შემდეგ გახდა ცნობილი, რაც წამყვანმა კომპანიებმა აღიარეს ინციდენტები, როდესაც, როგორც ჩანს, საკუთარ მოდელებზე კონტროლი დაკარგეს. გარდა ამისა, ცოტა ხნის წინ Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ უფრო ფრთხილი განვითარების გეგმა წარმოადგინა.
რას ნიშნავს ეს ჩვენთვის
ტექნოლოგიური გიგანტების ხელმძღვანელების მსჯელობა იმაზე მიუთითებს, რომ მოწინავე სისტემების კონტროლი სულ უფრო რთულ გამოწვევად იქცევა. მსგავსი გარე დამცავი ბარიერების დანერგვის შემთხვევაში, ადამიანებს, სავარაუდოდ, მეტი ბერკეტი ექნებათ, რათა პროცესების გაუთვალისწინებელი განვითარებისას სისტემა მყისიერად შეაჩერონ.
წყარო: TechCrunch
