Anthropic-მა მოდელის იდენტობის დასადასტურებელი სისტემა შეიმუშავა
როგორც სამშაბათს გამოქვეყნებული ბლოგპოსტიდან ირკვევა, კომპანია Anthropic-ი მუშაობს ღია კოდის სისტემაზე, რომელიც ამოწმებს, თუ კონკრეტულად რომელმა AI მოდელმა აწარმოა მოცემული პასუხი. ახალი სისტემა, სახელწოდებით FlashProve, შექმნილია იმისათვის, რომ უზრუნველყოს ე.წ. „დამტკიცებადი ინფერენსი“ (provable inference) — კრიპტოგრაფიული მტკიცებულება ანუ მათემატიკური გარანტია იმისა, რომ კონკრეტული პასუხი ნამდვილად სპეციფიკური მოდელისგან მიიღეს.
როგორ მუშაობს FlashProve სისტემა
ელექტრონული ფოსტის კრიპტოგრაფიული ხელმოწერების მსგავსად, რომლებიც მიმღებს უდასტურებს, რომ შეტყობინება ნამდვილად მითითებული გამგზავნისგანაა, FlashProve მზად არის წინააღმდეგობა გაუწიოს იმპოსტორებს. სისტემა გამორიცხავს მცდელობებს, როდესაც ერთი მოდელი მეორედ არის გაყალბებული — მაშინაც კი, თუ ეს მცდელობა იმ ლაბორატორიისგან მოდის, რომელმაც ის შექმნა და უშვებს. მკვლევარები აღნიშნავენ, რომ ეს მიდგომა ხელს შეუშლის კომპანიებს, ფარულად ჩაანაცვლონ მოდელი უფრო იაფით ხარჯების დასაზოგად, ან ძვირადღირებით მისი მუშაობის შედეგების გასაბერად.
სისტემა მესამე მხარის მიერ გავრცელებული განცხადებების გადამოწმებასაც ემსახურება. მაგალითად, თუ დეველოპერი ამტკიცებს, რომ მისი პროგრამული ბიბლიოთეკა მოწინავე კიბერუსაფრთხოების მოდელით შემოწმდა, ან კომპანია აცხადებს, რომ მისი ბიზნესგეგმა სათანადო მოდელმა მოიწონა, მომხმარებელს მათი გადამოწმების საშუალება ეძლევა.
ტექნიკური მახასიათებლები და ხელმისაწვდომობა
მუშაობისთვის სისტემა მოითხოვს, რომ ლაბორატორიებმა გამოაქვეყნონ თითოეული გამოშვებული მოდელის „ანაბეჭდი“ (fingerprint), რომელიც მოგვიანებით კონკრეტულ პასუხებს ემთხვევა და კრიპტოგრაფიულად მოწმდება. ანაბეჭდები არ ასაჯაროებს მოდელის წონებს — შინაგან ციფრებს, რომლებიც მის ქცევას განსაზღვრავს და რომლებსაც ისეთი დახურული მოდელების შემქმნელები, როგორებიცაა Anthropic-ი და OpenAI, საიდუმლოდ ინახავენ. შედეგად, ლაბორატორიებს შეუძლიათ ანაბეჭდების გამოქვეყნება თავიანთი ყველაზე ძვირფასი აქტივის დათმობის გარეშე, რაც სისტემას კომერციულ მოდელებთან გამოსაყენებლადაც ამზადებს. გარდა ამისა, სისტემა მსუბუქია, ამიტომ მისი გადამოწმება ადგილობრივ მოწყობილობაზეც ხორციელდება.
განცხადების ფარგლებში მკვლევარებმა დეტალური ტექნიკური სპეციფიკაცია და სამუშაო კოდი გამოაქვეყნეს, რომელიც საჯაროდ ხელმისაწვდომია ღია ლიცენზიით GitHub-ზე. როგორც მკვლევარები აღნიშნავენ, კვლევა გრძელდება და Anthropic-ს ან სხვა ლაბორატორიას მისი დანერგვის გეგმები ამჟამად არ აქვს. ეს პოსტი ემსახურება შუალედური პროგრესის გაზიარებას და არა დასრულებულ კვლევით დღის წესრიგს.
რას ნიშნავს ეს ჩვენთვის
ჩვეულებრივი მომხმარებლისთვის და დეველოპერებისთვის მსგავსი ტექნოლოგიები პოტენციურად ამცირებს გაურკვევლობას იმის შესახებ, თუ რეალურად რომელი AI მოდელის სერვისით სარგებლობენ ისინი. თუმცა, რადგან სისტემა ჯერ მხოლოდ კვლევით ფაზაშია და მისი დანერგვა უახლოეს პერიოდში არ იგეგმება, მომხმარებლებმა ჯერჯერობით მხოლოდ ლაბორატორიების კეთილსინდისიერებას უნდა ენდონ.
წყარო: TechCrunch
