კომპიუტერში შეღწევა 1 280 დოლარი ღირს. იმის დამტკიცება, რომ მართალს ამბობ — ბევრად ძვირი

ხუთშაბათს OpenAI-მ ახალ მოდელს, GPT-6 Cyber-ს, საკუთარი შეფასების სისტემით უმაღლესი შეფასება მისცა: კიბერუსაფრთხოებაში „კრიტიკული“. იმავე დღეს მოდელი წინასწარ შემოწმებულ კლიენტებს გადასცა. ერთი დღით ადრე კი ანგარიში გამოაქვეყნა: Linux-ის 948 სხვადასხვა ხარვეზისთვის მოქმედი ექსპლოიტი 1 213 430 დოლარი დაჯდა — თითო დაახლოებით 1 280 დოლარი. კომპიუტერში შეღწევა დღეს ოთხნიშნა თანხა ღირს, შემოწმების ყველა ახალი ხელსაწყო კი ან ძვირია, ან ცოტა რამეს ამოწმებს, ან მისი მტკიცებულება დამალულია.

სამი წელი ასე ვკითხავდით: შეძლებს თუ არა ხელოვნური ინტელექტი კომპიუტერში დამოუკიდებლად შეღწევას? ამ კვირაში ამ კითხვას პასუხი გაეცა. მის ადგილას ფასები დარჩა. ფასი მხოლოდ თავდასხმას აწერია, შემოწმებას — არა. დამცველს იმავე ფასად იმავე მოდელის ყიდვა შეუძლია. მხოლოდ ერთს ვერ იყიდის — ლაბორატორიის ნათქვამის გარედან გადამოწმებას.

თავდასხმა უკვე ჩვეულებრივი ხარჯია და იაფი. OpenAI-ის პროექტმა „Patch the Planet“ Linux-ის 948 სხვადასხვა ხარვეზისთვის გააკეთა მოქმედი ექსპლოიტი — მზა პროგრამა, რომელიც ხარვეზით შედის კომპიუტერში. თითო 1 280 დოლარი დაჯდა. ხარვეზების აღმოჩენისთვის დადგენილი ჩვეული ჯილდოებით იგივე სამუშაო 15-55 ჯერ ძვირი დაჯდებოდა. ორი დღის შემდეგ Google DeepMind-ის აგენტებმა ძველ, 1024-ბიტიან RSA-ში ხელმოწერის გაყალბება 3,5 ჯერ გააიაფეს, გასაღებების ჯგუფური გატეხვა კი — თითო დამატებით გასაღებზე დაახლოებით 30 ჯერ. ორივე ჯგუფი ფრთხილად მუშაობდა: იზოლირებული გარემო, კრიპტოგრაფები, რომლებიც სახელით დაასახელეს, შესწორებები პროგრამის დეველოპერებს. ამ კვირაში სიფრთხილე არ გაიაფდა. თავდასხმა გაიაფდა.

კომპიუტერში შეღწევა დღეს ოთხნიშნა თანხა ღირს, შემოწმების ყველა ახალი ხელსაწყო კი ან ძვირია, ან ცოტა რამეს ამოწმებს, ან მისი მტკიცებულება დამალულია.

შემოწმების ყველა ახალ ხელსაწყოს ამ კვირაში თავისი ნაკლი ჰქონდა. FlashProve კრიპტოგრაფიული დასტურია: ამტკიცებს, რომელმა მოდელმა გასცა პასუხი. ის 5 500 ჯერ უფრო სწრაფია, ვიდრე ერთადერთი ღია სისტემა, რომელიც იმავე მოდელზე მუშაობს. მაგრამ თვითონ პასუხის გაცემაზე 70-95 ჯერ მეტ გამოთვლას მოითხოვს და მხოლოდ 1 024 ტოკენამდე მუშაობს. Frontier Model Forum-ის ახალი შეფასების სისტემა, რომელსაც ხუთი დიდი ლაბორატორია უჭერს მხარს, პირველი ვერსიაა. ჯერ უცნობია, ერთსა და იმავე შემთხვევას ორი შემფასებელი ერთნაირად შეაფასებს თუ არა. ორივე ნაბიჯი კარგია. ამ კვარტალში ვერც ერთი ვერ გეტყვის, ვის დაუჯერო.

თვითონ შემმოწმებელი ამბობს, რომ კვირის მთავარ რიცხვს ვერ გადაამოწმებთ. METR-ი თერთმეტი კვირა Anthropic-ის შიგნით მუშაობდა. მისი დასკვნა: კომპანიის შიდა ტესტებში პროგრესი დაახლოებით 1,9 ჯერ უფრო სწრაფია, ვიდრე 2025 წლის ოქტომბრამდე იყო. დაჩქარების დაახლოებით 80% თვითონ ხელოვნურ ინტელექტს უკავშირდება. Anthropic-ს უფლება ჰქონდა, ანგარიშიდან ნაწილები ამოეღო, და METR-ის სიტყვებით, „დაფარა იმ მტკიცებულების უმეტესი ნაწილი, რომელიც ჩვენთვის ყველაზე მნიშვნელოვანი იყო“. ის, რომ METR-მა ეს თვითონ დაწერა, მის სასარგებლოდ მეტყველებს. მთელი პრობლემა სწორედ ესაა: დასკვნა დამოუკიდებელია, მტკიცებულება — არა.

მეორე მხრივ: ექსპლოიტი საკუთარ თავს ამტკიცებს და ამიტომ კვირის ყველაზე სანდო რიცხვები უსაფრთხოებიდან მოდის. გაუშვებ და ან შეაღწევ, ან ვერ შეაღწევ. Mozilla უკვე ასწორებს Firefox-ის 81 ადრე უცნობ სერიოზულ ხარვეზს, Linux-ის დეველოპერები შესწორებებს იღებენ, OpenAI იმავე დონის დაცვას ღია კოდის დეველოპერებისთვისაც ხსნის. ეს იაფია, ნამდვილია და იმათ ხელშია, ვისაც სჭირდება. სწორედ აქედან ჩანს პრობლემის ფორმა. რისი შემოწმებაც მანქანას შეუძლია, ის ამ კვირაში 5 500 ჯერ გაიაფდა. თავად თავდასხმის გაკეთება — 55 ჯერამდე. სხვა მტკიცებებს კი მოწმე სჭირდება: რომ ეს ის მოდელია, რომელიც შეამოწმე; რომ ეს გარღვევა ამდენად საშიშია; რომ ჩვენი კვლევა 1,9 ჯერ აჩქარდა. ასეთი მტკიცება ზუსტად იმდენი ღირს, რამდენ მტკიცებულებასაც შემოწმებული მხარე გაიმეტებს. 1 280 დოლარი კვირის ყველაზე სანდო რიცხვია. 1,9 — ყველაზე მნიშვნელოვანი. ამ ორიდან გარეშე ადამიანი მხოლოდ ერთს შეამოწმებს.

შედეგები და შესაძლებლობები

• საშიშროების შეფასება, რომელიც არაფერს აჩერებს, იარლიყია და არა მუხრუჭი. GPT-6 Cyber საკუთარი შეფასების სისტემით „მაღლიდან“ „კრიტიკულზე“ გადავიდა და იმავე დღეს კლიენტებს გადაეცა. შეფასება მყიდველს ეუბნება, რა უჭირავს ხელში; არავის კი არ ეუბნება, მოიცადოს.
• ხელმოწერის ძველი გასაღებები უკვე ვადაგასულად უნდა ჩაითვალოს. ჯგუფური გატეხვის 30 ჯერ გაიაფება თანამედროვე 2048-ბიტიან RSA-ს არ ეხება. მაგრამ ვადას უდებს ყველაფერს, რაც ჯერ კიდევ 1024 ბიტით აწერს ხელს: ჩაშენებულ მოწყობილობებს, ძველ სერტიფიკატებს, განახლების არხებს.
• ტექსტის ამოღების უფლება დამოუკიდებელ შემოწმებას პრესრელიზად აქცევს. ეს ანგარიში იმიტომ დარჩა პატიოსანი, რომ METR-მა პირდაპირ დაწერა, რა აკლია. და კიდევ ერთი: ერთადერთი ლაბორატორია, რომელმაც საკუთარი ცუდი ამბავი თვითონ გაამჟღავნა — Thinking Machines Lab — ყველაზე პატარა იყო. ორივე კარგი ჩვევაა და ორივე ნებაყოფლობითი.
• შესაძლებლობა: გამოაქვეყნე ნამუშევარი და არა განცხადება. გასაშვებად მზა ტესტი, რეალურად შეტანილი შესწორება, თავიდან გასაშვები შეფასება — მტკიცებულება, რომლის შემოწმებაც არაფერი ღირს, პატარა გუნდის ერთადერთი კაპიტალია.
• შესაძლებლობა საქართველოსთვის: ამ კვირის სასარგებლო საქმე ინვენტარიზაციაა და არა მოდელი. პარლამენტის აპარატმა შვიდი თანამშრომლისთვის ChatGPT Business 10 500 ლარად იყიდა. იმავე დაწესებულებაში არავის შეუმოწმებია, რომელი სისტემა აწერს ხელს ჯერ კიდევ 1024 ბიტით. ამას ადგილობრივი გუნდი ამ ლიცენზიებზე იაფად გაარკვევს.

რას ვადევნებთ თვალს

• 12 ნოემბერს, OpenAI-ის კიბერუსაფრთხოების პრეზენტაციაზე, GPT-6 Cyber-ს შეზღუდვებს დაუმატებენ თუ მხოლოდ ახალ კლიენტებს დაასახელებენ.
• გამოაქვეყნებს თუ არა Frontier Model Forum 21 დეკემბრამდე, შენიშვნების მიღების დასრულებამდე, შედეგს: ერთსა და იმავე შემთხვევას სხვადასხვა შემფასებელი ერთნაირად აფასებს თუ არა. სანამ არ გამოაქვეყნებს, ეს სისტემა ლექსიკონია და არა გაზომვა.
• გამოაქვეყნებს თუ არა რომელიმე ლაბორატორია კვლევის დაჩქარების რიცხვს მტკიცებულებასთან ერთად. თუ METR-ის დაფარული ანგარიში ნიმუშად იქცევა, ინდუსტრიის მთავარი რიცხვი შეუმოწმებელი დარჩება.

ექსპლოიტი საკუთარ თავს 1 280 დოლარად ამტკიცებს. დანარჩენებმა ამ კვირაში ზუსტად იმდენი მტკიცებულება დახარჯეს, რამდენიც თვითონ მოისურვეს.