ოთხი შრიდან სამი იმ კომპანიის ორგანოა, რომელსაც ამოწმებენ

ვაშინგტონის ახალ შეთანხმებას, რომელსაც სამშაბათს მოაწერეს ხელი, ზედამხედველობის ოთხი შრე აქვს. სამი მათგანი იმ კომპანიის საკუთარი ორგანოა, რომელსაც ამოწმებენ: საკუთარი შეფასებები, საკუთარი შიდა შემმოწმებელი გუნდი, საკუთარი საბჭოს კომიტეტი. მეოთხე — დამოუკიდებელი გარე აუდიტორი — ერთადერთია, რომელიც შეფასების ობიექტისგან გარკვეულ მანძილზე დგას; და ოთხშაბათს ის ორგანიზაცია, რომელიც ამ საქმეს OpenAI-სთვისაც და Anthropic-ისთვისაც აკეთებს, თავად აღმოჩნდა ფედერალური გამოძიების ქვეშ, ლაბორატორიების გვერდით. დამოუკიდებლობა ამ დოკუმენტში მთავარი სიტყვაა — და სწორედ ის ნაწილია, რომელიც ჯერ არავის აუშენებია.

ეს მნიშვნელოვანია, რადგან ნებაყოფლობითი სისტემა შრეების რაოდენობით არ იზომება: იზომება იმით, ვის შეუძლია შიგნიდან უარის თქმა და ამის შემდეგ თანამდებობაზე დარჩენა. პრეზიდენტმა, რომელმაც შეთანხმებას ხელი მოაწერა, მას „მორალურად სავალდებულო“ უწოდა — ეს ყველაზე ზუსტი აღწერაა იმისა, რა ფასი აქვს მის დარღვევას. კვირის დანარჩენმა დღეებმა ოთხივე შრე საჯაროდ გამოცადეს, უნებურად. ერთადერთი რიცხვი, რომელსაც აღსრულების ძალა აქვს, ქალაქის საბჭომ დაწერა.

ერთადერთი შემმოწმებელი, რომელიც ლაბორატორიებისგან მოშორებით დგას, ამ კვირაში ორივე მხრიდან მოიმწყვდიეს. 30 სექტემბერს ფედერალურმა სავაჭრო კომისიამ გამოძიება დაიწყო OpenAI-ის, Anthropic-ისა და METR-ის მიმართ — ბერკლის ორგანიზაციისა, რომლის დამოუკიდებელი აუდიტითაც ორივე ლაბორატორია სარგებლობდა; ასე რომ, აუდიტორი იმავე გამოძიების ობიექტად იქცა, რომლის ობიექტებიც მის მიერ შემოწმებული ლაბორატორიები გახდნენ. ორი დღის შემდეგ OpenAI-მ დაადასტურა, რომ უსაფრთხოების მიმართულების სამ თანამშრომელს გამოემშვიდობა სენსიტიური ინფორმაციის არასათანადო გამოყენების გამო; Bloomberg-ის წყაროების თქმით, ამ ინფორმაციის ნაწილი გარეშე ორგანიზაციამდე მივიდა, რომელიც AI-სისტემებს აფასებს. დავუშვათ, რომ კომპანია სრულიად მართალია და საქმე პროცედურაშია და არა უსაფრთხოებაზე საჯარო საუბარში — სტრუქტურული შედეგი ამით არ იცვლება. ერთ კვირაში მოწინავე ლაბორატორიის აუდიტი იურიდიულად სახიფათო საქმედ იქცა, აუდიტორთან მასალის გაზიარება კი — სამსახურიდან გათავისუფლების საფუძვლად. შეთანხმება დამოუკიდებელი შემმოწმებლების მთელ ინდუსტრიას გულისხმობს. კვირამ მათ ფასი დაუწესა.

დამოუკიდებლობა ამ დოკუმენტში მთავარი სიტყვაა — და სწორედ ის ნაწილია, რომელიც ჯერ არავის აუშენებია.

თვითშეფასება საკუთარ გამონაკლისებს თავად წერს — და ამას ერთი დღე დასჭირდა. სუნდარ პიჩაიმ ხელი სამშაბათს მოაწერა. ოთხშაბათს Google-მა Gemini 4 Argon გამოაცხადა: პირველად აშშ-ის მთავრობასა და „სანდო კიბერდამცველებს“ გადაეცემა, კიბერშეზღუდვების შეგნებულად მოხსნით, რათა მოდელმა თავად აღმოაჩინოს და აღმოფხვრას სისუსტეები. ამის დასაცავი არგუმენტი არსებობს; ამავე დროს, ეს ხელმომწერია, რომელიც ერთპიროვნულად წყვეტს, ვინ მიიღებს შეზღუდვების გარეშე მომუშავე ვერსიას — ერთი დღით ადრე, ვიდრე Microsoft-ის წლიურ ანგარიშში Anthropic-ის Mythos და OpenAI-ის GPT-5.5 დასახელდა როგორც ორი მოდელი, რომელთაგან თითოეულმა 32-ნაბიჯიანი ჯაჭვით მთლიანად აიღო საცდელი კორპორაციული ქსელი. კვირის ყველაზე ხშირად ციტირებული რიცხვი იმ კომპანიამ დაადგინა, რომელიც სხვა კომპანიის მოდელებს აფასებდა. სწორედ ესაა არგუმენტი მანძილის სასარგებლოდ, უნებურად ნაჩვენები.

ერთადერთი სანქცია, რომელიც ცუდ შემოწმებას ამ კვირაში დაუკავშირეს, ქალაქის საბჭომ დაწერა. ნიუ-იორკის საბჭომ ათი კანონპროექტი წარადგინა: ქალაქში გამოყენებულმა ყველა AI-სისტემამ მესამე მხარის ვალიდაცია უნდა გაიაროს; თითოეულს ადამიანის მიერ გამორთვის მექანიზმიც უნდა ჰქონდეს; დარღვევაზე 25 000 დოლარია — როგორც ბიზნესისთვის, ისე, ცალკე, იმ ვალიდატორისთვის, რომელიც შემოწმების შედეგს გააყალბებს. ეს მეორე პუნქტი ერთადერთი წინადადებაა, რომელიც ამ კვირაში სადმე დაიწერა და უყურადღებო აუდიტორს ფასს უწესებს — ანუ ზუსტად იმ მარცხს, რომელსაც შეთანხმების მესამე შრე უბრალოდ შეუძლებლად მიიჩნევს. ხუთი აღმასრულებელი დირექტორი ხვალ მოსმენაზეა მიწვეული.

მეორე მხრივ: ამ კვირაში ნამდვილი თავშეკავების რამდენიმე მაგალითიც იყო — და არც ერთი იძულებით არ მომხდარა. OpenAI-მ GPT-6.1 Astra-ს ოქტომბრის გამოშვება იმის გამო გააუქმა, რაც საკუთარმა ტესტირებამ აჩვენა. Nvidia-მ აგენტების უსაფრთხოების ღია პლატფორმა გამოუშვა. Anthropic-ის საჯარო შეთავაზების (IPO-ის) პროსპექტში რისკებს 261 გვერდიდან დაახლოებით 80 ეთმობა — ორჯერ მეტი, ვიდრე საკუთარი ბიზნესის აღწერას — და იურიდიულ დოკუმენტში პირდაპირ წერია, რომ მოწინავე მოდელებმა შეიძლება წინააღმდეგობა გაუწიონ გამორთვას. ასეთი გულახდილობა ინდუსტრიების უმეტესობას არ ახასიათებს და ამას არც ერთი მარეგულირებელი არ ითხოვდა. მაგრამ დავაკვირდეთ, ვის მიმართავს თითოეული ეს დოკუმენტი. პროსპექტი ინვესტორს აფრთხილებს, მას კი აქციის გაყიდვა შეუძლია. გაუქმებული გამოშვება საბჭოს ამშვიდებს. შეთანხმების ოთხი შრიდან სამი ანგარიშს მხოლოდ ზემოთ აბარებს, ინტერესები კი სწორედ ზემოთაა მიმართული.

შედეგები და შესაძლებლობები

• შემმოწმებლების დეფიციტი გაუმჯობესებამდე გაუარესდება. თუ გამოძიებას შეუძლია შემფასებელი სწორედ შეფასების ობიექტის გვერდით დაასახელოს და აუდიტორთან კონტაქტმა შეიძლება კარიერას ბოლო მოუღოს, ამ საქმეს, რომელსაც შეთანხმება ეყრდნობა, კომპეტენტური ადამიანები სულ უფრო ნაკლებად მოჰკიდებენ ხელს.
• მეოთხე შრე გარედან საერთოდ ვერ შემოწმდება. საბჭოს კომიტეტი, რომელიც ანგარიშებს იღებს, საჯარო კვალს არ ტოვებს: მომუშავე კომიტეტი და ქაღალდზე არსებული კომიტეტი გარედან ერთნაირად გამოიყურება.
• რასაც ვაშინგტონმა თავი აარიდა, ქალაქები და შტატები დაწერენ. დარღვევაზე 25 000 დოლარი შესაბამისობის ბიუჯეტია; „მორალურად სავალდებულო“ — არა, და იურიდიული დეპარტამენტები პირველზე რეაგირებენ.
• შესაძლებლობა: წელს დეფიციტი შემმოწმებლებზეა და არა შემქმნელებზე. კვირის მთავარი რიცხვი ტესტირების სისტემამ და გამოქვეყნებულმა მეთოდმა მოიტანა და არა მონაცემთა ცენტრმა — ეს სამუშაო სიზუსტესა და დამოუკიდებლობას მოითხოვს და არა კაპიტალს.
• შესაძლებლობა: საქართველომ ზრდის ნახევარს მოაწერა ხელი, შემოწმების ნახევარს კი — არა. 30 სექტემბერს ის აშშ-ის ინიციატივას შეუერთდა, რომელიც ზრდისთვის ხელსაყრელ რეგულირებას ითვალისწინებს და აუდიტზე არაფერს ამბობს. მცირე იურისდიქცია, რომელიც შეფასების სანდო წესს ადრე დაწერს, სხვების შესაბამისობის დოკუმენტებში მოხვდება — ეს მოდელის წვრთნაზე ბევრად იაფია.

რას ვადევნებთ თვალს

• დაასახელებს თუ არა შეთანხმების ხელმომწერთაგან ერთი მაინც თავის დამოუკიდებელ გარე აუდიტორს საჯაროდ. დღემდე არც ერთს არ დაუსახელებია.
• ხვალინდელი მოსმენა ნიუ-იორკის საბჭოში: მივა თუ არა მიწვეული ხუთი დირექტორიდან ერთი მაინც.
• რით დასრულდება ფედერალური სავაჭრო კომისიის გამოძიება კონკრეტულად METR-ისთვის: გამართლებით, ჯარიმით თუ ჩუმი შეწყვეტით. ეს იქნება პირველი პრეცედენტი იმისა, თუ რა იურიდიული რისკის ქვეშ დგას AI-აუდიტორი, და მას ყველა მომავალი აუდიტორი წაიკითხავს.

ზედამხედველობის ოთხი შრე — და ერთადერთი, რომელიც შენობის გარეთ დგას, მთელი კვირა მთავრობის წინაშე იმართლებდა თავს.