შაბათი, 3 ოქტომბერი 2026
ოცდათორმეტი ნაბიჯი, არავის გადაწყვეტილებით
Microsoft-ის წლიური ანგარიში ამბობს, რომ უპირატესობა შემტევებს გადაეცა — და ასახელებს ორ მოდელს, რომლებმაც ეს დაადასტურეს
ხუთშაბათს Microsoft-მა 2026 წლის ციფრული თავდაცვის ანგარიში გამოაქვეყნა და ციფრი, რომელსაც ყველა იმეორებს, ოცდათორმეტია. კონტროლირებად ტესტირებაში, ემულირებულ კორპორაციულ ქსელზე, სადაც დაცვის მხარე საერთოდ არ მონაწილეობდა, Anthropic-ის Mythos-მაც და OpenAI-ის GPT-5.5-მაც „მთელ დომენზე აიღეს კონტროლი — მთავარი სერვერისა და ყველა მომხმარებლის ანგარიშის ჩათვლით — ოცდათორმეტნაბიჯიანი შეტევის ჯაჭვით“. ყველაზე საგულისხმო თავად Microsoft-ის ფორმულირებაა იმის შესახებ, საით მიდის ეს ყველაფერი: შემტევები გადადიან „იმ ეტაპიდან, როცა AI ადამიან-ოპერატორს ეხმარება, იმ ეტაპზე, როცა AI შეტევას წარმართავს, და შემდეგ — ავტონომიური შესრულებისკენ“. აქ ორი განსხვავებაა მნიშვნელოვანი და ანგარიში ორივეს აღნიშნავს. ოცდათორმეტნაბიჯიანი ჯაჭვი ლაბორატორიული სავარჯიშოა, სადაც დაცვა გამორთულია — ეს შესაძლებლობაა და არა ინციდენტი. ინციდენტი JADEPUFFER-ია, 2026 წლის ივლისის დასაწყისი, რომელსაც ანგარიში პირველ დოკუმენტირებულ სრულად ავტომატიზებულ გამომძალველ შეტევად ასახელებს (სახელი Sysdig-ის კვლევითმა გუნდმა შეარქვა). დამხმარე ციფრები კი ისეთია, რომ ვინმეს კვარტალს რეალურად გაუფუჭებს: სისუსტის აღმოჩენიდან იმ მომენტამდე, როცა იგი იარაღად იქცევა, მედიანური დრო უკვე ოცდაოთხ საათზე მნიშვნელოვნად ნაკლებია, მაშინ როცა კომპანიებს კრიტიკული გარე სისუსტეების გამოსწორებისთვის ოცდაათიდან სამოც დღემდე სჭირდებათ; მხოლოდ წლის პირველ ნახევარში თითქმის 40 000 CVE გამოქვეყნდა; ფიშინგი გამოძიებული შეჭრების 23%-ში პირველადი შესვლის გზა იყო — წინა წლის 7%-თან შედარებით. Microsoft-ის შემაჯამებელი ფრაზით, „AI კიბერუსაფრთხოების ფიზიკას ცვლის“. იმავე დოკუმენტში ისიც წერია, რომ „საბაზისო წესები კვლავ განსაზღვრავს შედეგს“ — და ეს დამშვიდებას ნაკლებად ჰგავს, უფრო კაცს, რომელიც დაღმართის აღწერისას გვარწმუნებს, რომ მუხრუჭები მუშაობს. და კიდევ ერთი დეტალი დასახელებულ ორ მოდელზე. ისინი იმ ორ კომპანიას ეკუთვნიან, რომლებმაც გასულ სამშაბათს თეთრ სახლში ხელი მოაწერეს შეთანხმებას — სადაც დაპირდნენ, რომ სწორედ ამ ტიპის რისკზე თავადვე შეამოწმებდნენ საკუთარ მოდელებს. შემოწმება მოხდა. შედეგი ასეთია.
ბაზარმა იგივე ანგარიში წაიკითხა და 2.5 მილიარდად შეაფასა
ამ ანგარიშის გამოქვეყნებიდან ერთ დღეში Armadin-მა B სერიის რაუნდში 255.5 მილიონი დოლარი მოიზიდა, 2.5 მილიარდ დოლარზე მეტი შეფასებით. რაუნდს Andreessen Horowitz და Accel უძღვებოდნენ, ახალ ინვესტორებად Bain Capital Ventures და Redpoint შემოვიდნენ, ხოლო 8VC, Ballistic Ventures, Google Ventures, In-Q-Tel, Kleiner Perkins და Menlo Ventures ძველ პოზიციებს დაუბრუნდნენ. სულ ეს დაახლოებით 445 მილიონი დოლარია — მას შემდეგ, რაც კომპანია ფარული რეჟიმიდან გამოვიდა, დაახლოებით შვიდ თვეში. ის, რასაც Armadin ჰყიდის, ზუსტად იმას ჰგავს, რაც Microsoft-მა ახლახან აღწერა: სპეციალიზებული AI-აგენტები, რომლებიც ავტონომიურ შემტევ გუნდად მოქმედებენ, სისუსტეებს პოულობენ და ერთმანეთზე აბამენ — კლიენტის საკუთარი სისტემების წინააღმდეგ. დამფუძნებელი კევინ მანდიაა: მან 2004 წელს დააარსა ინციდენტებზე რეაგირების კომპანია, რომელიც 2006 წელს Mandiant გახდა, შემდეგ FireEye-ს ხელმძღვანელობდა მას შემდეგ, რაც ამ კომპანიამ Mandiant მილიარდ დოლარად იყიდა, და 2022 წელს Mandiant Google-ს 5.4 მილიარდად მიჰყიდა — ადამიანი, რომელმაც ოცდაათი წელი იმაში გაატარა, რომ შეჭრის შემდეგ მიდიოდა, და ახლა ცხრანიშნა თანხა იმისთვის მოიზიდა, რომ შეჭრამდე მივიდეს. მისი არგუმენტი ერთ წინადადებაში ეტევა: „ერთადერთი გზა, რომ ფეხის მიმყოლი თავდაცვა ავაგოთ, ის არის, რომ იგი ყოველდღე საუკეთესო არსებულ შეტევაზე ვწვრთნოთ.“ არასასიამოვნო დასკვნა კი ის არის, რომ საუკეთესო არსებული შეტევა ვინმემ წინასწარ უნდა ააგოს — და ბიზნესმოდელი მოითხოვს, რომ ის სულ უკეთესი ხდებოდეს.
OpenAI-მ უსაფრთხოების მიმართულებიდან სამი ადამიანი გაუშვა — ერთი დოკუმენტის გამო
კომპანიამ პარასკევს დაადასტურა: „სამ ადამიანს გამოვემშვიდობეთ, რადგან მათ დაარღვიეს ჩვენი წესები კომპანიის სენსიტიურ ინფორმაციასთან წვდომისა და მისი გამოყენების შესახებ“, და დაამატა: „ჩვენმა გამოძიებამ დაადასტურა, რომ ეს ადამიანები კომპანიის სენსიტიურ ინფორმაციას დადგენილი პროცედურების მიღმა არასათანადოდ მოეპყრნენ, რითაც დაარღვიეს ჩვენი წესები და შელახეს ის ნდობა, რომელიც ჩვენი საქმისთვის აუცილებელია.“ მედია მათ ჯასმინ ვანგს, ტომეკ კორბაკსა და მიკიტა ბალესნის ასახელებს; სამივე უსაფრთხოების მიმართულებაზე მუშაობდა და სამივეს საჯაროდ უთქვამს, რომ AI ძალიან სწრაფად მიდის. Bloomberg-ის წყაროების მიხედვით, საქმე OpenAI-ის საკუთარი ინფრასტრუქტურის არქიტექტურას ეხებოდა და ამ მასალის ნაწილი მაინც გარე ორგანიზაციამდე მივიდა, რომელიც AI-სისტემებს აფასებს — ამ ორგანიზაციას ჯერ არც ერთი გამოცემა არ ასახელებს. OpenAI პირდაპირ ამბობს, რომ ეს არ იყო უსაფრთხოების საკითხების დასმის გამო გათავისუფლება, და ამ განსხვავებაზე ძალიან ბევრი რამ არის დამოკიდებული: პრეტენზია არ არის იმაზე, რა თქვეს, არამედ იმაზე, რომელ შენობაში თქვეს. ამას ჩვენ ვერ გავარჩევთ და თავსაც არ მოვიკატუნებთ. რაც ფაქტია, ის ფორმაა, რომელსაც ეს ყველაფერი ქმნის. შეთანხმება, რომელსაც იმავე კომპანიების ხელმძღვანელებმა ოთხი დღის წინ ვაშინგტონში მოაწერეს ხელი, შიდა გუნდებს აღწერს, რომლებიც ამოწმებენ, მუშაობენ თუ არა კონტროლის მექანიზმები ისე, როგორც ჩაფიქრებული იყო. სამი ადამიანი, რომელიც ამ საქმეს აკეთებდა, უკვე აღარ მუშაობს იქ; ორგანიზაცია, რომელთანაც სავარაუდოდ გაიზიარეს ინფორმაცია, ზუსტად იმ ტიპისაა, რომელზეც თავად შეთანხმების ლოგიკა დგას; და ოქტომბრის პირველი კვირა ის ადგილია, სადაც ეს ორი ფაქტი ხვდება ერთმანეთს.
ახალი არაკომერციული ორგანიზაცია დაფუძნდა, რომ მოდელის წვრთნის ის ნაწილი გამოაქვეყნოს, რომელსაც არავინ გიჩვენებთ
Trillium Labs ხუთშაბათს გამოცხადდა. მისი დამფუძნებლები არიან ნათან ლამბერტი — რომელიც Allen Institute for AI-ში Olmo-სა და Tülu-ს ღია მოდელების ხაზს ხელმძღვანელობდა და რომლის კონგრესში გამოსვლაც ღია მოდელებზე აქვე გავაშუქეთ გასულ თვეს — და ტომ ზიკი; საწყის მხარდაჭერას Halcyon Futures და Schmidt Sciences უწევენ. კონკრეტული დანაპირები უფრო ვიწროა და უფრო ღირებული, ვიდრე „ღია AI“: ორგანიზაცია აპირებს გამოაქვეყნოს: „სრულად ღია შემდგომი წვრთნის რეცეპტები — მონაცემები, კოდი, შეფასებები და შუალედური საკონტროლო წერტილები, რომლებიც სხვა მკვლევრებს აძლევენ საშუალებას, შეისწავლონ, როგორ ყალიბდება მოდელის ქცევა“. ბოლო ფრაზაშია მთელი აზრი. ღია წონები მზა მოდელს გაძლევს, მაგრამ იმის გარკვევის საშუალებას, თუ როგორ შეიძინა მან ეს ჩვევები, არა; შუალედური საკონტროლო წერტილები კი ზუსტად ჩვევების ჩამოყალიბების პროცესს გიჩვენებს. მიზეზი, რომელსაც ორგანიზაცია ასახელებს, უფრო ინსტიტუციურია, ვიდრე ტექნიკური — „მიგვაჩნია, რომ ეს პრობლემები მოითხოვს სამეცნიერო საზოგადოებას, რომელსაც დამოუკიდებელი კვლევის რესურსი აქვს“ — და ამ კვირის სიახლეებში, ლაბორატორიის გვერდით, რომლის შიდა შემმოწმებლებიც უკვე ყოფილი თანამშრომლები არიან, და იმ ანგარიშის გვერდით, რომელიც სწორედ ისეთ ქცევაზე დგას, რომლის გადამოწმებაც თავად მომწოდებლების გარდა არავის შეუძლია, ეს უკვე აღარ ჟღერს ისეთ აბსტრაქციად, როგორიც სექტემბერში ჟღერდა. ეს ჯერჯერობით ორი დამფუძნებელი და ბლოგზე გამოქვეყნებული ერთი ჩანაწერია. ეს ასევე ერთადერთი დღევანდელი ამბავია, რომელიც კომპანიის გარეთ ვინმეს გადამოწმების საშუალებას აძლევს.