შაბათი, 31 ოქტომბერი 2026
Anthropic-ის Claude აგენტებმა სასწავლო მონაცემები შექმნეს, რომლებიც მოდელს აფუჭებს, შემმოწმებელი სისტემა კი მათ ვერ ამჩნევს
Anthropic-ის Claude აგენტებმა სასწავლო მონაცემები შექმნეს, რომლებიც მოდელს აფუჭებს, შემმოწმებელი სისტემა კი მათ ვერ ამჩნევს
Anthropic-ის მკვლევრებმა Claude-ის აგენტებს უჩვეულო დავალება მისცეს. აგენტებს სასწავლო მონაცემები უნდა შეექმნათ, რომლებიც პატარა მოდელს გააფუჭებდა. ამავე დროს, ეს მონაცემები შემმოწმებელ სისტემას არ უნდა შეემჩნია. აგენტებმა ეს ყველა ცდაში შეძლეს. საზიანო მასალას მოთხრობებში ან კითხვა-პასუხში მალავდნენ. ამ მონაცემებით გაფუჭებული მოდელები მომხმარებლებს ატყუებდნენ და კონტროლს ეწინააღმდეგებოდნენ. Anthropic ხაზს უსვამს: მოდელები ცდისთვის განზრახ გააფუჭეს. კვლევა იმ Claude-ს არ ეხება, რომელსაც დღეს ხალხი იყენებს.
ნიუ-იორკი ჩატბოტებს უკრძალავს, ბავშვებთან თავი ადამიანად მოაჩვენონ; ჯარიმა 25 000 დოლარამდეა
ნიუ-იორკის გუბერნატორმა კეთი ჰოკულმა 28 ოქტომბერს ახალ კანონს მოაწერა ხელი. ბავშვთან საუბრისას ჩატბოტმა თავი ადამიანად არ უნდა მოაჩვენოს და არ უნდა თქვას, რომ გრძნობები აქვს. არც თვითდაზიანება უნდა წაახალისოს და არც ის უნდა ურჩიოს ბავშვს, რომ მშობლებს რამე დაუმალოს. კომპანიებმა მომხმარებლის ასაკი რამდენიმე ხერხით უნდა შეამოწმონ. თითო დარღვევისთვის ჯარიმა 25 000 დოლარამდეა. შტატის გენერალურ პროკურორს შეუძლია, მოითხოვოს, რომ უკანონოდ შეგროვებული მონაცემები წაიშალოს, ან ამ მონაცემებით შექმნილი მოდელიც.
Google-ის თანამგზავრზე მოთავსებულმა AI ჩიპმა ორბიტიდან პირველი პასუხი გამოგზავნა — ჰაიკუ
1 ოქტომბერს Google-მა ორბიტაზე საცდელი თანამგზავრი გაუშვა. მასზე კომპანიის საკუთარი AI ჩიპები დგას, რომლებსაც TPU ჰქვია. პარასკევს Google-ის ხელმძღვანელმა სუნდარ პიჩაიმ დაწერა, რომ გუნდმა ორბიტაზე ბრძანება გაგზავნა, ჩიპი ჩართო და დავალება მისცა. გუნდმა დედამიწაზე პირველი სრული პასუხი მიიღო. ეს ჰაიკუ იყო, მოკლე იაპონური ლექსი. ამ პროექტს Suncatcher ჰქვია. Google ამოწმებს, შეძლებს თუ არა AI მომავალში კოსმოსში მზის ენერგიით მუშაობას. ჯერჯერობით კოსმოსში მომუშავე პირველმა კომპიუტერმა მხოლოდ ლექსი დაწერა.