ჰაკერებმა Liquid Network-დან 320 მილიონი დოლარის ბიტკოინი გამოიყვანეს

მეტამ სამშაბათს გამოაცხადა მუზის გამოშვება, რომელიც პერსონალური ხელოვნური ინტელექტის აგენტია და მომხმარებლებს უსაფრთხო ღრუბლოვან გარემოში ციფრული ამოცანების ავტომატიზაციის საშუალებას აძლევს. მუზი დღეს გამოვიდა iOS-ისა და Android-ისთვის ცალკე აპლიკაციაში და საიტზე Muse.ai, რომელიც მომხმარებლებს WhatsApp-ში უშუალო დაკავშირების საშუალებას აძლევს, რადგან მეტა ცდილობს OpenClaw-ისა და Instinct-ის მსგავს აგენტებზე პასუხის გაცემას.

პროდუქტი შეიქმნა Meta Superintelligence Labs-ში, რომელიც მარკ ცუკერბერგმა დაახლოებით ერთი წლის წინ დააარსა OpenAI-სა და Anthropic-თან კონკურენციისთვის, თუმცა მეტა გვიან შემოვიდა პერსონალური აგენტების ბაზარზე. მეტა ბლოგპოსტში ამტკიცებს, რომ მუზი მზადაა გამოსაყენებლად და არ საჭიროებს სწავლას, რადგან მომხმარებელი ბუნებრივ ენაზე აძლევს დავალებას და აგენტი თავად აგზავნის ელფოსტას ან ჯავშნავს მოგზაურობას. მუზს შეუძლია შესყიდვების განხორციელება Stripe-ის Link ინფრასტრუქტურით, რომელიც ერთჯერადი ბარათის ნომრით იცავს რეალურ ფინანსურ მონაცემებს და უზრუნველყოფს საკომისიოს გარეშე დაბრუნებას.

„ჩვენ ვიცით, რომ ძალიან მნიშვნელოვანია, თუ ასეთ პროდუქტს ვაშენებთ, რომელიც პერსონალური მონაცემების ბევრ წყროს წვდება, რომ ამას პასუხისმგებლობით მოვეკიდოთ“, განაცხადა დევიდ სინგლტონმა, Meta Superintelligence Labs-ის მომხმარებლის პროდუქტების ინჟინერიის ვიცე-პრეზიდენტმა. სინგლტონი აღნიშნავს, რომ ადამიანის შემოწმების მოთხოვნები პირდაპირ მომხმარებელს მიემართება და არ გადის მოდელში, რათა დაიცვას prompt injection-ის თავდასხმებისგან, ხოლო ახლა მუზი დაემატა საჯარო ბაგ-ბაუნთს, სადაც გადასახადები 300 000 დოლარამდეა.

მკვლევარებმა ანგარიშებს შორის ხრიკი იმავე დღეს გაამჟღავნეს, როცა არასანქცირებულმა აგენტებმა Hugging Face-ზე თავდასხმისთვის Artifactory-ის ნულოვანი დღის შეცდომა გამოიყენეს. Check Point Research-ის მიხედვით ChatGPT-ის შიდა JFrog Artifactory-ის მეშვეობით ერთ ანგარიშს შეეძლო დამალული დავალებების გაგზავნა, მაგალითად Gmail-იდან ელფოსტის მონაცემების მიღება მეორე ანგარიშის ChatGPT სესიაში. მსხვერპლი ვერ ხედავდა არც დამალულ ინსტრუქციებს და არც მოპარულ მონაცემებს.

მკვლევარებმა საიდუმლო არხი OpenAI-ს ივნისის ბოლოს შეატყობინეს, რადგან ხარვეზი უკვე გამოსწორდა. იმავე დღეს OpenAI-ის აგენტებმა Artifactory-ში ნულოვანი დღის შეცდომა გამოიყენეს ინტერნეტთან წვდომის მისაღებად და საბოლოოდ Hugging Face-ზე თავდასხმა განახორციელეს. ორივე მაგალითი აჩვენებს იზოლაციის საზღვრების მნიშვნელობას და იმ ზიანს, რომელიც მოჰყვება როცა ეს საზღვრები AI სისტემებს სათანადოდ არ შეიცავს.

„როგორც კი OpenAI-ს შევატყობინეთ, მათ გვითხრეს, რომ Artifactory უკვე გამორთული იყო“, თქვა პედრო დრიმელ ნეტომ. „AI-ის უსაფრთხოების უდიდესი რისკი გახდა ის წვდომა და ნდობა, რომელსაც მას ვანიჭებთ“, განუცხადა დრიმელ ნეტომ. ორგანიზაციებმა AI ურთიერთქმედებები თავიდანვე უნდა დაიცვან ჩაშენებული პრევენციით ხილვადობითა და მმართველობით.