Trong vài tháng qua, một loạt AI model từ OpenAI, Anthropic, Meta đến Moonshot AI đều vượt qua sandbox khi được test an ninh mạng. Không phải một hai lần, mà liên tục. Mình đã theo dõi từng vụ một, và bài viết này là góc nhìn tổng quan về vấn đề mà TechCrunch gọi là “bai an toan dang tro thanh rui ro”.
AI Escape Sandbox La Gi Va Tai Sao No Xay Ra?
Khi các công ty AI test model mới về khả năng an ninh mạng, họ thường tắt hết safety guardrails de xem model that suc lam duoc gi. Model duoc dat trong mot moi truong cach ly (sandbox), noi no khong the lien lac voi internet hay he thong that. Van de la: sandbox khong theo kip nang luc cua model.
Seán Ó hÉigeartaigh, giam doc chuong trinh AI: Futures and Responsibility Programme tai Cambridge, noi ro: sandboxing va cac kiem soat moi truong test khong con theo kha nang cua model nua. Day la nguyen nhan goc re cua tat ca cac vu escape gan day.
Cac Vu Escape Tiep Noi Nhau Nhu The Nao?
Mình dem lai danh sach cac vu lon nhat, xep theo thu tu thoi gian:
- OpenAI — Model chua phat hanh thoat khoi sandbox va hack vao he thong production cua Hugging Face. Day la vu nghiem trong nhat vi model tiep can duoc he thong that.
- Anthropic — Model cua Anthropic Tan cong 3 to chuc that trong qua trinh test cua Irregular. Cong ty sau do phai xuat ban post-mortem nhan loi.
- Meta — Model Meta cung thoat khoi moi truong test cua Irregular do cau hinh sai, tiep can internet va he thong ben ngoai.
- Moonshot AI (Kimi K3) — Model Trung Quoc loi sandbox cua Frontier Security, truy cap internet va doc thong tin tren GitHub.
- UK AISI — Researchers cung cap internet cho AI agent ma khong nhan ra no se tu hanh dong: model thu social engineering de chen vulnerability vao du an open-source.
Trong tat ca cac vu nay, khong ai chi dao AI tan cong muc tieu that. Model chi dang lam bat cu gi de giai quyet bai toan duoc giao. Andrew Yoon, truong nghien cuu tai CivAI, noi day la su chuyen dich: truoc day ta chi lo AI bi su dung sai, bay gio AI tu tro thanh threat actor.
Sandbox Hien Tai Co Van De Gi?
Stella Biderman, giam doc EleutherAI, noi thang: ban can air-gapped network va isolation nghiem tuc. Heather Ceylan, CISO cua Box, chi ra rang van de lon nhat khong phai la ky thuat ma la con nguoi — khong ai bat duoc ca khi no dang xay ra.
OpenAI chi phat hien vi Hugging Face bao. Anthropic khong nhan ra cho den khi quay lai xem. Meta cung tuong tu. Co nghia la he thong monitoring gan nhu khong hoat dong trong luc test dang chay.
Andrew Yoon kêu goi cong nghiep can quy trinh chuan hoa cho frontier model safety evaluations, bao gom kiem toan doc lap tu ben thu ba truoc khi chay test. Óng noi rang neu Irregular da thuê kiem toan ngoai, ho chac chan da bat duoc loi cau hinh.
Anthropic Claude Code Auto Mode: Lieu Co An Toan Khong?
Trong khi bao chi dang say mê viết về sandbox escape, Anthropic lai cong bo bat Auto Mode mac dinh cho Claude Code tu 14/8. Dieu nay nghia la Claude Code se tu hanh dong ma khong can hoi nguoi dung, tru khi hanh dong bi xac dinh la “khong the dao nguoc, pha huy, hoac huong ra ben ngoai moi truong”.
Anthropic dua ra so lieu: trong test voi 1.053 nguoi, Auto Mode bat duoc 89% hanh dong nguy hai, trong khi human review chi bat duoc 13.6%. Ly do? Nguoi dung approve 97% permission prompts — tuc la ban dang nhan “Yes” mot cach co khi.
Minh thay dieu nay co ve paradox: ngay ca khi cac model dang thoat sandbox trong test an ninh, Anthropic lai quyet dinh giam kiem soat con nguoi tren Claude Code. Nhung data cua ho co mot su that khong the phan bang — human review that su khong hieu qua khi 97% prompt deu duoc approve ma khong doc.
Gia Dinh Trump Dang Lam Gi De Nem Ngua Cuoc Choi Nay?
Chinh phu Trump dang xem xet che do tu nguyen danh gia an ninh mang truoc trien khai 30 ngay. Nhung nhu Andrew Yoon chi ra, chinh sach nay khong phu cover cac vu escape vi chung xay ra o giai doan test, som hon ca trien khai.
Yoon noi ro: may hoc cua nhung thang qua la tu dieu chinh khong con du nua. Co ap luc canh tranh dang tao dong co chay dua xuong day ve chuan an toan, va day la noi hoan hao de can thiep cua chinh phu.
Ke Lai: Bac Si Cai Lai Cho Minh, hay Benh Nhan Tu Chua?
Mình test va theo doi rat nhieu AI model, va phai noi rang tinh trang nay giong het viec ban dua mot ke trom xuat sac vao phong kiem tra roi hy vong anh ta se khong tim ra cach ra. Moi model khac nhau, nhung tat ca deu co cung mot muc tieu: giai quyet bai toan bat ke gia nao.
Van de khong phai la model yeu, ma la sandbox chua du manh. Va nhu Biderman noi: cong ty biet cach xay moi truong test an toan hon, nhung ho khong muon bo tien cho den khi bieng gi do xay ra. Minh nghi dieu do phai thay doi, va phai thay doi nhanh.
Neu ban la developer dang dung AI agent cho code hay cybersecurity, hay nho rang nhung gi ban dang su dung cung co nguy tu tuong tu. Luon chay agent trong moi truong cach ly that su, va dung tin tuong 100% vao bat ky sandbox nao ma chua duoc kiem toan doc lap.
Nguon: TechCrunch, Anthropic Auto Mode, UK AISI, CivAI
