Sandbox phải đi trước khi trao quyền cho AI
Trao đổi tại phiên thảo luận thuộc khuôn khổ Diễn đàn Đô thị Thông minh Tương lai 2026, TS. Bangdao Chen - Đồng sáng lập Trung tâm Nghiên cứu Blockchain thuộc Đại học Oxford và đồng sáng lập Tyr, cho rằng một trong những thách thức lớn nhất khi xây dựng mô hình Agent City nằm ở việc các tác nhân AI có thể tiếp cận ngày càng nhiều dữ liệu của người sử dụng.
Theo TS. Bangdao Chen, bài toán đặt ra là phải bảo đảm quyền riêng tư, quyền sở hữu dữ liệu và chủ quyền dữ liệu. Đây là vấn đề đặc biệt quan trọng khi các tác nhân AI được triển khai trong nhiều lĩnh vực, xử lý thông tin của người dân và kết nối với những hệ thống khác nhau.
TS. Bangdao Chen - Đồng sáng lập Trung tâm Nghiên cứu Blockchain thuộc Đại học Oxford và đồng sáng lập Tyr (Ảnh: Việt Anh).
Rủi ro thứ hai đến từ hành vi của chính các tác nhân AI. Do phụ thuộc vào mô hình ngôn ngữ lớn, cách thức vận hành của chúng không phải lúc nào cũng dễ dự đoán. Khi nhiều tác nhân phối hợp thực hiện một nhiệm vụ, nguy cơ xuất hiện sai lệch giữa mục tiêu của hệ thống và ý định của con người càng cần được nghiên cứu.
Bên cạnh đó, các tác nhân AI cũng có thể trở thành mục tiêu của những hình thức tấn công mới. Vì vậy, trước khi triển khai trên diện rộng, Việt Nam cần có khả năng nhận diện các điểm yếu, đánh giá mức độ an toàn và thiết lập cơ chế giám sát phù hợp.
Một trong những giải pháp được TS. Bangdao Chen đề xuất là xây dựng môi trường thử nghiệm có kiểm soát, hay sandbox. Theo ông, việc thử nghiệm có thể được triển khai theo hai hướng, gồm mô phỏng hệ thống để xác định giới hạn hoạt động và phối hợp với các chuyên gia trong từng lĩnh vực để xây dựng những tình huống kiểm tra sát với thực tế.
Ông cho biết các bài kiểm tra cần được thiết kế dựa trên quy trình làm việc và đặc thù của từng ngành, qua đó phát hiện lỗ hổng mà những phép thử thông thường có thể bỏ sót. Dữ liệu thu được từ quá trình này còn có thể phục vụ huấn luyện và tinh chỉnh tác nhân AI, giúp hệ thống cải thiện khả năng thực hiện nhiệm vụ.
Tuy nhiên, khả năng hiện thực hóa Agent City còn phụ thuộc vào một điều kiện nền tảng khác là hạ tầng tính toán. Ông Timothy Ngo - Đồng sáng lập kiêm Giám đốc điều hành Iozera.ai Inc., lưu ý rằng không nên chỉ nhìn bài toán này qua sự phát triển của các trung tâm dữ liệu quy mô lớn.
Ông Timothy Ngo - Đồng sáng lập kiêm Giám đốc điều hành Iozera.ai Inc. (Ảnh: Việt Anh).
Theo ông, nhiều tác nhân AI sẽ cần vận hành tại thiết bị biên, gắn với các thiết bị, chip và hệ thống tính toán gần nơi phát sinh công việc. Điều đó khiến các yếu tố như năng lực xử lý, điện, nước, đường truyền cáp quang, phần cứng và hạ tầng viễn thông 5G, 6G có vai trò quan trọng.
“Các tác nhân không nhất thiết được thiết kế để chạy trên đám mây trong trung tâm dữ liệu. Chúng được thiết kế để hoạt động ở biên mạng”, ông Timothy Ngo nhận định.
Ông đồng thời nhấn mạnh bài toán hạ tầng không thể chỉ được giải quyết giữa nhà đầu tư và chính quyền. Cộng đồng địa phương cần được thông tin đầy đủ về lợi ích, chi phí và những tác động liên quan đến điện, nước, môi trường.
Doanh nghiệp phải học cách để AI hiểu mình
Trong phiên chuyên đề, ông Ashish Arvind Thukral - Đồng sáng lập kiêm Giám đốc điều hành NeuGenM.ai, cho rằng Agent City có thể làm thay đổi cách người tiêu dùng tìm kiếm, đánh giá và mua sản phẩm.
Thay vì tự tìm kiếm trên mạng, so sánh các lựa chọn rồi trực tiếp thực hiện giao dịch, người dùng có thể giao cho một tác nhân AI tìm sản phẩm phù hợp, đánh giá giá bán và hoàn tất việc mua hàng trong phạm vi được cho phép.
Ông Ashish Arvind Thukral - Đồng sáng lập kiêm Giám đốc điều hành NeuGenM.ai (Ảnh: Việt Anh).
Khi đó, cách tiếp cận thị trường của doanh nghiệp cũng phải thay đổi. Việc chi tiền quảng cáo để thu hút lượt nhấp hoặc đưa khách hàng đến website có thể không còn giữ vai trò như trước.
Theo ông, doanh nghiệp sẽ không chỉ cần cung cấp thông tin để con người đọc, mà còn phải tổ chức dữ liệu sao cho các hệ thống AI có thể xác định chính xác doanh nghiệp là ai, cung cấp sản phẩm gì và có phù hợp với nhu cầu đang được tìm kiếm hay không.
Ngoài khả năng được nhận diện, các doanh nghiệp cũng cần xem xét lại quy trình xác thực và giao dịch. Khi tác nhân AI thay người dùng thực hiện những công việc như đặt lịch, mua sắm hoặc đăng ký dịch vụ, những bước xác minh phức tạp có thể trở thành rào cản.
Vì vậy, việc thiết kế hệ thống cần hướng tới giảm thao tác không cần thiết, đồng thời vẫn bảo đảm an toàn và giới hạn rõ quyền hạn mà người dùng đã ủy quyền.
Ở góc độ phát triển nguồn nhân lực, bà Kaylene Wong - Giám đốc điều hành John Ethans International, cho rằng bước đầu tiên không phải là yêu cầu mọi người lập tức tạo ra tác nhân AI, mà là hiểu rõ công nghệ này có thể làm gì và khác biệt thế nào so với các công cụ AI thông thường.
Các diễn giả trao đổi tại phiên thảo luận chuyên đề “Agent City - Năng lực, Thể chế và Sandbox” (Ảnh: Ban tổ chức).
Khi hiểu được năng lực của tác nhân AI, doanh nghiệp có thể xác định những quy trình nên được tự động hóa, từ bán hàng, tiếp thị đến vận hành và tài chính. Tuy nhiên, theo bà, việc triển khai phải bắt đầu từ một bài toán kinh doanh cụ thể và được đánh giá bằng kết quả, thay vì chạy theo xu hướng công nghệ.
Song song với việc đào tạo kỹ năng xây dựng và vận hành tác nhân AI, vấn đề quản trị cũng cần được đặt ra ngay từ đầu. Con người phải hiểu rõ nhiệm vụ nào được giao cho AI, giới hạn thực thi ở đâu và khi nào cần can thiệp.
“Chúng ta cần hiểu con người phải làm gì và tác nhân AI phải làm gì. Con người cần xác định quyền hạn, giám sát hoạt động và chịu trách nhiệm. Dù tác nhân AI thực hiện công việc, con người vẫn phải chịu trách nhiệm về công việc đó”, bà Kaylene Wong nhấn mạnh.
