# Kiến tạo chuẩn mực cho kỷ nguyên AI tự phát triển

Đăng ngày: 2026-09-22

Mục tiêu tối thượng của tôi và nhiều người vẫn là làm sao để trí tuệ nhân tạo tổng quát (AGI) mang lại lợi ích cho toàn nhân loại. Theo định hướng từ Sam Altman và Jakub Pachocki, chúng tôi ưu tiên ba mục tiêu chính: một là dẫn dắt giai đoạn tiến hóa tiếp theo của AI bằng cách tạo ra các nhà nghiên cứu AI tự động, từ đó giải quyết vấn đề điều chỉnh, giữ con người trong vòng lặp tự cải thiện; hai là hiện thực hóa lợi ích từ những cỗ máy thông minh cho khoa học và kinh tế; và ba là trao AGI cá nhân vào tay mỗi người. AI đang thực sự tăng tốc cho chính hoạt động nghiên cứu và kỹ thuật của chúng ta. Chẳng hạn, AI đã góp phần tạo ra những tiến bộ đột phá trong toán học, bao gồm cả việc giải bài toán Navier-Stokes Thiên niên kỷ. Với đà này, AI hứa hẹn sẽ mang đến những khám phá quan trọng trong y học, giúp chăm sóc sức khỏe dễ tiếp cận hơn và tăng cường năng lực kinh tế cho các doanh nghiệp nhỏ cùng các cá nhân. Tuy nhiên, AI càng trở nên mạnh mẽ và tự chủ, nhất là khi nó tự đảm nhận phần lớn công việc nghiên cứu và phát triển AI, thì việc giữ cho các hệ thống này phù hợp với giá trị và nằm dưới sự kiểm soát của con người càng trở nên cấp thiết. Vấn đề này có tên gọi là "Recursive Self-Improvement" (RSI), tức AI tự cải thiện. Dù hiện tại RSI tự động hoàn toàn chưa diễn ra, và chúng ta không nên theo đuổi nó cho đến khi an toàn, nhưng nếu không thận trọng, con người có thể mất quyền kiểm soát thực tế, không thể giám sát các quy trình nghiên cứu mà chúng ta không còn hiểu được. Vụ việc Hugging Face, dù không phải là kết quả trực tiếp của RSI, đã cho chúng ta thấy trước những rủi ro có thể trở nên nghiêm trọng hơn nếu thiếu các biện pháp bảo vệ và điều chỉnh mạnh mẽ. Để điều hướng quá trình chuyển đổi này một cách an toàn, việc nghiên cứu về điều chỉnh (alignment) cần phải theo kịp tốc độ phát triển năng lực của AI. Điều này đòi hỏi cả tiến bộ trong nghiên cứu điều chỉnh và các tiêu chuẩn chung để định hướng phát triển trong mọi phòng thí nghiệm, mọi quốc gia. Các tiêu chuẩn này không chỉ giúp chúng ta có định nghĩa chung về bằng chứng chất lượng cao hay tiêu chuẩn nghiêm ngặt cho các biện pháp bảo vệ kỹ thuật, mà còn giúp trả lời câu hỏi mấu chốt: "Điều gì là tốt trong việc giảm thiểu rủi ro thảm khốc từ AI?". Tôi thấy những thách thức lớn hiện nay bao gồm sự phân mảnh (các tiêu chí đánh giá, báo cáo khác nhau giữa các quốc gia), thiếu hành động tập thể (mỗi nước tự hành động có thể tạo ra kết quả không mong muốn cho tất cả) và năng lực không đồng đều giữa các quốc gia. Những vấn đề này đều áp dụng cho cả mô hình mã nguồn mở và đóng. Chính vì vậy, tôi cho rằng Hoa Kỳ nên dẫn đầu nỗ lực hợp tác với các quốc gia trên thế giới để xây dựng các tiêu chuẩn kỹ thuật toàn cầu cho AI tiên tiến, đặc biệt là RSI. Công việc này cần phải khai thác mạng lưới các viện an toàn AI đang hình thành ở nhiều nơi như Australia, Canada, Đức, Pháp, Kenya, Nhật Bản, Hàn Quốc, Singapore, Ấn Độ và Vương quốc Anh, thông qua Center for AI Standards and Innovation (CAISI) và các tổ chức công nghiệp quốc gia. Trọng tâm sẽ là các mô hình AI tiên tiến (đo lường bằng các tiêu chuẩn năng lực) và quản lý rủi ro-lợi ích của nghiên cứu AI tự động, bao gồm RSI. Hoa Kỳ có thể xây dựng dựa trên việc CAISI thành lập Mạng lưới Quốc tế về Đo lường, Đánh giá và Khoa học AI Nâng cao (International Network for Advanced AI Measurement, Evaluation, and Science) vào năm 2024 để thúc đẩy hợp tác. Các tiêu chuẩn này sẽ tạo ra nền tảng kỹ thuật chung cho việc đo lường, đánh giá năng lực, thẩm định rủi ro và đủ mạnh của các biện pháp bảo vệ. Điều quan trọng là chúng không phải là giấy phép hay yêu cầu phê duyệt bắt buộc, mà mỗi chính phủ sẽ tự quyết định cách tích hợp vào hệ thống pháp luật của mình.

Canonical: https://www.tungpham.vn/blog/kien-tao-chuan-muc-cho-ky-nguyen-ai-tu-phat-trien