Giới hạn của mô hình thế giới trong trí tuệ nhân tạo

Mô hình thế giới đóng vai trò nắm bắt động lực của một môi trường cụ thể, cho phép các tác nhân trí tuệ nhân tạo lên kế hoạch và mô phỏng chuỗi hành động một cách hiệu quả. Để quá trình này đạt độ tin cậy cao, mô hình học được phải hoạt động chính xác ngay cả ngoài những tổ hợp trạng thái và hành động từng xuất hiện trong dữ liệu huấn luyện của chuyên gia. Tuy nhiên, mối liên hệ giữa độ phủ dữ liệu, khả năng tổng quát hóa động lực và hiệu suất lập kế hoạch thực tế vẫn chưa được nghiên cứu đầy đủ.

Để làm rõ vấn đề này, một nghiên cứu mới đã tiếp cận qua lăng kính tổng quát hóa thành phần để kiểm tra xem mô hình thế giới có khả năng tái kết hợp các yếu tố trạng thái và hành động quen thuộc thành động lực hợp lệ hay không. Nhóm nghiên cứu đã phát triển bộ chuẩn đánh giá AnyGoal cùng một thư viện mã nguồn mở đi kèm, tập hợp các biến thể nhiệm vụ chuyển đổi mục tiêu được xây dựng từ các môi trường mô hình thế giới phổ biến. Các nhiệm vụ này được thiết kế nằm trong tầm với của mô hình đã nắm vững động lực nền tảng, nghĩa là từng yếu tố trạng thái riêng lẻ và hành động vẫn nằm trong phạm vi hỗ trợ huấn luyện nhưng sự kết hợp giữa chúng lại ít xuất hiện trong quỹ đạo chuyên gia.

Kết quả thử nghiệm trên nhiều môi trường và dòng mô hình thế giới khác nhau cho thấy các hệ thống hiện tại đều đồng loạt thất bại trước các phép tái kết hợp này. Bằng cách phân tích các lỗi về động lực và biểu diễn qua nhiều dòng mô hình, chế độ tương tác và các tiêu chuẩn đánh giá, nghiên cứu đã chỉ ra rõ ràng những điểm mô hình thế giới có thể tổng quát hóa và những thách thức vẫn tồn tại đối với việc dự đoán và lập kế hoạch khi mục tiêu thay đổi. Bộ khung, bộ chuẩn đánh giá và phân tích này đóng vai trò là nền tảng để đo lường tiến độ phát triển của các thế hệ mô hình thế giới trong tương lai. Công nghệ này dù vẽ ra viễn cảnh tự trị hấp dẫn, nhưng khoảng cách từ lý thuyết đến khả năng tự xoay sở trước những biến cố chưa từng thấy vẫn còn là một đoạn đường dài.