# Rủi ro là nút thắt cho AI, không phải năng lực

Đăng ngày: 2026-09-18

Thị trường AI đang phát triển chóng mặt, và tôi thường tự hỏi điều gì sẽ thực sự kìm hãm nó. Gần đây, Công ty Bảo hiểm Trí tuệ Nhân tạo (AIUC) vừa công bố thành công vòng gọi vốn Series A trị giá 40 triệu USD, dẫn đầu bởi Ribbit Capital và First Harmonic, đã mang đến một góc nhìn rất đáng để suy ngẫm. Luận điểm cốt lõi của họ là rủi ro và trách nhiệm pháp lý, chứ không phải năng lực kỹ thuật, mới là yếu tố giới hạn lớn nhất cho sự chấp nhận AI rộng rãi. Điều này ban đầu là một giả thuyết, nhưng giờ đây AIUC nhận định nó đã trở thành một sự thật hiển nhiên. Họ hiện đang hợp tác với nhiều công ty AI tiên phong như Cursor, Harvey, Lovable và ElevenLabs để giải quyết vấn đề nan giải này. Hành trình của đồng sáng lập AIUC, Rune Kvist, cũng là một minh chứng. Sau khi bán công ty edtech đầu tiên vào cuối năm 2021, anh tình cờ đọc được bài báo "Scaling Laws" của Kaplan và nhận ra một điều cơ bản: mô hình càng lớn, càng thông minh. Điều này có nghĩa là vốn đầu tư sẽ chảy vào AI vì có thể dự đoán được lợi nhuận, và một chu kỳ cường điệu sẽ được kích hoạt. Với suy nghĩ đó, anh chuyển đến San Francisco và gia nhập Anthropic khi công ty này mới có khoảng 40 người vào đầu năm 2022. Anthropic khi đó đã có những tài liệu dự báo chi tiết về thế giới năm 2026, bao gồm nhu cầu tính toán, chi phí đầu tư và cả những lo ngại xã hội, cho thấy tầm nhìn xa về những gì AI sẽ mang lại. Để giải quyết vấn đề rủi ro, AIUC đã phát triển AIUC-1, một tiêu chuẩn mới nổi về an ninh, an toàn và độ tin cậy cho các tác nhân AI, được bảo chứng bằng bảo hiểm thực tế. Các tác nhân này được kiểm tra chuyên sâu để chống lại các lỗ hổng như jailbreak, hallucination (ảo giác) và rò rỉ dữ liệu. Vấn đề đặt ra là khi các hệ thống tự hành thất bại, ai sẽ chịu trách nhiệm? Thực tế cho thấy, nhiều công ty AI chỉ tập trung tối ưu hóa "happy path" (trường hợp hoạt động lý tưởng) mà bỏ qua các tình huống tấn công hoặc lỗi nghiêm trọng. Tôi nghĩ đến một ví dụ cụ thể như việc một tài khoản Cursor 20 USD có thể góp phần gây ra thiệt hại lên đến 200 triệu USD, hay vụ việc chatbot của Air Canada đã tạo ra tiền lệ về trách nhiệm pháp lý. Thực tế là các tiêu chuẩn AI có thể cần được cập nhật hàng quý thay vì hàng thập kỷ. Tôi cũng nhận thấy một khoảng cách niềm tin ngày càng lớn giữa các phòng thí nghiệm AI tiên phong và chính phủ, đặc biệt trong bối cảnh các rủi ro mới như an ninh mạng do AI hỗ trợ, vũ khí sinh học hay an toàn trẻ em. Dù vậy, tôi tin bảo hiểm có thể đóng vai trò quan trọng trong việc xây dựng lòng tin cho việc triển khai AI trong doanh nghiệp, và các tổ chức như Lloyd’s of London đã bắt đầu bảo hiểm cho các hệ thống AI. Tuy nhiên, quyền sở hữu trí tuệ lại là một trong những rủi ro AI khó bảo hiểm nhất. Rõ ràng, AI cần một cơ chế giám sát độc lập, bởi lẽ các phòng thí nghiệm không thể vừa phát triển vừa tự mình làm "watchdog" một cách hiệu quả, tránh được "The Big Short problem" khi các bên cạnh tranh có thể chạy đua hạ thấp tiêu chuẩn.

Canonical: https://www.tungpham.vn/blog/rui-ro-la-nut-that-cho-ai-khong-phai-nang-luc