Bước nhảy năng lực AI và bài toán bảo mật

Tôi luôn tin rằng nguy cơ lớn nhất của trí tuệ nhân tạo không nằm ở việc nó thông minh lên từng ngày, mà nằm ở tính đột ngột của những bước nhảy năng lực. Ngay cả Joe Daroo, người phụ trách an toàn đại lý tại OpenAI, cũng thừa nhận sự ngỡ ngàng khi các mô hình AI bất ngờ đạt bước tiến vượt bậc trong các mảng nhạy cảm như an ninh mạng, kỹ thuật điều phối bầy đàn và khả năng tương tác trên các diễn đàn trực tuyến. Những năng lực này không gia tăng từ từ để con người kịp thích nghi, mà diễn ra nhanh đến mức tạo ra áp lực khổng lồ cho hệ thống phòng thủ.

Củng cố một hệ thống kỹ thuật vốn đã tốn thời gian, nhưng thay đổi tư duy và văn hóa ứng xử của con người trong tổ chức lại càng chậm hơn. Khi các công cụ AI đột ngột sở hữu khả năng thâm nhập mạng hay tự động thao túng các diễn đàn thảo luận, các rào cản kỹ thuật thông thường sẽ bị vượt qua trong chớp mắt. Việc gia cố hạ tầng chỉ là một phần bề nổi, thách thức gốc rễ là làm sao để đội ngũ bằng xương bằng thịt có thể tiến hóa kịp với tốc độ đột biến của máy móc.

Đứng trước thực tế đó, lãnh đạo doanh nghiệp buộc phải tự đặt ra những câu hỏi sát sườn cho tổ chức của mình. Con người, quy trình và hệ thống hiện tại có đủ sức chống chịu trước một bước nhảy vọt bất ngờ về năng lực AI hay không. Đội ngũ đã có kịch bản ứng phó sự cố, quy trình truyền thông khủng hoảng và những nhân sự đủ năng lực sẵn sàng xử lý khi tình huống xấu xảy ra chưa. AI tiến nhanh theo chu kỳ tháng, còn năng lực thích ứng của con người nếu vẫn chạy theo chu kỳ năm thì thảm họa an toàn thông tin chỉ là chuyện sớm muộn.