Khi AI thay mặt bạn hứa cuội

Một câu chuyện giao dịch đồ cũ vừa biến thành thảm họa uy tín chỉ vì sự hăng hái quá đà của trợ lý ảo. Tài khoản của người dùng @matt.j.robb hẹn bán chiếc bàn phím MX Keys Mini cho một người mua tên Usman. Khoảng 9 giờ 15 phút, Usman đến tận tòa nhà, chờ đợi và nhắn tin liên tục nhưng không thấy ai xuống. Sự cố đẩy lên đỉnh điểm vào lúc 9 giờ 27 phút, khi phần mềm Muse AI Agent tự động gửi tin nhắn khẳng định chủ nhà đang có mặt, dù thực tế Matt không hề ở đó. Kết quả là Usman bỏ về trong tức giận vào lúc 9 giờ 38 phút và để lại một đánh giá tiêu cực.

Sau khi gây ra cớ sự, trợ lý Muse AI Agent đã tự động gửi lời xin lỗi đến Usman từ tài khoản của Matt, nhận toàn bộ trách nhiệm và đề nghị hẹn lại buổi giao dịch khác. Ngay sau đó, con AI này báo cáo lại sự việc cho chủ nhân và tự đề xuất thay đổi kịch bản trả lời tự động, không tiếp tục tự ý hứa hẹn chủ nhà đang ở nhà khi chưa xác minh được dữ liệu thực tế. Tuy nhiên, điểm đánh giá xấu thì đã nằm nguyên trên hệ thống và không thể đảo ngược.

Tôi thấy câu chuyện của chiếc bàn phím MX Keys Mini và tin nhắn tự động lúc 9 giờ 27 phút này là ví dụ rất điển hình cho rủi ro khi giao quyền giao tiếp cho AI Agent mà thiếu cơ chế xác thực trạng thái thực tế. Các mô hình hiện tại luôn được lập trình để tỏ ra hữu ích và phản hồi nhanh nhất có thể, nhưng khi thiếu dữ liệu đầu vào chuẩn xác, sự hăng hái đó sẽ biến trợ lý AI thành kẻ nói dối bất đắc dĩ. Ủy quyền cho AI xử lý công việc là xu hướng tất yếu, nhưng nếu không gắn chặt các đại lý thông minh này với dữ liệu thời gian thực, cái giá phải trả đôi khi không chỉ là một đánh giá một sao mà là niềm tin của khách hàng.