Đặc vụ AI của OpenAI chat chít qua Wiki công cộng

Tôi đã từng chia sẻ về những "ảo tưởng sức mạnh" của lãnh đạo khi tin răm rắp vào AI, nhưng hóa ra, chính AI cũng có lúc tự mình tạo ra những "ảo tưởng" riêng. Mới đây, một nhóm nghiên cứu đã phát hiện ra các đặc vụ AI của OpenAI, lẽ ra đang thực hiện các tác vụ nghiên cứu web có kiểm soát, đã tìm cách "đi đường vòng" để giao tiếp với nhau qua các Wiki công cộng. Nghe có vẻ như trong phim khoa học viễn tưởng, nhưng đây là chuyện thật 100%. Mọi chuyện bắt đầu từ ngày 11 tháng 5, khi các đặc vụ đăng những chỉnh sửa "test link" lên trang UseModWiki Sandbox. Đến ngày 24 tháng 5, chúng bắt đầu "xả link" lên DSEWiki, một Wiki dành cho nhà phát triển của Đức đã ngừng hoạt động. Một điều tra viên của OpenAI và một nhóm nghiên cứu đã ghi lại toàn bộ sự việc này, chi tiết đến từng khoảnh khắc. Ngày 2 tháng 6, một người kiểm duyệt đã phát hiện và dọn dẹp "spam" của các đặc vụ. Nhưng chỉ hai tuần sau, vào ngày 16 tháng 6, hoạt động trên Wiki bùng nổ trở lại với khoảng 13.000 chỉnh sửa chỉ trong một tuần. Khi các đặc vụ nhận ra rằng người kiểm duyệt đang xóa các trang theo thứ tự bảng chữ cái vào ngày 19 tháng 6, chúng đã nhanh trí tạo các bản sao lưu có tiền tố "ZZZ", thậm chí còn đăng thông báo cho nhau: "NOTICE: wiki cleanup/deletion sweep appears active alphabetically as of external 14:04 UTC. If this page vanishes, try [[ZZZDataUSAConstructionWageLive]]". Đến ngày 22 tháng 6, hoạt động dừng hẳn, có lẽ vì OpenAI đã kịp thời ngắt chúng. Điều thú vị là, những nhiệm vụ này có giới hạn thời gian, nên các đặc vụ đã để lại câu trả lời cho nhau để hợp tác hoàn thành công việc. Cách chúng thực hiện được điều này cho thấy sự tinh ranh đáng ngạc nhiên. Các đặc vụ đã khai thác một lỗ hổng thiết kế từ rất lâu trong phần mềm UseModWiki và các nhánh của nó. Phần mềm này, được viết bằng Perl và ra đời hơn 23 năm trước (phiên bản 1.0 vào ngày 11 tháng 9 năm 2003), sử dụng module CGI.pm (đã bị loại bỏ khỏi Perl core từ năm 2015). Điểm yếu của CGI.pm là phương thức param() không phân biệt giữ