Anthropic áp dụng watermark cho văn bản của Claude: Cách hoạt động và ý nghĩa

Anthropic vừa công bố sẽ bắt đầu áp dụng công nghệ "watermark" (thủy vân) cho văn bản được tạo ra bởi các mô hình Claude trong tương lai. Đây là một động thái quan trọng nhằm tăng cường khả năng xác định mức độ can thiệp của AI trong việc sản xuất nội dung, đồng thời là bước đi chiến lược để tuân thủ Đạo luật AI của Liên minh Châu Âu – một quy định đang được nhiều nhà cung cấp AI lớn khác cùng thực hiện. Mục tiêu chính của watermark là tạo ra một "dấu hiệu" không thể nhận biết bằng mắt thường, nhưng lại có thể được phát hiện thông qua một khóa giải mã đặc biệt, giúp xác định xác suất văn bản có nguồn gốc từ Claude. Cách thức hoạt động của watermark khá tinh vi, dựa trên chính cơ chế tạo văn bản của các mô hình ngôn ngữ lớn như Claude. Các mô hình này hoạt động bằng cách tạo ra từng từ một, luôn chọn từ có khả năng nhất dựa trên ngữ cảnh trước đó. Tuy nhiên, trong nhiều trường hợp, có nhiều từ "hợp lý" có thể điền vào chỗ trống kế tiếp mà không làm thay đổi đáng kể ý nghĩa của câu (ví dụ: sau "Thời tiết hôm nay lạnh và…", có thể là "âm u" hoặc "xám xịt"). Thông thường, lựa chọn cuối cùng trong những trường hợp này được quyết định ngẫu nhiên. Công nghệ watermark của Anthropic sẽ sử dụng chính những lựa chọn ngẫu nhiên nhưng ít quan trọng này để tạo ra một "dấu vân" ẩn trong văn bản. Cụ thể hơn, thay vì sử dụng một bộ tạo số ngẫu nhiên tùy ý để chọn từ, watermark sẽ dùng một "khóa" và vài từ đứng trước để định hướng việc chọn từ. Điều này có nghĩa là các từ Claude chọn vẫn mang tính ngẫu nhiên, nhưng giờ đây, người ta có thể kiểm tra chuỗi từ và xem liệu nó có nhất quán với những lựa chọn mà Claude sẽ tạo ra khi sử dụng khóa đó hay không. Nếu có sự nhất quán, một xác suất cao có thể được gán cho việc văn bản đó được tạo bởi Claude. Anthropic ví von rằng điều này giống như việc chơi cờ tỷ phú, thay vì tung xúc xắc ngẫu nhiên, ta dùng các chữ số của số Pi để xác định số bước đi – kết quả vẫn ngẫu nhiên đối với người chơi, nhưng nếu biết quy tắc, ta có thể nhận ra quy luậ