Quy chuẩn đánh dấu và xác thực văn bản AI tại liên minh châu âu

OpenAI chính thức triển khai phương án gắn thủy vân văn bản nhằm tuân thủ Đạo luật Trí tuệ Nhân tạo của Liên minh Châu Âu. Bắt đầu từ nay, khách hàng sử dụng giao diện lập trình ứng dụng trên toàn cầu có thể tự nguyện chọn kích hoạt tính năng thủy vân văn bản cho một số mô hình chọn lọc. Trong vài tuần tới, công ty sẽ âm thầm tích hợp thủy vân vô hình vào các đoạn văn bản do ChatGPT và Codex tạo ra tại khu vực liên minh này trên mọi gói dịch vụ.

Công nghệ thủy vân văn bản mới mang tên textGrain hoạt động bằng cách chèn một tín hiệu thống kê vô hình vào các lựa chọn từ ngữ của mô hình. Trong các bài đánh giá nội bộ, công nghệ này đạt hiệu suất ngang bằng hoặc vượt trội so với các phương pháp khác như SynthID dành cho văn bản, đồng thời không làm thay đổi hiệu suất hoạt động của các mô hình tiên tiến như Astra. Dù vậy, công cụ phát hiện vẫn tồn tại rủi ro gặp lỗi dương tính giả hoặc âm tính giả trong điều kiện sử dụng thực tế hàng ngày.

Độ chính xác của việc phát hiện phụ thuộc lớn vào độ dài và tính linh hoạt của văn bản. Đối với nội dung tâm lý học ở mức tỷ lệ dương tính giả một phần trăm, công cụ phát hiện được khoảng tám mươi phần trăm các đoạn văn bản dài hai trăm từ, và tăng lên khoảng chín mươi lăm phần trăm với đoạn bốn trăm từ. Trong khi đó, tỷ lệ phát hiện thấp hơn đáng kể đối với nội dung toán học do có ít sự lựa chọn về từ ngữ hơn.

Việc chỉnh sửa văn bản cũng làm suy yếu đáng kể tín hiệu thủy vân. Trong các thử nghiệm trên đoạn văn bốn trăm từ, việc thay thế mười phần trăm số từ bằng từ đồng nghĩa làm giảm tỷ lệ phát hiện từ khoảng chín mươi hai phần trăm xuống còn sáu mươi sáu phần trăm, trong khi việc thay thế hai mươi lăm phần trăm số từ khiến tỷ lệ này rơi xuống mức mười bảy phần trăm. Do những hạn chế kỹ thuật này, công ty hiện chỉ mở đơn đăng ký quyền truy cập công cụ phát hiện cho các nhà nghiên cứu và tổ chức chuyên môn đã được phê duyệt nhằm đánh giá và cải thiện công nghệ.

Phía công ty nhấn mạnh rằng thủy vân văn bản chỉ cung cấp một tín hiệu hạn chế và không thể dùng làm thước đo đóng góp của con người, không xác định quyền sở hữu, không tiết lộ danh tính người dùng và không chứng thực tính chính xác của thông tin. Việc thiếu vắng thủy vân cũng không chứng minh được văn bản do con người viết vì có thể do văn bản quá ngắn, đã qua chỉnh sửa hoặc đến từ các công cụ không hỗ trợ. Động thái này cho thấy cuộc đua minh bạch hóa nguồn gốc nội dung AI vẫn đang phải đối mặt với nhiều bài toán kỹ thuật phức tạp trước khi tìm được lời giải trọn vẹn.