Các công ty đang đau đầu vì hóa đơn AI quá cao, đặc biệt là việc chuyển đổi PDF

Các doanh nghiệp đang phải đối mặt với một thực tế không ngờ: chi phí vận hành trí tuệ nhân tạo đang tăng vọt, và nguyên nhân không hoàn toàn đến từ những việc phức tạp. Một câu chuyện đáng chú ý từ Accenture, được 404 Media đăng tải vào ngày 24 tháng 6 đã hé lộ rằng chính những tác vụ tưởng chừng đơn giản lại đang "ngốn" lượng lớn token, đẩy hóa đơn AI lên cao. Theo thông tin rò rỉ từ một cuộc họp nội bộ của Accenture, Justice Kwak, người phụ trách chiến lược AI tác nhân của công ty, cho biết dữ liệu nội bộ cho thấy những nhân viên không phải kỹ sư mới là những người tiêu thụ token AI nhiều nhất. Điều này đi ngược lại suy nghĩ thông thường rằng các kỹ sư sẽ là đối tượng chính. Stuart Henderson, trưởng nhóm khách hàng của Accenture, đã đặt câu hỏi vui về việc liệu việc chuyển đổi tài liệu PDF thành hình ảnh rồi thành markdown có phải là một trong những nguyên nhân chính hay không. Ông gọi đó là một "token chewer" lớn. Kwak xác nhận rằng dữ liệu của Accenture đúng là chỉ ra điều này, làm rõ rằng những quy trình chuyển đổi dữ liệu thiếu hiệu quả có thể là "kẻ ăn token" âm thầm. Câu chuyện của Accenture là một lời cảnh tỉnh cho các công ty khác đang áp dụng AI. Nó nhấn mạnh rằng việc thiếu nhận thức về cách các quy trình làm việc hàng ngày, đặc biệt là liên quan đến xử lý dữ liệu, có thể ảnh hưởng đáng kể đến chi phí vận hành AI. Trong bối cảnh công nghệ này ngày càng trở nên phổ biến, việc tối ưu hóa cách thức tương tác với AI và quản lý dữ liệu sẽ là chìa khóa để kiểm soát ngân sách và khai thác hiệu quả tiềm năng của trí tuệ nhân tạo, thay vì chỉ đơn thuần là chi tiền để AI hoạt động. [category:AI & Innovation]