AI nội bộ: Tương lai của sự kiểm soát

Tại hội nghị AI Engineer World’s Fair năm nay, một chủ đề nổi bật là sự lên ngôi của AI nội bộ, hay nói cách khác là các mô hình AI chạy trên chính máy tính, máy trạm hoặc phần cứng chuyên dụng của người dùng. Đây là điều mà Ahmad Osman, nhà sáng lập Osmantic – công ty chuyên xây dựng phần mềm mã nguồn mở để triển khai và vận hành hệ thống AI nội bộ – đã luôn kiên trì ủng hộ từ rất lâu. Cá nhân tôi thấy đây là một dấu hiệu tích cực, khi các mô hình ngôn ngữ lớn (LLM) mã nguồn mở đang ngày càng trở thành những lựa chọn thay thế đáng tin cậy, thay vì chỉ phụ thuộc vào các mô hình "biên giới" độc quyền và khổng lồ. Ahmad Osman đã nhấn mạnh điều này với Latent Space rằng "khoảng cách giữa các mô hình mã nguồn mở và các mô hình biên giới đóng đang ngày càng thu hẹp". Trên website "Open Source AI Must Win", ông còn khẳng định khả năng tự nghiên cứu, xây dựng, sửa chữa, triển khai, kiểm toán, điều chỉnh, giảng dạy, bảo tồn và vận hành hệ thống trí tuệ mà không cần xin phép là một điều có ý nghĩa sống còn. Để giúp mọi người hình dung rõ hơn, tại AIEWF, Osman đã tổ chức hai buổi workshop chuyên sâu về LLM và tác nhân AI chạy trên máy trạm. Nhu cầu tham gia lớn đến mức tôi nghe nói nhiều người đã không có chỗ. Các buổi này đã chứng minh tốc độ phát triển chóng mặt của lĩnh vực này, từ các mô hình có thể chạy trên điện thoại, máy tính xách tay, cho đến các máy trạm GPU chuyên dụng và cơ sở hạ tầng cấp doanh nghiệp. Tôi thấy ấn tượng khi những người tham dự rất đa dạng, không chỉ là những người đam mê phần cứng, mà còn có cả sinh viên đang cân nhắc mua chiếc máy có khả năng AI đầu tiên cho đến các lãnh đạo doanh nghiệp đang tìm kiếm giải pháp định tuyến mô hình, xây dựng hạ tầng riêng và kiểm soát dữ liệu công ty. Chúng tôi đã chuẩn bị một website "sân đấu phần cứng" để mọi người tự so sánh các hệ thống như DGX Spark, AMD Strix Halo với một mô hình đám mây "biên giới", từ đó tự đánh giá hiệu suất, chất lượng đầu ra, tốc độ và độ trễ. Mục tiêu là để AI nội bộ trở nên "thật" hơn,