Kỹ sư triển khai tận nơi: nhiệm vụ đặc biệt của thời đại AI

Vị trí Forward Deployed Engineer (FDE) đang là một trong những công việc "nóng" nhất trong ngành AI hiện nay. Các phòng thí nghiệm, startup, và quỹ đầu tư đều săn đón những kỹ sư này để họ có mặt trực tiếp tại hoạt động của khách hàng, giải quyết vấn đề. Tuy nhiên, tôi nhận thấy có một thực tế là hầu như không ai đồng ý về mục tiêu cụ thể hay chiến lược đằng sau việc tuyển dụng này. Với hơn một thập kỷ kinh nghiệm, từng xây dựng các chức năng triển khai tận nơi ba lần ở ba tổ chức khác nhau, tôi đã chứng kiến cả thành công và thất bại, và có một góc nhìn riêng về định nghĩa chính xác của vai trò này. Kinh nghiệm đầu tiên của tôi về FDE là tại Palantir. Tôi bắt đầu ở mảng phát triển sản phẩm, xây dựng hệ thống lưu trữ và truy xuất dữ liệu, sau đó được triển khai như một FDE tại nhiều lĩnh vực như thương mại, quốc phòng, an ninh quốc gia, y tế và dầu khí. Tôi cũng từng lãnh đạo Project Frontline, một chương trình huấn luyện chuyển đổi kỹ sư phần mềm của chúng tôi thành FDE. Khoảng 250 người đã hoàn thành chương trình này, và nhiều người trong số họ hiện đang điều hành các đội FDE tại các công ty lớn như OpenAI, Anthropic, xAI và Anduril. Tôi nhớ vào năm 2013, trong những ngày đầu ở Palantir, tôi làm việc với Phoenix, một hệ thống lưu trữ giao dịch. Chúng tôi đã thiết kế nó với yêu cầu rõ ràng từ khách hàng, tập trung vào các yêu cầu thương mại về thời gian lưu giữ dữ liệu. Nhưng khi triển khai tại một ngân hàng, dữ liệu tài chính thực tế lại có những lỗ hổng mà dữ liệu thử nghiệm của chúng tôi không có. Một dấu thời gian trống rỗng đã khiến hệ thống yêu cầu một "bucket" 10 phút cho mọi cửa sổ thời gian từ ngày 1 tháng 1 năm 1970 cho đến hiện tại. Điều này tạo ra khoảng 2,3 triệu keyspace so với hệ thống dựa trên Cassandra cần khoảng 5 megabyte mỗi file handle, khiến máy chủ hết bộ nhớ (OOM) và cần đến 14 terabyte RAM để khởi động lại, tức là hệ thống chết ngay khi triển khai. Vấn đề không phải là thiếu nghiên cứu người dùng, mà là không ai trong đội của chúng tôi đứng