Cửa sổ chính sách AI đang mở, cần hành động khẩn trương

Khả năng của trí tuệ nhân tạo đã bước vào một chương mới, và điều đó đòi hỏi một chương mới trong chính sách quản lý AI. Tôi tin không một công ty, ngành công nghiệp hay chính phủ nào có thể đơn độc đương đầu với thách thức này; chúng ta cần hành động một cách quyết liệt thay vì chờ đợi sự hoàn hảo về mặt chính sách. Giám đốc Khoa học Jakub Pachocki của chúng tôi từng viết rằng sự trỗi dậy nhanh chóng của trí tuệ máy móc, bao gồm tiềm năng tự cải tiến đệ quy, đòi hỏi "cảnh giác cực độ". Tại OpenAI, chúng tôi vẫn tiếp tục tìm kiếm các giải pháp kỹ thuật cho vấn đề căn chỉnh (alignment), giám sát, xây dựng hệ thống phòng thủ và sẵn sàng làm chậm quá trình phát triển khi cần thiết. Tuy nhiên, công việc kỹ thuật trong từng phòng thí nghiệm riêng lẻ sẽ không đủ. Chúng ta cần có những tiêu chuẩn chung, bao gồm cả khi nào thì quá trình phát triển nên được làm chậm hoặc dừng lại. Mức độ rủi ro rất lớn. AI tiên tiến có thể đẩy nhanh việc phát triển thuốc mới, củng cố hạ tầng quan trọng, mở rộng cơ hội kinh tế và giúp giải quyết các vấn đề khoa học mà con người đã nỗ lực qua nhiều thế hệ. Nhưng những khả năng làm cho các mô hình trở nên hữu ích cũng đi kèm với rủi ro, và chúng sẽ không còn bị giới hạn trong một vài phòng thí nghiệm tiên phong nữa. Các mô hình phát triển trên khắp thế giới, bao gồm cả các mô hình mã nguồn mở, sẽ ngày càng tiếp cận được với trình độ tiên tiến hiện tại và trở nên phổ biến rộng rãi. Chính những khả năng của mô hình Astra, bằng chứng ban đầu về sự tăng tốc nghiên cứu do AI thúc đẩy, cùng với bài viết của Jakub đều cho thấy một xu hướng: AI đang tiến bộ nhanh chóng và chính sách cần phải theo kịp. Greg Brockman từng mô tả về một "cửa sổ phòng thủ" – một khoảng thời gian giới hạn khi AI tiên phong có thể giúp củng cố các hệ thống quan trọng trước khi các năng lực tấn công mạnh mẽ trở nên phổ biến. Các nhà hoạch định chính sách cũng đang đối mặt với một khoảnh khắc tương tự: một "cửa sổ đóng lại" để thiết lập các biện pháp bảo vệ bền vững trước khi k