Động thái trên diễn ra trong bối cảnh ngày càng nhiều nhà nghiên cứu cảnh báo năng lực của AI có thể tiến nhanh hơn khả năng hiểu và kiểm soát của con người.
Ngày 12/9, CEO Dario Amodei của Anthropic công bố bài luận We Must Pace the Frontier (Tạm dịch: Chúng ta phải kiềm chế tốc độ của các mô hình hàng đầu). Ông cho rằng chỉ tăng đầu tư cho an toàn AI không còn đủ. Các phòng thí nghiệm cần chủ động giảm tốc độ cải thiện năng lực mô hình để những biện pháp kiểm soát có thời gian bắt kịp.
Chúng
ta
phải
làm
chậm
tốc
độ
cải
thiện
năng
lực
của
các
mô
hình
AI
Dario Amodei, CEO Anthropic
Nỗi lo AI tự cải thiện
Theo CEO Anthropic, việc giảm tốc không đồng nghĩa với ngừng nghiên cứu. AI vẫn có thể tiếp tục tiến bộ nhanh. Tuy nhiên, khoảng thời gian có thêm cần được dành cho nghiên cứu rủi ro, hoàn thiện hệ thống giám sát và xây dựng các tiêu chuẩn an toàn.
Lời kêu gọi nhanh chóng nhận được sự ủng hộ từ những đối thủ trực tiếp của Anthropic.
Elon Musk, CEO xAI viết ngắn gọn trên X rằng "Dario nói đúng". Trong khi đó, CEO Sam Altman của OpenAI cũng đồng tình với quan điểm cần điều chỉnh tốc độ phát triển AI.
Các mô hình AI đang liên tục tự cải tiến chính mình. Ảnh: Bloomberg.
Dario
nói
đúng.
Elon Musk, CEO xAI — viết trên X
Trước đó, Altman đã nói với nhân viên rằng công ty sẵn sàng làm chậm quá trình phát triển các hệ thống tiên tiến nhất. Sau bài luận của Amodei, ông cho biết chủ đề này đã trở thành một phần quan trọng trong những cuộc thảo luận gần đây tại OpenAI.
Một trong những lý do chính khiến Amodei muốn giảm tốc là khả năng AI ngày càng đóng vai trò lớn trong việc xây dựng thế hệ AI tiếp theo.
Quá trình này thường được gọi là "recursive self-improvement" hay
tự cải thiện liên tục
. Các hệ thống AI có thể hỗ trợ nghiên cứu, viết mã, đánh giá và cải thiện mô hình kế nhiệm. Khi mỗi thế hệ lại góp phần tạo ra hệ thống mạnh hơn, tốc độ phát triển có thể tăng nhanh hơn dự kiến.Vòng lặp trong đó AI tham gia nghiên cứu, viết mã và đánh giá chính thế hệ kế nhiệm của nó — khiến tốc độ phát triển có thể vượt ngoài khả năng theo dõi của con người.
Amodei cho rằng những dấu hiệu đầu tiên của quá trình này đã xuất hiện. Nếu tốc độ cải thiện vượt quá khả năng theo dõi của các nhà nghiên cứu, con người có thể gặp khó khăn trong việc hiểu chính xác một hệ thống đang làm gì và vì sao nó hành động như vậy.
Đề xuất kiểm soát các phòng thí nghiệm AI
Để xử lý vấn đề, Amodei đưa ra khuôn khổ gồm 3 cấp độ. Đầu tiên, những phòng thí nghiệm tiên phong như Anthropic và OpenAI có thể tự nguyện mở hệ thống cho các chuyên gia đánh giá độc lập. Những người này cần được tiếp cận đủ sâu để xác minh doanh nghiệp có thực hiện đúng các cam kết an toàn hay không.
Bước tiếp theo là xây dựng tiêu chuẩn chung trên toàn ngành. Điều này giúp tránh tình trạng một công ty chịu bất lợi vì tự nguyện giảm tốc, trong khi đối thủ vẫn tiếp tục tăng tốc.
Cuối cùng là phối hợp ở cấp chính phủ và quốc tế. Theo CEO Anthropic, một thỏa thuận chỉ giữa các doanh nghiệp Mỹ khó có hiệu quả nếu các công ty tại những quốc gia khác tiếp tục phát triển AI với tốc độ tối đa.
CEO Anthropic đề xuất giải pháp kiểm soát các phòng thí nghiệm AI. Ảnh: Bloomberg.
Đây cũng là điểm khiến cuộc tranh luận chuyển từ vấn đề công nghệ sang địa chính trị.
Tại Washington, một số nhà lập pháp lo rằng việc Mỹ đơn phương giảm tốc có thể tạo cơ hội để Trung Quốc giành ưu thế trong cuộc đua AI. Tổng thống Donald Trump cũng cho thấy ưu tiên lớn hơn của ông là cạnh tranh công nghệ.
Không phải mọi nhà lập pháp đều tin những cam kết tự nguyện của các công ty có thể giải quyết vấn đề. Hạ nghị sĩ Josh Gottheimer cho rằng chính các phòng thí nghiệm đang kêu gọi giảm tốc lại là những bên chạy đua mạnh nhất.
Nếu Dario và Elon thực sự lo lắng, họ có thể giảm tốc ngay tại phòng thí nghiệm của mình.
Josh Gottheimer, Hạ nghị sĩ Mỹ, nói với Politico
Tranh cãi về việc tự giám sát
Jensen Huang, CEO Nvidia gần đây đặt câu hỏi về cách các phòng thí nghiệm AI nói về rủi ro an ninh mạng. Ông cho rằng doanh nghiệp cũng có lợi ích thương mại khi nhấn mạnh những vấn đề mà sản phẩm của họ có thể giải quyết.
Việc giám sát vấp phải ý kiến trái chiều từ nhiều công ty AI lớn. Ảnh: Bloomberg.
Còn cách nào tốt hơn để tạo ra nhu cầu ngoài việc gây ra vấn đề không?
Jensen Huang, CEO Nvidia
Clément Delangue, CEO Hugging Face lại nhấn mạnh vấn đề minh bạch. Ông cho rằng an toàn AI không nên được giải quyết "sau những cánh cửa đóng kín" của một số ít phòng thí nghiệm tiên phong.
Các ý kiến trái chiều cho thấy chưa có sự đồng thuận về cách giảm rủi ro của các mô hình AI mới nhất, trong khi không kìm hãm tốc độ phát triển hoặc tạo lợi thế cho một nhóm doanh nghiệp.
Amodei vẫn khẳng định ông tin AI có thể mang lại những lợi ích lớn cho y học, kinh tế và xã hội. Điều thay đổi là mức độ thận trọng cần thiết khi công nghệ tiến gần hơn đến những khả năng mà chính các nhà phát triển cũng khó dự đoán.
