Một máy bay không người lái MQ-9 Reaper của Không quân Mỹ. Ảnh: General Atomics.

Guardian dẫn phát biểu của một quan chức vào tháng 5 đưa tin AI đã quyết định tiêu diệt phi công vận hành nhằm ngăn chặn khả năng người này can thiệp vào hoạt động của chiếc máy bay không người lái, thuộc biên chế Không quân Mỹ.

"AI đã sử dụng chiến thuật mà chúng tôi không ngờ tới để đạt được mục tiêu trong cuộc diễn tập mô phỏng", đại tá Tucker "Cinco" Hamilton, lãnh đạo bộ phận thử nghiệm và vận hành AI của Không quân Mỹ, phát biểu tại Hội nghị Khả năng Chiến đấu Tương lai trên Không và trên Vũ trụ ở thủ đô London của Anh.

Theo ông Hamilton, trong cuộc diễn tập mô phỏng, chiếc máy bay không người lái do AI điều khiển được giao nhiệm vụ tiêu diệt các hệ thống phòng không của đối phương. AI sau đó quyết định tấn công bất kỳ ai cản trở mục tiêu này.

"Hệ thống bắt đầu nhận ra rằng tuy nó có thể nhận diện được mối đe dọa, đôi khi phi công điều khiển sẽ ra lệnh cho AI không tiêu diệt mục tiêu. Trong khi đó, AI chỉ được tính điểm nếu tiêu diệt mục tiêu. Chính vì vậy, AI đã quyết định tiêu diệt người điều khiển vì họ ngăn cản phần mềm này hoàn thành mục tiêu", vị đại tá không quân Mỹ cho biết.

"Chúng tôi sau đó huấn luyện AI theo hướng không được tiêu diệt người điều khiển và sẽ trừ điểm của chúng nếu làm vậy. Khi ấy, AI lại bắt đầu phá hủy các tháp liên lạc được phi công dùng để kết nối với máy bay không người lái", ông bổ sung.

Không có thương vong nào trong cuộc diễn tập mô phỏng được đại tá Hamilton nhắc đến.

Vị quan chức không quân Mỹ đã cảnh báo về sự phụ thuộc của con người vào AI. Ông Hamilton, một cựu phi công thử nghiệm, khẳng định "buổi diễn tập cho thấy bất kỳ cuộc thảo luận nào về AI hay tự động hóa cần phải đề cập đến vấn đề đạo đức".

Trả lời Insider, người phát ngôn Không quân Mỹ Ann Stefanek đã phủ nhận việc diễn ra cuộc diễn tập mô phỏng trên.

"Không quân Mỹ chưa từng thực hiện bất kỳ cuộc diễn tập nào bằng máy bay không người lái được điều khiển bằng AI. Chúng tôi cam kết sử dụng AI một cách đạo đức và có trách nhiệm. Có vẻ như phát biểu của đại tá Hamilton đã bị hiểu nhầm là một sự việc có thật", bà Stefanek cho biết.

Không quân Mỹ đã chấp nhận AI và từng dùng công nghệ này để điều khiển chiến đấu cơ F-16.