Thông số quan trọng nhất trên smartphone hiện tại

AI chạy trực tiếp trên smartphone đang tạo thêm yêu cầu về bộ nhớ, khiến RAM trở thành thông số được chú ý hơn trên các thiết bị mới. Ảnh: AndroidAyuda.

RAM thường được xem là thông số giúp smartphone chạy nhiều ứng dụng cùng lúc. Một thiết bị có nhiều RAM hơn có thể giữ nhiều ứng dụng trong bộ nhớ, hạn chế việc phải tải lại khi người dùng chuyển đổi.

Tuy nhiên, vai trò này đang thay đổi khi AI được đưa trực tiếp lên smartphone. Thay vì gửi toàn bộ yêu cầu lên máy chủ, một phần tác vụ có thể được xử lý ngay trên thiết bị. Google hiện sử dụng Gemini Nano cho các tính năng như tóm tắt, viết lại, đọc hiểu hình ảnh và nhận diện giọng nói trên Android.

Để làm được điều đó, smartphone không chỉ cần chip xử lý AI mà còn phải có đủ bộ nhớ để chứa và vận hành mô hình. Đây là một trong những lý do RAM ngày càng được chú ý khi các hãng phát triển thế hệ smartphone mới.

AI cần rất nhiều bộ nhớ

Một mô hình AI gồm rất nhiều tham số, có thể hình dung như những giá trị được sử dụng để tạo ra kết quả từ dữ liệu đầu vào. Khi AI chạy trên thiết bị, một phần các tham số này phải được đưa vào bộ nhớ để bộ xử lý có thể sử dụng trong quá trình suy luận.

Ngoài trọng số của mô hình, hệ thống còn phải dành bộ nhớ cho dữ liệu đầu vào, kết quả trung gian và ngữ cảnh mà AI đang xử lý. Khi yêu cầu trở nên phức tạp hơn, lượng dữ liệu cần giữ trong bộ nhớ cũng có thể tăng theo.

Counterpoint Research gọi đây là một trong những rào cản lớn đối với AI chạy trực tiếp trên thiết bị. Theo hãng nghiên cứu, các mô hình AI hiện đại cần một lượng bộ nhớ đáng kể ngay cả trước khi bắt đầu suy luận. Mô hình càng lớn càng tạo áp lực lên dung lượng và băng thông bộ nhớ của thiết bị.

NPU đảm nhiệm các tác vụ AI trực tiếp trên smartphone, nhưng thiết bị vẫn cần đủ bộ nhớ để vận hành mô hình. Ảnh: Intel Core.

Đây cũng là lý do các hãng chip không chỉ tăng sức mạnh NPU mà còn chú trọng đến hệ thống bộ nhớ. Qualcomm cho biết kiến trúc Hexagon NPU thế hệ mới được thiết kế với bộ nhớ dùng chung lớn hơn 50%, giúp giữ nhiều dữ liệu của mô hình, dữ liệu trung gian và trạng thái xử lý gần NPU hơn. Cách tiếp cận này nhằm giảm việc phải liên tục truy xuất bộ nhớ ngoài và cải thiện tốc độ phản hồi của AI.

Điều này cho thấy RAM không phải yếu tố duy nhất quyết định khả năng chạy AI. NPU, CPU, GPU, băng thông bộ nhớ và cách mô hình được tối ưu hóa đều đóng vai trò quan trọng. Các kỹ thuật như lượng tử hóa cũng có thể giảm kích thước mô hình và lượng bộ nhớ cần thiết. Qualcomm từng sử dụng lượng tử hóa để đưa mô hình Stable Diffusion lên thiết bị Android, qua đó giảm nhu cầu về băng thông bộ nhớ và mức tiêu thụ điện.

Từ 8 GB lên 16 GB để dành chỗ cho AI

Sự thay đổi này bắt đầu thể hiện rõ hơn trên các smartphone cao cấp. Galaxy S26 của Samsung có tùy chọn 12 GB RAM, trong khi phiên bản 1 TB được trang bị 16 GB RAM. Hãng đồng thời đưa Galaxy AI vào sâu hơn trong trải nghiệm của thiết bị.

Các smartphone cao cấp ngày càng được trang bị dung lượng RAM lớn hơn khi AI được đưa sâu vào trải nghiệm trên thiết bị. Ảnh: The Verge.

Apple cũng cho thấy mối liên hệ trực tiếp giữa bộ nhớ và AI. Theo Apple, mô hình AI mạnh nhất chạy trực tiếp trên thiết bị để hỗ trợ các tính năng như giọng nói biểu cảm và đọc chính tả nâng cao yêu cầu ít nhất 12 GB bộ nhớ hợp nhất. Những thiết bị không đạt mức này không thể sử dụng mô hình nói trên.

Khác với cách gọi RAM truyền thống trên smartphone Android, Apple sử dụng kiến trúc bộ nhớ hợp nhất, trong đó CPU, GPU và các bộ xử lý khác cùng truy cập một vùng bộ nhớ. Vì vậy, con số 12 GB trên iPhone không nên được so sánh tuyệt đối với 12 GB RAM trên một thiết bị Android. Tuy nhiên, yêu cầu bộ nhớ tối thiểu của Apple vẫn cho thấy AI đang tạo thêm áp lực lên tài nguyên bộ nhớ của thiết bị.

Xu hướng này có thể tiếp tục khi AI chuyển từ những tác vụ đơn giản như chỉnh sửa ảnh, tóm tắt văn bản sang trợ lý có khả năng hiểu ngữ cảnh dài, xử lý hình ảnh, âm thanh và thực hiện nhiều tác vụ liên tiếp.

Tuy nhiên, điều đó không có nghĩa smartphone sẽ liên tục tăng RAM chỉ để chạy AI. Các hãng đang tìm cách giảm yêu cầu bộ nhớ bằng những mô hình nhỏ hơn, kỹ thuật lượng tử hóa và kiến trúc AI chỉ kích hoạt một phần mô hình khi cần. Những phương pháp này giúp giảm lượng tính toán trong từng tác vụ, nhưng không loại bỏ hoàn toàn nhu cầu về bộ nhớ lớn.