HieuNang.comHiệu Năng
CPU và card đồ hoạ máy tính

NPU trên máy tính mới đo bằng TOPS: người dùng thường có cần quan tâm không

NPU là khối xử lý chuyên cho tác vụ AI, đo bằng TOPS. Người dùng thường chỉ cần quan tâm khi muốn dùng tính năng AI cần NPU. Đọc con số TOPS và giới hạn của nó.

A Vietnamese woman on a video call from a bright apartment balcony in Nha Trang, laptop camera facing her blurred silhouette, potted plants, soft sea light, warm amber accents

NPU là khối xử lý chuyên làm các phép tính của tác vụ AI, đặt ngay trong chip của nhiều máy tính mới; TOPS là đơn vị cho biết NPU làm được bao nhiêu nghìn tỉ phép tính mỗi giây. Với người dùng thường, NPU chỉ đáng quan tâm khi bạn muốn dùng những tính năng AI của hệ điều hành hay phần mềm yêu cầu NPU, như làm mờ nền, khử ồn khi họp, phụ đề trực tiếp chạy ngay trên máy.

Bài này giải thích NPU khác CPU và card đồ hoạ ở đâu, cách đọc con số TOPS cho đúng và vì sao không nên so TOPS như so điểm tổng, những việc NPU thật sự đang làm hôm nay, và vài câu hỏi giúp bạn quyết định có cần ưu tiên NPU khi chọn máy hay không. Khái niệm AI chạy trên thiết bị có các trang chuyên đề riêng; bài này chỉ đứng ở góc phần cứng và hiệu năng. Tính năng và yêu cầu thay đổi nhanh, hãy kiểm thông tin hiện hành.

NPU là gì, khác CPU và card đồ hoạ thế nào

Các tác vụ AI như nhận dạng giọng nói, tách người khỏi nền ảnh hay khử ồn đều quy về một kiểu phép tính lặp lại rất nhiều lần: nhân và cộng những ma trận số lớn, thường với độ chính xác thấp. CPU làm được, nhưng tốn điện và chậm vì CPU được thiết kế cho đủ loại việc. Card đồ hoạ làm rất nhanh nhờ hàng nghìn đơn vị tính song song, nhưng cũng tiêu nhiều điện.

NPU là khối được thiết kế chỉ để làm kiểu phép tính đó, với điện năng rất thấp. Nó không nhanh hơn card đồ hoạ rời mạnh, nhưng làm cùng việc nhẹ với mức điện nhỏ hơn nhiều lần. Đây chính là lý do NPU có mặt: để các tính năng AI chạy liên tục trong nền, như làm mờ nền suốt buổi họp hai tiếng, mà không làm laptop nóng lên và hao pin.

Trên điện thoại, NPU đã có từ nhiều năm và lo phần lớn xử lý ảnh, nhận dạng giọng nói. Trên máy tính, NPU mới phổ biến trong vài thế hệ chip gần đây, kể cả chip x86 lẫn chip ARM. Nhiều máy tính đời trước không có NPU, hoặc có NPU rất nhỏ.

TOPS là gì và đọc thế nào cho đúng

TOPS là viết tắt của nghìn tỉ phép tính mỗi giây. Một NPU ghi 40 TOPS, về lý thuyết, làm được bốn mươi nghìn tỉ phép tính mỗi giây ở độ chính xác mà nhà sản xuất chọn để đo, thường là số nguyên tám bit. Con số này là mức đỉnh lý thuyết, đạt được khi mọi đơn vị tính đều bận và dữ liệu luôn sẵn sàng, điều hiếm khi xảy ra trong ứng dụng thật.

Có ba điểm cần cẩn thận khi đọc TOPS. Thứ nhất, độ chính xác dùng để đo: cùng một NPU, đo ở độ chính xác thấp hơn sẽ ra số TOPS cao hơn, nên hai hãng đo khác cách thì không so được. Thứ hai, có hãng ghi TOPS của riêng NPU, có hãng ghi tổng TOPS của cả CPU, card đồ hoạ và NPU cộng lại; tổng thì luôn lớn hơn nhiều. Thứ ba, TOPS không nói gì về băng thông bộ nhớ, thứ thường giới hạn tốc độ thật của tác vụ AI.

Vì vậy, coi TOPS như một ngưỡng thì hữu ích hơn coi nó như điểm số. Một số tính năng AI của hệ điều hành đặt yêu cầu tối thiểu về TOPS của NPU, ví dụ một mức trên dưới 40 TOPS cho một số tính năng của Windows ở thời điểm gần đây. Máy đạt ngưỡng thì dùng được tính năng, không đạt thì không. Vượt ngưỡng nhiều hay ít ít ảnh hưởng tới trải nghiệm hằng ngày. Ngưỡng này có thể thay đổi, hãy kiểm yêu cầu hiện hành.

NPU đang làm gì hôm nay, việc gì vẫn thuộc card đồ hoạ

Bảng dưới phân loại các tác vụ AI thường gặp trên máy tính theo khối xử lý hay đảm nhận. Phân loại tuỳ phần mềm và phiên bản; có phần mềm chọn chạy trên card đồ hoạ dù máy có NPU.

Tác vụKhối thường đảm nhậnVì sao
Làm mờ nền, căn khung khi gọi videoNPUChạy liên tục, cần tiết kiệm điện
Khử ồn micro, tách giọng khi họpNPU hoặc CPUNhẹ, chạy nền suốt buổi
Phụ đề trực tiếp, nhận dạng giọng nói trên máyNPULiên tục, cần độ trễ thấp
Tìm kiếm ảnh theo nội dung trong thư viện máyNPUChạy nền khi máy rảnh
Tạo ảnh bằng mô hình lớnCard đồ hoạCần sức tính và bộ nhớ lớn
Chạy mô hình ngôn ngữ cỡ lớn trên máyCard đồ hoạ hoặc bộ nhớ hợp nhấtCần nhiều bộ nhớ, băng thông cao
Hiệu ứng AI trong phần mềm dựng videoCard đồ hoạ là chínhTuỳ phần mềm có hỗ trợ NPU chưa

Đọc bảng sẽ thấy NPU hiện mạnh ở các việc nhẹ, chạy liên tục. Những việc AI nặng vẫn do card đồ hoạ rời gánh, và ở đó VRAM với sức tính của card quan trọng hơn số TOPS của NPU.

NPU trên máy tính và NPU trên điện thoại khác nhau ở đâu

Người dùng điện thoại đã quen với NPU mà không biết: mỗi lần chụp ảnh chế độ chân dung, ảnh đêm hay gõ bằng giọng nói, NPU trong chip điện thoại làm phần lớn công việc. Trên điện thoại, nhà sản xuất kiểm soát cả chip, hệ điều hành lẫn ứng dụng camera, nên họ viết phần mềm để tận dụng NPU ngay từ đầu. Người dùng nhận lợi ích mà không cần biết NPU có bao nhiêu TOPS.

Trên máy tính, câu chuyện phân tán hơn. Chip do một hãng làm, hệ điều hành do hãng khác, ứng dụng do hàng nghìn nhà phát triển khác nhau. Mỗi ứng dụng phải tự quyết có dùng NPU hay không, qua những bộ công cụ lập trình còn đang hoàn thiện. Kết quả là trên cùng một máy có NPU mạnh, có ứng dụng dùng NPU rất tốt, có ứng dụng bỏ qua NPU hoàn toàn và chạy AI trên card đồ hoạ hay CPU.

Điều này giải thích vì sao lợi ích của NPU trên máy tính hiện nay chưa đồng đều như trên điện thoại. Nó cũng gợi ý cách đánh giá: đừng hỏi NPU mạnh bao nhiêu, hãy hỏi những ứng dụng bạn dùng hằng ngày có dùng NPU chưa. Khi câu trả lời là có, lợi ích về pin và nhiệt thường rõ ràng; khi câu trả lời là chưa, số TOPS cao chỉ nằm trên giấy.

Người dùng thường có cần quan tâm NPU không: bốn câu hỏi tự xét

Bạn có họp trực tuyến nhiều không? Nếu mỗi ngày họp vài tiếng và dùng làm mờ nền, khử ồn, NPU giúp máy mát hơn và đỡ hao pin trong các buổi họp đó. Đây là lợi ích thật, dễ cảm nhận nhất hiện nay.

Bạn có định dùng tính năng AI cụ thể của hệ điều hành không? Một số tính năng chỉ bật trên máy có NPU đạt ngưỡng. Nếu bạn biết mình cần tính năng đó, hãy kiểm yêu cầu hiện hành và chọn máy đạt ngưỡng. Nếu không biết, đó không phải lý do chính để chọn máy.

Việc AI nặng của bạn chạy trên đâu? Nếu bạn tạo ảnh, chạy mô hình lớn hay dùng hiệu ứng AI nặng trong dựng video, phần lớn những việc này hiện vẫn dùng card đồ hoạ. Ưu tiên card và VRAM, đừng chọn máy chỉ vì số TOPS của NPU.

Bạn định giữ máy bao lâu? Phần mềm đang dần dùng NPU nhiều hơn. Nếu bạn giữ máy năm sáu năm, một NPU đạt ngưỡng hiện hành giúp máy không bị loại khỏi các tính năng mới. Nhưng không ai biết chắc ngưỡng tương lai, nên đừng trả nhiều chỉ để "đón đầu".

Kiểm NPU trên máy đang dùng

Nếu muốn biết máy mình có NPU không và nó có đang làm việc không, có thể kiểm như sau trên Windows (tên mục có thể khác theo phiên bản):

  1. Mở Trình quản lý tác vụ, vào mục Hiệu suất; máy có NPU được hệ điều hành nhận sẽ có một mục NPU riêng bên cạnh CPU, bộ nhớ, GPU.
  2. Bật một tính năng có thể dùng NPU, chẳng hạn làm mờ nền camera trong phần cài đặt camera của hệ điều hành.
  3. Quan sát biểu đồ NPU: nếu nó tăng khi tính năng bật, NPU đang làm việc; đồng thời so mức CPU trước và sau.
  4. Tắt tính năng và so lại nhiệt độ, tiếng quạt sau mười lăm phút để cảm nhận lợi ích về điện năng.
  5. Tra tên chip trên trang thông số chính thức để biết số TOPS của NPU và cách hãng đo con số đó.

Nếu Trình quản lý tác vụ không hiện mục NPU, có thể máy không có NPU, hoặc trình điều khiển chưa được cài. Kiểm trang hỗ trợ của hãng máy để cập nhật trình điều khiển hiện hành.

Những điều nên nhớ khi đọc quảng cáo về NPU

NPU là thông số mới nên dễ bị quảng cáo quá đà. Vài điểm giúp giữ cái đầu lạnh:

  • Phân biệt TOPS của NPU và tổng TOPS cả chip. Con số tổng lớn hơn nhiều nhưng không dùng để xét ngưỡng tính năng.
  • NPU không làm máy chạy văn phòng nhanh hơn. Mở tệp, tính bảng tính, duyệt web vẫn do CPU, RAM và ổ đĩa quyết định.
  • NPU không thay card đồ hoạ cho việc AI nặng. Tạo ảnh và chạy mô hình lớn vẫn cần card và nhiều bộ nhớ.
  • Phần mềm phải hỗ trợ. NPU chỉ có ích khi ứng dụng bạn dùng được viết để chạy trên nó. Kiểm danh sách hỗ trợ của phần mềm.
  • Dữ liệu chạy trên máy vẫn cần cẩn trọng. Tính năng AI chạy trên máy giúp dữ liệu ít phải gửi đi, nhưng vẫn nên đọc kỹ phần cài đặt quyền riêng tư của từng tính năng, nhất là tính năng ghi lại màn hình hay lịch sử hoạt động.

Gói gọn: NPU là một tiện ích đáng có khi chọn máy mới, nhất là với người họp nhiều và hay mang máy đi, nhưng hiếm khi là tiêu chí quyết định trước CPU, RAM, ổ SSD và card đồ hoạ.

Câu hỏi thường gặp

NPU là gì?

NPU là khối xử lý chuyên làm các phép tính của tác vụ AI với điện năng rất thấp, đặt trong chip của nhiều máy tính đời mới. Nó lo những việc chạy liên tục như làm mờ nền khi họp, khử ồn, phụ đề trực tiếp để máy đỡ nóng và đỡ hao pin.

TOPS là gì và con số càng cao có càng tốt không?

TOPS là nghìn tỉ phép tính mỗi giây, mức đỉnh lý thuyết của NPU. Con số cao hơn nghĩa là tiềm năng lớn hơn, nhưng cách đo của mỗi hãng khác nhau và phần mềm phải hỗ trợ mới dùng được. Với người dùng thường, đạt ngưỡng của tính năng cần dùng quan trọng hơn vượt ngưỡng bao nhiêu.

Máy tính không có NPU có dùng được AI không?

Dùng được. Các công cụ AI chạy trên mạng như trợ lý trò chuyện không cần NPU. Các tác vụ AI trên máy cũng có thể chạy bằng CPU hoặc card đồ hoạ, chỉ tốn điện hơn. Riêng một số tính năng của hệ điều hành chỉ bật trên máy có NPU đạt ngưỡng.

NPU có giúp máy chạy văn phòng nhanh hơn không?

Không. Văn bản, bảng tính, trình duyệt vẫn chạy trên CPU và phụ thuộc RAM, ổ SSD. NPU chỉ đảm nhận các tác vụ AI được phần mềm giao cho nó, nên không làm các việc văn phòng thông thường nhanh hơn.

Làm sao biết laptop của mình có NPU không?

Trên Windows, mở Trình quản lý tác vụ và vào mục Hiệu suất; nếu máy có NPU và đã cài trình điều khiển, sẽ có một mục NPU riêng. Ngoài ra có thể tra tên chip trên trang thông số chính thức của hãng để xem chip có NPU và số TOPS bao nhiêu.

Tạo ảnh bằng AI trên máy có dùng NPU không?

Phần lớn phần mềm tạo ảnh bằng mô hình lớn hiện vẫn chạy trên card đồ hoạ vì cần sức tính và bộ nhớ lớn. Một số phần mềm bắt đầu hỗ trợ NPU cho mô hình nhỏ. Nếu tạo ảnh là việc chính, hãy ưu tiên card đồ hoạ và VRAM hơn số TOPS.

Cần tư vấn cụ thể cho trường hợp của bạn?

Chúng tôi sẽ liên hệ trong vòng 24 giờ.

Đăng ký tư vấn ngay

Bài viết liên quan

Bạn cần hỗ trợ thêm?

Để lại thông tin, chúng tôi sẽ liên hệ trong 24 giờ.

hoặc
Gọi ngay 0926 138 138