FPGA (Field-Programmable Gate Array) là loại chip bán dẫn có thể lập trình lại cấu trúc logic sau khi sản xuất. Khác với CPU và GPU có kiến trúc cố định, FPGA cho phép người thiết kế xây dựng mạch số riêng theo nhu cầu cụ thể. Mỗi khối logic (logic cell) bên trong FPGA có thể được cấu hình để thực hiện chức năng mong muốn, từ phép cộng đơn giản đến thuật toán xử lý tín hiệu phức tạp.
FPGA được sử dụng rộng rãi trong prototyping ASIC, xử lý tín hiệu số, truyền thông và gần đây là AI inference tại edge. Ưu điểm lớn nhất là khả năng song song hóa theo task: mạch được lập trình để thực hiện một hàm duy nhất với hiệu năng cao, không phụ thuộc vào bộ lập lịch chung như CPU hay GPU.
So sánh FPGA với CPU và GPU
CPU được thiết kế cho tính đa nhiệm tổng quát, có ít nhân nhưng khả năng xử lý tuần tự linh hoạt. GPU có hàng nghìn nhân nhỏ hơn, phù hợp tính toán song song đồng nhất như rendering hay deep learning training. FPGA nằm ở giữa: có thể tạo hàng nghìn khối logic song song như GPU, nhưng mỗi khối được lập trình đúng task cần thực hiện, giảm overhead của kiến trúc tổng quát.
Hiệu năng trên watt của FPGA thường cao hơn GPU cho các inference workload cố định. Tuy nhiên, lập trình FPGA khó hơn nhiều. Người thiết kế cần viết HDL (Hardware Description Language) như Verilog hay VHDL, hoặc sử dụng HLS (High-Level Synthesis) với C/C++. Thời gian phát triển cũng dài hơn do cần biên dịch, chạy timing analysis và test trên board thực tế. Lộ trình phát triển có thể kéo dài từ vài tuần đến vài tháng, trong khi triển khai GPU thường chỉ mất vài ngày.
FPGA trong AI inference
Xu hướng chạy LLM inference tại edge thúc đẩy ứng dụng FPGA trong AI. Mô hình được tối ưu thành mạch số cố định, triển khai trực tiếp trên chip mà không cần driver GPU hay runtime nặng. Các nhà cung cấp như AMD (Xilinx) và Intel (Altera) cung cấp toolkit biên dịch PyTorch sang FPGA bitstream. Một số công ty như Xilinx đã hợp tác với các nhà cung cấp LLM để tạo bộ tối ưu sẵn cho các mô hình phổ biến.
Lợi thế của FPGA cho inference là độ trễ thấp và tiêu thụ điện ổn định, phù hợp thiết bị nhúng, hệ thống công nghiệp và thiết bị y tế. Nhược điểm là dung lượng lưu trữ trong FPGA hạn chế, nên chỉ triển khai được mô hình đã lượng tử hóa và cắt giảm. Kích thước mô hình LLM hiện tại lớn khiến việc triển khai trên FPGA đòi hỏi kỹ thuật quantization và pruning nâng cao. Lượng tử hóa từ FP16 xuống INT8 hoặc INT4 giảm đáng kể dung lượng nhưng cần kiểm tra kỹ độ chính xác.
Vitis AI của AMD là toolkit phổ biến cho quá trình này: quantize mô hình trong TensorFlow/PyTorch, biên dịch sang xmodel, sau đó deploy lên FPGA board. Quá trình mất từ vài giờ đến vài ngày tùy phức tạp mô hình. So với GPU, FPGA có lợi thế về deterministic latency – độ trễ không bị biến động do GC hay OS scheduling.
Ứng dụng edge computing
FPGA xuất hiện trong nhiều thiết bị edge: camera thông minh xử lý nhận dạng khuôn mặt ngay trên chip, hệ thống ADAS trong ô tô tự lái, thiết bị y tế phân tích dữ liệu sinh trắc ngay tại nơi thu thập. Trong các ứng dụng này, việc không gửi dữ liệu lên cloud giảm độ trễ và bảo vệ quyền riêng tư người dùng.
Trong công nghiệp, FPGA được dùng để xử lý tín hiệu cảm biến thời gian thực, điều khiển động cơ và giám sát chất lượng sản xuất. Yếu tố quan trọng là khả năng cập nhật mạch từ xa qua bitstream, cho phép cải tiến logic mà không thay thế phần cứng. Nguyên tắc cập nhật firmware OTA trên FPGA tương tự nhưng phức tạp hơn do cần đảm bảo tính toàn vẹn bitstream trước khi nạp.
Trong hạ tầng 5G, FPGA đang xuất hiện trong thiết bị base station nhờ khả năng xử lý signal processing thời gian thực. Các hệ thống beam forming và massive MIMO trong modem 5G đều lợi ích từ kiến trúc song song của FPGA. Điểm khác biệt với GPU là FPGA không tính toán thông qua lệnh phần mềm mà thông qua mạch logic trực tiếp, giúp giảm độ trễ giao dịch xuống dưới 100 micro giây cho những workload nhất định.
Tổng quan sản phẩm FPGA từ AMD Xilinx trình bày các dòng sản phẩm và trường hợp ứng dụng phổ biến.
