Mô tả
Raspberry Pi AI HAT+ 2 là bo mạch mở rộng AI dành cho Raspberry Pi 5, được trang bị bộ xử lý tăng tốc AI Hailo-10H với hiệu năng suy luận 40 TOPS (INT4) và bộ nhớ RAM tích hợp 8GB. Sản phẩm hỗ trợ triển khai các mô hình trí tuệ nhân tạo tạo sinh (Generative AI), mô hình ngôn ngữ lớn (LLM) và mô hình thị giác – ngôn ngữ (VLM) trực tiếp trên thiết bị, không cần kết nối mạng. Đây là phiên bản nâng cấp rất đáng kể so với 2 phiên bản tiền nhiệm là Raspberry Pi AI HAT+ 13 TOPS và AI HAT+ 26 TOPS.
Tăng cường khả năng xử lý AI cho Raspberry Pi 5
Raspberry Pi AI HAT+ 2 được phát triển nhằm mở rộng khả năng xử lý trí tuệ nhân tạo trên Raspberry Pi 5. Thay vì chỉ tập trung vào các tác vụ Computer Vision, phiên bản này còn hỗ trợ triển khai các mô hình AI tạo sinh ngay trên thiết bị. Trung tâm của bo mạch là bộ tăng tốc AI Hailo-10H, cung cấp hiệu năng suy luận lên đến 40 TOPS (INT4). Bên cạnh đó, sản phẩm được trang bị riêng 8GB RAM tích hợp, phục vụ việc vận hành các mô hình AI mà không phải sử dụng toàn bộ tài nguyên bộ nhớ của máy tính chủ.
Thiết kế hỗ trợ lắp đặt cùng hệ thống tản nhiệt
Raspberry Pi AI HAT+ 2 tuân theo tiêu chuẩn Raspberry Pi HAT+, với thiết kế dành cho Raspberry Pi 5. Sản phẩm được cung cấp kèm một bộ tản nhiệt tùy chọn, đầu nối stacking header cao 16mm, các chân đệm (spacers) và vít lắp đặt.
Bộ phụ kiện này cho phép lắp AI HAT+ 2 trên Raspberry Pi 5 ngay cả khi máy tính đang sử dụng Raspberry Pi Active Cooler.
Nhà sản xuất khuyến nghị lắp tản nhiệt khi chạy các bài kiểm tra hiệu năng hoặc những tác vụ AI có cường độ xử lý cao nhằm hạn chế hiện tượng giảm hiệu năng do nhiệt độ (thermal throttling).
Triển khai LLM và VLM trực tiếp trên thiết bị
Một điểm đáng chú ý của Raspberry Pi AI HAT+ 2 là khả năng chạy các mô hình ngôn ngữ lớn (LLM) và mô hình thị giác – ngôn ngữ (VLM) cục bộ. Nhờ bộ nhớ RAM 8GB chuyên dụng, các tác vụ AI có thể được xử lý trên bo mạch mở rộng, trong khi Raspberry Pi 5 vẫn đảm nhiệm những công việc khác của hệ thống. Việc xử lý trực tiếp tại thiết bị cũng giúp giảm sự phụ thuộc vào kết nối mạng, đồng thời hạn chế nhu cầu gửi dữ liệu lên các dịch vụ đám mây.
Đây là hướng triển khai phù hợp với những ứng dụng cần xử lý dữ liệu tại chỗ, yêu cầu độ trễ thấp hoặc có những yêu cầu nhất định về bảo mật thông tin.
Thông số kỹ thuật
- Bộ tăng tốc AI: Hailo-10H
- Hiệu năng suy luận: 40 TOPS (INT4)
- Bộ nhớ RAM: 8GB RAM tích hợp trên bo mạch
- Hỗ trợ AI: Generative AI, LLM, VLM, Computer Vision
- Giao tiếp: PCI Express (PCIe)
- Chuẩn bo mạch: Raspberry Pi HAT+
- Thiết bị tương thích: Raspberry Pi 5
- Tích hợp phần mềm: Raspberry Pi Camera Software Stack
- Hệ điều hành hỗ trợ: Raspberry Pi OS
- Tản nhiệt: Heatsink đi kèm (tùy chọn lắp đặt)
Ứng dụng của Raspberry Pi AI HAT+ 2
- Chạy mô hình AI tạo sinh cục bộ.
- Large Language Model (LLM).
- Vision-Language Model (VLM).
- Nhận dạng và phân tích hình ảnh.
- Phân tích cảnh bằng AI.
- Speech-to-Text.
- Dịch thuật bằng AI.
- Các hệ thống Edge AI và AIoT.
- Robot thông minh sử dụng Raspberry Pi 5.
Kích thước Raspberry Pi AI HAT+ 2 40TOPS
