Để chạy các mô hình ngôn ngữ lớn (LLM) trên các bo mạch sử dụng SoC RK3588 như Orange Pi 5, 5B hay 5 Plus, 5 Pro  5 MAX, trước đây chúng ta vẫn dùng các phiên bản như [RKLLAMA dựa trên OLLAMA](https://youtu.be/tUsGf12h0ps) hoặc phiên bản chạy [RKLLM sử dụng Gradio](https://www.facebook.com/orangepivietnam/videos/running-rkllm-gradio-on-orange-pi-5-max/1137460501110419/). Mặc dù rất mong muốn chạy **LLaMA.CPP** trên Orange Pi bằng NPU để tối đa hiệu quả của bo mạch Edge AI này, nhưng vẫn chưa có mã nguồn nào đáp ứng việc này. Gần đây, thật tuyệt vời, có 1 bên đã chia sẻ mã nguồn trên github chạy LLaMA.CPP (invisiofficial/rk-llama.cpp) và thế là tôi đã nghiên cứu fork về để cài đặt và hướng dẫn các bạn cùng cài đặt để trải nghiệm LLM trên mã nguồn hiệu năng tốt nhất hiện nay này.

# 1\. LLaMA.CPP là gì?

![](https://orangepivn.b-cdn.net/wp-content/uploads/2025/06/llamacpp.webp)

**LLaMA.CPP** là một thư viện mã nguồn mở giúp chạy các mô hình ngôn ngữ LLaMA và nhiều mô hình tương thích khác trực tiếp trên CPU với hiệu năng cao. Nó được viết bằng C++ với trọng tâm tối ưu hóa cho các thiết bị không có GPU mạnh, như máy tính cá nhân, laptop hoặc SBC (Single Board Computer). LLaMA.CPP sử dụng định dạng mô hình **GGUF**, cho phép nén, lượng tử hóa và tải mô hình nhanh hơn. Nhờ tối ưu hóa sâu, LLaMA.CPP có thể chạy mô hình AI ngay trên thiết bị cục bộ, không cần kết nối internet. Đây là lựa chọn phổ biến cho những ai muốn triển khai AI ngoại tuyến, nhẹ và dễ tích hợp vào ứng dụng.

**RK-LLaMA.CPP** là phiên bản code đã được chỉnh sửa từ mã nguồn **LLaMA.CPP** gốc, nhằm **tích hợp hỗ trợ NPU của Rockchip** (ví dụ Rockchip RK3588) làm backend cho thư viện GGML, để có thể chạy các mô hình LLM trên phần cứng Rockchip với tăng tốc NPU, tận dụng tối đa sức mạnh của các lõi NPU có trên chip Rockchip như RK3588 và RK3576. Sau khi build xong, cũng không cần phải dùng các mô hình model LLM đã convert thành RKLLM để chạy, mà có thể chạy trực tiếp các mô hình định dạng GGUF trên HuggingFace, cực kỳ tiện lợi.

### ✅ Những gì **RK-LLaMA.CPP** làm được

- **RK-LLaMA.CPP** giữ gần như toàn bộ thiết kế gốc của **LLaMA.CPP**, nhưng thêm phần “backend NPU” — dùng NPU trên Rockchip (thường là RKNPU / RKNPU2) để thực hiện tính toán ma trận tuyến tính/linear algebra, thay vì chỉ CPU

- Điều này giúp mô hình ngôn ngữ lớn (LLM) có thể “chạy mượt hơn” và khả thi hơn trên các thiết bị nhúng, thiết bị cận biên (edge devices), hoặc các máy ARM/Rockchip (ví dụ máy tính đơn bo mạch — SBC) mà không cần GPU rời.

- Trong tương lai, việc tích hợp NPU vào **LLaMA.CPP** có thể “mở ra” khả năng deploy LLM trên các thiết bị cầm tay, thiết bị edge, nơi tiêu thụ điện năng thấp — điều mà dùng CPU đơn thuần rất khó đạt được.


# 2\. Chuẩn bị cài đặt

Nếu các bạn theo dõi website [Orange Pi Việt Nam](https://orangepi.vn/), trước đây tôi cũng đã từng hướng dẫn các bạn cài đặt **LLaMA.CPP** trên Orange Pi RV2, một thiết bị sử dụng chip SoC RISC-V mạnh, tuy nhiên mặc dù RISC-V có khả năng tính toán cao hơn ARM nhiều, nhưng hiệu năng chạy **LLaMA.CPP** cũng không thể bằng có NPU trên các chip Rockchip hỗ trợ

> [Hướng dẫn cài đặt và chạy LLaMA.CPP trên Orange Pi RV2 (RISC-V 64-bit)](https://orangepi.vn/huong-dan-cai-dat-va-chay-llama-cpp-tren-orange-pi-rv2-risc-v-64-bit.html)

Hướng dẫn cài đặt và chạy LLaMA.CPP trên Orange Pi RV2 (RISC-V 64-bit) - Orange Pi Viet Nam

[Hướng dẫn cài đặt và chạy LLaMA.CPP trên Orange Pi RV2 (RISC-V 64-bit)](https://orangepi.vn/huong-dan-cai-dat-va-chay-llama-cpp-tren-orange-pi-rv2-risc-v-64-bit.html)

[![](https://orangepivn.b-cdn.net/wp-content/uploads/2025/06/Cai-dat-LLAMACPP-tren-Orange-Pi-RV2-1.webp)](https://orangepi.vn/huong-dan-cai-dat-va-chay-llama-cpp-tren-orange-pi-rv2-risc-v-64-bit.html)

llama.cpp là một phần mềm mã nguồn mở được viết bằng C/C++, cho phép chạy các mô hình ngôn ngữ lớn như LLaMA 1/2, Mistral, Falcon… hoàn toàn offline, không cần GPU, và tối ưu để chạy trên CPU – kể cả trên các thiết bị nhỏ như SBC (Single Board Computer).

[![](https://orangepivn.b-cdn.net/wp-content/uploads/2025/01/cropped-fb-logo-big-png-32x32.webp)Orange Pi Viet Nam](https://orangepi.vn/)

[0 Bình luận](https://orangepi.vn/huong-dan-cai-dat-va-chay-llama-cpp-tren-orange-pi-rv2-risc-v-64-bit.html#respond)

- Nhúng WordPress
- Nhúng HTML

Copy và dán URL này vào trang WordPress của bạn để được nhúng vào.

Sao chép đoạn mã này vào trang web của bạn để nhúng

Để có thể trải nghiệm **LLaMA.CPP** các bạn cần có bo mạch sử dụng các chip RK3588 hoặc RK3576, tôi khuyến nghị dùng [Orange Pi 5 phiên bản 8GB](https://orangepi.vn/shop/orange-pi-5-chip-rk3588s-ram-8gb) để có thể load mô hình LLM tối thiểu 3B, nhưng nếu các bạn chỉ cần mô hình dạng 1B để trải nghiệm, các bạn có thể thử dùng [Orange Pi 5 Plus 4GB RAM](https://orangepi.vn/shop/orange-pi-5-plus-4gb-ram) với chi phí ít hơn. Tất nhiên, tất cả các phiên bản trong [Orange Pi 5 series](https://orangepi.vn/tu-khoa-san-pham/opi5series) đều có thể dùng được, thậm chí các mạch Compute Module như [Orange Pi CM5](https://orangepi.vn/tu-khoa-san-pham/compute-module) cũng chạy tốt. Nếu muốn dùng RK3576, các bạn có thể thử Firefly AI BOX mới được phân phối bởi chúng tôi tại đây.

Ngoài ra, bo mạch cần trang bị thêm tản nhiệt quạt để đề phòng việc chạy mô hình AI trở nên quá nóng, nguồn điện từ 4A trở lên như [Nguồn USB type C 5v 4A chính hãng](https://orangepi.vn/shop/nguon-usb-type-c-5v-4a-chinh-hang)

Hãy sử dụng thẻ nhớ 64GB để có thể vừa cài được HDH, vừa tải được mã nguồn và lưu mô hình. Nếu muốn lưu nhiều mô hình hơn, hãy cân nhắc việc sử dụng các ổ cứng M2 SSD.

Giờ chúng ta bắt đầu.

# 3\. Hướng dẫn cài đặt

Mã nguồn này được tôi chia sẻ công khai ở Github: [https://github.com/thanhtantran/rk-llama.cpp](https://github.com/thanhtantran/rk-llama.cpp)

Các bạn có thể làm theo hướng dẫn trên đó hoặc theo video này.

Video hướng dẫn:

Hướng dẫn chạy RK-LLAMA.CPP trên Orange Pi 5 - YouTube

Tap to unmute

[Hướng dẫn chạy RK-LLAMA.CPP trên Orange Pi 5](https://www.youtube.com/watch?v=0W4Klgh_lWI) [Orange Pi Vietnam](https://www.youtube.com/channel/UCl0lVmXFHAhZybuOIzu2CaA)

![thumbnail-image](https://yt3.ggpht.com/nDus3_aNISkA5x8KD3J1lcxvLAPBa0WdYl8UDthVlh1HXRK1WyCmMfqfbq6lqd3hRx8iqHc6ysA=s68-c-k-c0x00ffffff-no-rj)

Orange Pi Vietnam1.83K subscribers

[Watch on](https://www.youtube.com/watch?v=0W4Klgh_lWI)

# 4\. Kết luận

**RK-LLaMA.CPP** là một fork thực sự đáng chú ý nếu bạn muốn **chạy LLM (theo định dạng GGML / GGUF) trên thiết bị dùng chip Rockchip với NPU**, thay vì chỉ CPU. Nó mở ra khả năng dùng LLM trên các thiết bị nhúng, edge, hoặc board nhỏ — phù hợp cho chạy AI “gần sát phần cứng” mà không cần máy mạnh hoặc GPU, không cần kết nối Internet mà “tự thân vận động” với mô hình đã được đào tạo.

Chúc các bạn thành công!

[Chia sẻ trên WhatsApp](whatsapp://send?text=%C4%90%C3%A3%20c%C3%B3%20b%E1%BA%A3n%20fork%20LLaMA.CPP%20ch%E1%BA%A1y%20b%E1%BA%B1ng%20NPU%20tr%C3%AAn%20RK3588%20-%20https://orangepi.vn/da-co-ban-fork-llama-cpp-chay-bang-npu-tren-rk3588.html "Chia sẻ trên WhatsApp")[Chia sẻ trên Facebook](https://www.facebook.com/sharer.php?u=https://orangepi.vn/da-co-ban-fork-llama-cpp-chay-bang-npu-tren-rk3588.html "Chia sẻ trên Facebook")[Chia sẻ trên Twitter](https://twitter.com/share?url=https://orangepi.vn/da-co-ban-fork-llama-cpp-chay-bang-npu-tren-rk3588.html "Chia sẻ trên Twitter")[Gửi email cho bạn bè](mailto:?subject=%C4%90%C3%A3%20c%C3%B3%20b%E1%BA%A3n%20fork%20LLaMA.CPP%20ch%E1%BA%A1y%20b%E1%BA%B1ng%20NPU%20tr%C3%AAn%20RK3588&body=Xem%20n%C3%A0y%3A%20https%3A%2F%2Forangepi.vn%2Fda-co-ban-fork-llama-cpp-chay-bang-npu-tren-rk3588.html "Gửi email cho bạn bè")[Ghim trên Pinterest](https://pinterest.com/pin/create/button?url=https://orangepi.vn/da-co-ban-fork-llama-cpp-chay-bang-npu-tren-rk3588.html&media=https://orangepi.vn/wp-content/uploads/2025/12/ChatGPT-Image-Dec-9-2025-08_56_28-PM-1200x800.webp&description=%C4%90%C3%A3%20c%C3%B3%20b%E1%BA%A3n%20fork%20LLaMA.CPP%20ch%E1%BA%A1y%20b%E1%BA%B1ng%20NPU%20tr%C3%AAn%20RK3588 "Ghim trên Pinterest")[Chia sẻ trên LinkedIn](https://www.linkedin.com/shareArticle?mini=true&url=https://orangepi.vn/da-co-ban-fork-llama-cpp-chay-bang-npu-tren-rk3588.html&title=%C4%90%C3%A3%20c%C3%B3%20b%E1%BA%A3n%20fork%20LLaMA.CPP%20ch%E1%BA%A1y%20b%E1%BA%B1ng%20NPU%20tr%C3%AAn%20RK3588 "Chia sẻ trên LinkedIn")

![](https://secure.gravatar.com/avatar/fedf9d992f1e8a3e3109ac596191d91386f32fb01a7f6a91e35636c5eefb761e?s=90&d=mm&r=g)

##### superadmin

### Để lại một bình luận [Hủy](https://orangepi.vn/da-co-ban-fork-llama-cpp-chay-bang-npu-tren-rk3588.html\#respond)

Email của bạn sẽ không được hiển thị công khai.Các trường bắt buộc được đánh dấu \*

Bình luận \*

Tên \*

Email \*

Trang web

Δ

- Tìm kiếm:

- [![](https://orangepivn.b-cdn.net/wp-content/uploads/2017/02/cropped-logo-transparent-280x280.png)Orange Pi Việt Nam](https://orangepi.vn/)
  - [Giới thiệu về máy tính nhúng](https://orangepi.vn/gioi-thieu-ve-may-tinh-nhung)
  - [Hướng dẫn đặt hàng](https://orangepi.vn/dat-hang-tai-orange-pi-viet-nam)
  - [Chính sách Bảo hành](https://orangepi.vn/chinh-sach-ban-hang-va-bao-hanh)
  - [Thư ủy quyền phân phối tại Việt Nam](https://orangepi.vn/thu-uy-quyen-phan-phoi-tai-viet-nam)
  - [Chính sách bảo mật](https://orangepi.vn/chinh-sach-bao-mat)
  - [Liên hệ](https://orangepi.vn/lien-he)
- [Shop](https://orangepi.vn/shop)
  - [Bo Mạch Orange Pi](https://orangepi.vn/danh-muc-san-pham/bo-mach-orange-pi)
    - [Chip H3](https://orangepi.vn/tu-khoa-san-pham/chip-h3)
    - [Chip H6](https://orangepi.vn/tu-khoa-san-pham/chip-h6)
    - [RK3399](https://orangepi.vn/tu-khoa-san-pham/chip-rk3399)
    - [RK3588, RK3566](https://orangepi.vn/tu-khoa-san-pham/rk3588)
    - [Chip H616, H618](https://orangepi.vn/tu-khoa-san-pham/chip-h616)
    - [Allwinner A733](https://orangepi.vn/tu-khoa-san-pham/allwinner-a733)
    - [RAM 1GB](https://orangepi.vn/tu-khoa-san-pham/ram-1gb)
    - [RAM 2GB](https://orangepi.vn/tu-khoa-san-pham/ram-2gb)
    - [RAM 4GB](https://orangepi.vn/tu-khoa-san-pham/ram-4gb)
    - [RAM 6GB](https://orangepi.vn/tu-khoa-san-pham/ram-6gb)
    - [RAM 8GB](https://orangepi.vn/tu-khoa-san-pham/ram8gb)
  - [Phụ kiện Orange Pi](https://orangepi.vn/danh-muc-san-pham/phu-kien-orange-pi)
    - [Màn hình](https://orangepi.vn/tu-khoa-san-pham/man-hinh)
    - [Vỏ Mica lắp ghép](https://orangepi.vn/tu-khoa-san-pham/vo-mica)
    - [Vỏ thép kiêm tản nhiệt](https://orangepi.vn/tu-khoa-san-pham/vo-thep)
    - [Vỏ nhôm nhẹ tản nhiệt tốt](https://orangepi.vn/tu-khoa-san-pham/vo-nhom)
    - [Nguồn Orange Pi](https://orangepi.vn/tu-khoa-san-pham/nguon-orange-pi)
    - [Thẻ nhớ microSD](https://orangepi.vn/tu-khoa-san-pham/the-nho-microsd)
  - [Compute Module](https://orangepi.vn/tu-khoa-san-pham/compute-module)
- [Blog](https://orangepi.vn/blog)
  - [Giới thiệu](https://orangepi.vn/category/gioi-thieu)
  - [Hướng dẫn](https://orangepi.vn/category/huong-dan)
  - [Trình diễn](https://orangepi.vn/category/trinh-dien)
- [Đăng nhập](https://orangepi.vn/my-account "Đăng nhập")
- [**Hotline: 0923449899**](tel:0923449899)

Bạn cần trợ giúp?

[![Messenger](https://orangepi.vn/wp-content/plugins/chat-bubble/assets/images/fbmessenger.svg)Messenger](https://m.me/orangepivietnam "Messenger") [![Zalo Official Account](https://orangepi.vn/wp-content/plugins/chat-bubble/assets/images/zalo.svg)Zalo Official Account](https://oa.zalo.me/1687181280533723118 "Zalo Official Account") [![Telegram](https://orangepi.vn/wp-content/plugins/chat-bubble/assets/images/telegram.svg)Telegram](https://t.me/maytinhnhung "Telegram") [![Whatsapp](https://orangepi.vn/wp-content/plugins/chat-bubble/assets/images/whatsapp.svg)Whatsapp](https://api.whatsapp.com/send?phone=84923449899 "Whatsapp")

![Orange Pi Việt Nam](https://orangepivn.b-cdn.net/wp-content/uploads/2017/02/logo-transparent.png)

Orange Pi Việt NamNhà phân phối chính thức

Xin chào! 👋🏼👋🏼👋🏼 Tôi có thể giúp gì được bạn?

- [Hotline](tel:0923449899 "Hotline")
- [Facebook](https://www.facebook.com/orangepivietnam "Facebook")
- [Zalo](https://oa.zalo.me/1687181280533723118 "Zalo")

## Đăng nhập

Sign In - Google Accounts

Continue with GoogleContinue with Google. Opens in new tab

Tên tài khoản hoặc địa chỉ email \*Bắt buộc

Mật khẩu \*Bắt buộc

Ghi nhớ mật khẩuĐăng nhập

[Quên mật khẩu?](https://orangepi.vn/my-account/lost-password)