Những điểm chính
Sau khi đọc xong bài viết này, bạn sẽ nắm được các nội dung sau:
-
Hiểu Agentic RAG là gì và vì sao được xem là bước tiến mới của RAG truyền thống.
-
Biết quy trình hoạt động của Agentic RAG từ lúc tiếp nhận yêu cầu đến khi tạo câu trả lời.
-
Phân biệt các loại AI Agent thường được sử dụng trong kiến trúc Agentic RAG.
-
So sánh Agentic RAG và RAG truyền thống để lựa chọn mô hình phù hợp.
-
Tìm hiểu một số framework hỗ trợ xây dựng hệ thống Agentic RAG.
Agentic RAG là gì?
Agentic RAG là mô hình kết hợp giữa Retrieval-Augmented Generation (RAG) và AI Agent, giúp hệ thống không chỉ truy xuất dữ liệu mà còn chủ động lập kế hoạch và quyết định cách xử lý yêu cầu trước khi tạo phản hồi.
Khác với RAG truyền thống vốn chỉ thực hiện truy xuất dữ liệu theo một quy trình cố định, Agentic RAG có thể phân tích mục tiêu của người dùng, lựa chọn nhiều nguồn thông tin khác nhau, chia nhỏ bài toán thành nhiều bước và đánh giá kết quả trong suốt quá trình xử lý.
Nhờ khả năng này, Agentic RAG phù hợp với các hệ thống AI cần xử lý những yêu cầu phức tạp như trợ lý doanh nghiệp, chatbot chuyên ngành, phân tích dữ liệu hay nghiên cứu tài liệu quy mô lớn.
Cách thức hoạt động của Agentic RAG
Quy trình xử lý của Agentic RAG thường bao gồm nhiều bước liên tiếp thay vì chỉ truy xuất dữ liệu một lần như mô hình RAG truyền thống.
1. Phân tích yêu cầu của người dùng
Khi nhận được câu hỏi, AI Agent sẽ phân tích nội dung để xác định mục tiêu, phạm vi thông tin cần tìm và mức độ phức tạp của nhiệm vụ.
Nếu truy vấn đơn giản, hệ thống có thể truy xuất trực tiếp. Ngược lại, với những yêu cầu nhiều bước, Agent sẽ xây dựng kế hoạch trước khi bắt đầu tìm kiếm dữ liệu.
2. Lập kế hoạch truy xuất dữ liệu
Sau khi hiểu yêu cầu, AI Agent quyết định:
-
Nên truy cập nguồn dữ liệu nào.
-
Có cần chia truy vấn thành nhiều phần hay không.
-
Có cần gọi thêm công cụ hoặc API bên ngoài.
-
Thứ tự thực hiện từng bước.
Nhờ đó, hệ thống có thể tối ưu quá trình truy xuất thay vì chỉ tìm kiếm theo một truy vấn duy nhất.
3. Truy xuất dữ liệu nhiều vòng
Agent sẽ lần lượt lấy thông tin từ nhiều nguồn khác nhau như:
-
Kho tài liệu doanh nghiệp.
-
API của các hệ thống khác.
-
Công cụ tìm kiếm chuyên ngành.
Nếu dữ liệu chưa đầy đủ hoặc chưa đủ độ tin cậy, Agent có thể tiếp tục thực hiện các vòng truy xuất bổ sung cho đến khi thu được lượng thông tin phù hợp.
4. Tổng hợp và tạo câu trả lời
Sau khi hoàn thành quá trình truy xuất, toàn bộ dữ liệu sẽ được chuyển đến mô hình ngôn ngữ lớn (LLM).
LLM sẽ:
-
Loại bỏ dữ liệu trùng lặp.
-
Tạo câu trả lời mạch lạc, đầy đủ và sát với yêu cầu ban đầu.
Trong nhiều trường hợp, Agent còn có thể tự kiểm tra kết quả trước khi gửi phản hồi cho người dùng nhằm nâng cao độ chính xác.
Phân loại AI Agent trong Agentic RAG
Một hệ thống Agentic RAG thường sử dụng nhiều loại AI Agent khác nhau để phối hợp xử lý nhiệm vụ.
Routing Agent
Routing Agent chịu trách nhiệm lựa chọn hướng xử lý phù hợp cho từng truy vấn.
Agent này sẽ xác định:
-
Nguồn dữ liệu cần sử dụng.
-
Agent nào sẽ tiếp tục xử lý.
Nhờ vậy, hệ thống có thể giảm thời gian tìm kiếm và nâng cao hiệu quả truy xuất.
Query Planning Agent
Đây là Agent chịu trách nhiệm lập kế hoạch.
Nếu người dùng đặt một câu hỏi phức tạp, Query Planning Agent sẽ chia nhỏ thành nhiều tác vụ độc lập trước khi gửi đến các Agent khác xử lý.
Sau khi các bước hoàn thành, Agent sẽ tổng hợp toàn bộ kết quả thành một câu trả lời thống nhất.
ReAct Agent
ReAct Agent hoạt động theo chu trình:
Quá trình này được lặp lại nhiều lần cho đến khi đạt được kết quả mong muốn.
Kiến trúc ReAct giúp hệ thống thích ứng tốt với các tình huống thay đổi liên tục.
Plan-and-Execute Agent
Loại Agent này sẽ xây dựng toàn bộ kế hoạch ngay từ đầu rồi thực hiện tuần tự từng bước.
So với ReAct, Plan-and-Execute giúp:
-
Giảm số lần gọi mô hình AI.
-
Giữ quy trình nhất quán hơn.
Kiến trúc này phù hợp với các quy trình có cấu trúc rõ ràng.
Sự khác biệt giữa Agentic RAG và RAG truyền thống
|
Tiêu chí |
RAG truyền thống |
Agentic RAG |
|
Quy trình xử lý |
Truy xuất dữ liệu theo pipeline cố định |
Có AI Agent lập kế hoạch và điều phối |
|
Khả năng truy xuất |
Thường truy xuất một lần |
Có thể truy xuất nhiều vòng |
|
Nguồn dữ liệu |
Ít nguồn dữ liệu |
Hỗ trợ nhiều nguồn khác nhau |
|
Khả năng thích ứng |
Thấp |
Cao |
|
Độ chính xác |
Phụ thuộc dữ liệu ban đầu |
Có thể tự đánh giá và cải thiện kết quả |
|
Khả năng mở rộng |
Hạn chế |
Linh hoạt hơn nhờ nhiều Agent phối hợp |
|
Đa phương thức |
Chủ yếu xử lý văn bản |
Có thể kết hợp văn bản, hình ảnh, âm thanh và dữ liệu có cấu trúc |
|
Chi phí |
Thấp hơn |
Cao hơn do cần nhiều bước suy luận |
|
Độ trễ |
Phản hồi nhanh |
Có thể chậm hơn vì xử lý nhiều vòng |
|
Độ tin cậy |
Phụ thuộc nguồn dữ liệu |
Có khả năng kiểm tra và truy xuất lại khi cần |
Một số framework giúp triển khai Agentic RAG
Hiện nay có nhiều framework hỗ trợ xây dựng hệ thống Agentic RAG mà không cần phát triển toàn bộ từ đầu.
LangChain
LangChain là framework phổ biến để xây dựng ứng dụng sử dụng LLM.
Framework này hỗ trợ:
-
Kết nối nhiều nguồn dữ liệu.
Đây là lựa chọn phù hợp cho cả cá nhân và doanh nghiệp.
LlamaIndex
LlamaIndex tập trung vào việc kết nối mô hình AI với dữ liệu riêng.
Framework hỗ trợ:
-
Tối ưu tìm kiếm ngữ nghĩa.
-
Xây dựng hệ thống RAG trên dữ liệu nội bộ.
LangGraph
LangGraph được thiết kế dành cho các hệ thống nhiều AI Agent.

Framework cho phép xây dựng quy trình làm việc dạng đồ thị, giúp nhiều Agent phối hợp xử lý các tác vụ phức tạp, quản lý trạng thái và điều phối toàn bộ luồng công việc hiệu quả hơn.
Granite và LLaMA 3
Bên cạnh các framework, nhiều doanh nghiệp còn triển khai Agentic RAG với các mô hình mã nguồn mở như Granite hoặc LLaMA 3.
Các mô hình này giúp:
-
Chủ động kiểm soát dữ liệu.
-
Tùy chỉnh theo nhu cầu riêng.
-
Triển khai trên hạ tầng nội bộ nhằm tăng cường bảo mật.