Agentic RAG là gì? Cách thức hoạt động của Agentic RAG

Những điểm chính

 

Sau khi đọc xong bài viết này, bạn sẽ nắm được các nội dung sau:

 

  • Hiểu Agentic RAG là gì và vì sao được xem là bước tiến mới của RAG truyền thống.

 

  • Biết quy trình hoạt động của Agentic RAG từ lúc tiếp nhận yêu cầu đến khi tạo câu trả lời.

 

  • Phân biệt các loại AI Agent thường được sử dụng trong kiến trúc Agentic RAG.

 

  • So sánh Agentic RAG và RAG truyền thống để lựa chọn mô hình phù hợp.

 

  • Tìm hiểu một số framework hỗ trợ xây dựng hệ thống Agentic RAG.

 

Agentic RAG là gì?

 

Agentic RAG là mô hình kết hợp giữa Retrieval-Augmented Generation (RAG)AI Agent, giúp hệ thống không chỉ truy xuất dữ liệu mà còn chủ động lập kế hoạch và quyết định cách xử lý yêu cầu trước khi tạo phản hồi.

 

Khác với RAG truyền thống vốn chỉ thực hiện truy xuất dữ liệu theo một quy trình cố định, Agentic RAG có thể phân tích mục tiêu của người dùng, lựa chọn nhiều nguồn thông tin khác nhau, chia nhỏ bài toán thành nhiều bước và đánh giá kết quả trong suốt quá trình xử lý.

 

Nhờ khả năng này, Agentic RAG phù hợp với các hệ thống AI cần xử lý những yêu cầu phức tạp như trợ lý doanh nghiệp, chatbot chuyên ngành, phân tích dữ liệu hay nghiên cứu tài liệu quy mô lớn.

 

Cách thức hoạt động của Agentic RAG

 

Quy trình xử lý của Agentic RAG thường bao gồm nhiều bước liên tiếp thay vì chỉ truy xuất dữ liệu một lần như mô hình RAG truyền thống.

 

1. Phân tích yêu cầu của người dùng

 

Khi nhận được câu hỏi, AI Agent sẽ phân tích nội dung để xác định mục tiêu, phạm vi thông tin cần tìm và mức độ phức tạp của nhiệm vụ.

 

Nếu truy vấn đơn giản, hệ thống có thể truy xuất trực tiếp. Ngược lại, với những yêu cầu nhiều bước, Agent sẽ xây dựng kế hoạch trước khi bắt đầu tìm kiếm dữ liệu.

 

2. Lập kế hoạch truy xuất dữ liệu

 

Sau khi hiểu yêu cầu, AI Agent quyết định:

 

  • Nên truy cập nguồn dữ liệu nào.

 

  • Có cần chia truy vấn thành nhiều phần hay không.

 

  • Có cần gọi thêm công cụ hoặc API bên ngoài.

 

  • Thứ tự thực hiện từng bước.

 

Nhờ đó, hệ thống có thể tối ưu quá trình truy xuất thay vì chỉ tìm kiếm theo một truy vấn duy nhất.

 

3. Truy xuất dữ liệu nhiều vòng

 

Agent sẽ lần lượt lấy thông tin từ nhiều nguồn khác nhau như:

 

  • Cơ sở dữ liệu nội bộ.

 

  • Kho tài liệu doanh nghiệp.

 

  • Internet.

 

  • API của các hệ thống khác.

 

  • Công cụ tìm kiếm chuyên ngành.

 

Nếu dữ liệu chưa đầy đủ hoặc chưa đủ độ tin cậy, Agent có thể tiếp tục thực hiện các vòng truy xuất bổ sung cho đến khi thu được lượng thông tin phù hợp.

 

4. Tổng hợp và tạo câu trả lời

 

Sau khi hoàn thành quá trình truy xuất, toàn bộ dữ liệu sẽ được chuyển đến mô hình ngôn ngữ lớn (LLM).

 

LLM sẽ:

 

  • Phân tích thông tin.

 

  • Loại bỏ dữ liệu trùng lặp.

 

  • Kết hợp nhiều nguồn.

 

  • Tạo câu trả lời mạch lạc, đầy đủ và sát với yêu cầu ban đầu.

 

Trong nhiều trường hợp, Agent còn có thể tự kiểm tra kết quả trước khi gửi phản hồi cho người dùng nhằm nâng cao độ chính xác.

 

Phân loại AI Agent trong Agentic RAG

 

Một hệ thống Agentic RAG thường sử dụng nhiều loại AI Agent khác nhau để phối hợp xử lý nhiệm vụ.

 

Routing Agent

 

Routing Agent chịu trách nhiệm lựa chọn hướng xử lý phù hợp cho từng truy vấn.

 

Agent này sẽ xác định:

 

  • Nguồn dữ liệu cần sử dụng.

 

  • Công cụ phù hợp.

 

  • Agent nào sẽ tiếp tục xử lý.

 

Nhờ vậy, hệ thống có thể giảm thời gian tìm kiếm và nâng cao hiệu quả truy xuất.

 

Query Planning Agent

 

Đây là Agent chịu trách nhiệm lập kế hoạch.

 

Nếu người dùng đặt một câu hỏi phức tạp, Query Planning Agent sẽ chia nhỏ thành nhiều tác vụ độc lập trước khi gửi đến các Agent khác xử lý.

 

Sau khi các bước hoàn thành, Agent sẽ tổng hợp toàn bộ kết quả thành một câu trả lời thống nhất.

 

ReAct Agent

 

ReAct Agent hoạt động theo chu trình:

 

  • Suy luận.

 

  • Thực hiện hành động.

 

  • Quan sát kết quả.

 

  • Tiếp tục suy luận.

 

Quá trình này được lặp lại nhiều lần cho đến khi đạt được kết quả mong muốn.

 

Kiến trúc ReAct giúp hệ thống thích ứng tốt với các tình huống thay đổi liên tục.

 

Plan-and-Execute Agent

 

Loại Agent này sẽ xây dựng toàn bộ kế hoạch ngay từ đầu rồi thực hiện tuần tự từng bước.

 

So với ReAct, Plan-and-Execute giúp:

 

  • Giảm số lần gọi mô hình AI.

 

  • Tiết kiệm token.

 

  • Tăng tốc độ xử lý.

 

  • Giữ quy trình nhất quán hơn.

 

Kiến trúc này phù hợp với các quy trình có cấu trúc rõ ràng.

 

Sự khác biệt giữa Agentic RAG và RAG truyền thống

 

Tiêu chí RAG truyền thống Agentic RAG
Quy trình xử lý Truy xuất dữ liệu theo pipeline cố định Có AI Agent lập kế hoạch và điều phối
Khả năng truy xuất Thường truy xuất một lần Có thể truy xuất nhiều vòng
Nguồn dữ liệu Ít nguồn dữ liệu Hỗ trợ nhiều nguồn khác nhau
Khả năng thích ứng Thấp Cao
Độ chính xác Phụ thuộc dữ liệu ban đầu Có thể tự đánh giá và cải thiện kết quả
Khả năng mở rộng Hạn chế Linh hoạt hơn nhờ nhiều Agent phối hợp
Đa phương thức Chủ yếu xử lý văn bản Có thể kết hợp văn bản, hình ảnh, âm thanh và dữ liệu có cấu trúc
Chi phí Thấp hơn Cao hơn do cần nhiều bước suy luận
Độ trễ Phản hồi nhanh Có thể chậm hơn vì xử lý nhiều vòng
Độ tin cậy Phụ thuộc nguồn dữ liệu Có khả năng kiểm tra và truy xuất lại khi cần

 

Một số framework giúp triển khai Agentic RAG

 

Hiện nay có nhiều framework hỗ trợ xây dựng hệ thống Agentic RAG mà không cần phát triển toàn bộ từ đầu.

 

LangChain

 

LangChain là framework phổ biến để xây dựng ứng dụng sử dụng LLM.

 

Framework này hỗ trợ:

 

  • Xây dựng AI Agent.

 

  • Kết nối nhiều nguồn dữ liệu.

 

  • Gọi API.

 

  • Quản lý workflow.

 

  • Triển khai RAG.

 

Đây là lựa chọn phù hợp cho cả cá nhân và doanh nghiệp.

 

LlamaIndex

 

LlamaIndex tập trung vào việc kết nối mô hình AI với dữ liệu riêng.

 

Framework hỗ trợ:

 

  • Lập chỉ mục dữ liệu.

 

  • Truy xuất tài liệu.

 

  • Tối ưu tìm kiếm ngữ nghĩa.

 

  • Xây dựng hệ thống RAG trên dữ liệu nội bộ.

 

LangGraph

 

LangGraph được thiết kế dành cho các hệ thống nhiều AI Agent.

 

Agentic RAG, Retrieval-Augmented Generation (RAG)

 

Framework cho phép xây dựng quy trình làm việc dạng đồ thị, giúp nhiều Agent phối hợp xử lý các tác vụ phức tạp, quản lý trạng thái và điều phối toàn bộ luồng công việc hiệu quả hơn.

 

Granite và LLaMA 3

 

Bên cạnh các framework, nhiều doanh nghiệp còn triển khai Agentic RAG với các mô hình mã nguồn mở như Granite hoặc LLaMA 3.

 

Các mô hình này giúp:

 

  • Giảm chi phí vận hành.

 

  • Chủ động kiểm soát dữ liệu.

 

  • Tùy chỉnh theo nhu cầu riêng.

 

  • Triển khai trên hạ tầng nội bộ nhằm tăng cường bảo mật.
 HỖ TRỢ TRỰC TUYẾN