Trợ lý AI nội bộ chạy trên hạ tầng riêng của công ty

Cùng một câu hỏi được hỏi lại chục lần mỗi tháng. Nghỉ phép tính thế nào, khách mua bao nhiêu thì được mức chiết khấu kế tiếp, con máy đời cũ có còn hỗ trợ không. Người biết câu trả lời thì bận, người cần thì phải chờ. Trợ lý AI nội bộ là cách để câu trả lời có sẵn, lấy từ chính tài liệu công ty đang có.

Phần đáng bàn không nằm ở chỗ nó trả lời hay tới đâu, mà ở chỗ tài liệu của bạn đi đâu trong lúc nó trả lời.

Cho AI đọc tài liệu công ty nghĩa là gì

Mô hình ngôn ngữ học từ dữ liệu công khai trên mạng. Nó không biết quy chế lương của bạn, không biết bảng giá bạn vừa sửa tuần trước. Hỏi thẳng thì nó đoán, và đoán ra câu nghe rất thuyết phục.

Cách xử lý phổ biến gọi là RAG. Nói bằng ngôn ngữ thường: trước khi trả lời, hệ thống đi tìm trong kho tài liệu của bạn vài đoạn liên quan tới câu hỏi, đưa mấy đoạn đó cho mô hình đọc, rồi mới bảo nó trả lời dựa trên đúng mấy đoạn ấy.

Vì sao nên đặt trợ lý AI nội bộ trên máy chủ riêng

Dịch vụ đám mây dựng loại này rất nhanh, tải tài liệu lên là chạy. Cái giá là toàn bộ tài liệu nằm trên hệ thống của bên khác.

Đây là những thứ thường bị đẩy vào kho tài liệu nội bộ mà không ai nghĩ tới:

• Bảng giá gốc và mức chiết khấu theo từng nhóm khách.
• Quy chế lương, thưởng, phụ cấp.
• Hợp đồng mẫu và điều khoản đã đàm phán riêng.
• Tài liệu kỹ thuật sản phẩm chưa công bố.
• Danh sách khách hàng kèm lịch sử mua.

Chiết khấu lọt ra ngoài là đối thủ biết giá sàn của bạn. Không phải công ty nào cũng cần lo tới mức đó, nhưng nếu tài liệu của bạn nằm trong nhóm trên thì đặt hệ thống trên máy chủ mình quản gọn hơn nhiều so với đọc điều khoản của từng nhà cung cấp.

Còn một lý do thực dụng: chạy trên hạ tầng riêng thì bạn giữ được quyền tắt. Nhà cung cấp đổi chính sách hay dừng gói bạn đang dùng thì hệ thống của bạn vẫn nguyên chỗ cũ.

Dify và Flowise dựng hệ thống này thế nào

Cả hai đều là phần mềm mã nguồn mở, cài lên máy chủ của bạn được, dựng bằng giao diện kéo thả thay vì viết mã.

Dify nghiêng về hướng ứng dụng hoàn chỉnh. Nó có sẵn chỗ tải tài liệu lên, chỗ quản lý kho kiến thức, giao diện chat cho người dùng cuối, và bảng theo dõi câu hỏi nào đang được hỏi nhiều. Hợp khi bạn muốn giao cho nhân viên một đường dẫn là dùng được ngay.

Flowise nghiêng về hướng lắp ghép. Bạn nối từng khối lại với nhau, kiểm soát kỹ hơn từng bước xử lý, nhưng phải tự lo phần giao diện và phần vận hành. Hợp khi trợ lý cần gắn vào một hệ thống sẵn có chứ không đứng riêng.

Chọn cái nào thì cũng nên cài thử với chừng hai chục tài liệu thật, hỏi vài chục câu, rồi mới quyết. Đọc mô tả tính năng không thay được việc này.

Ba việc trợ lý AI nội bộ làm được ngay

Không cần dựng cho cả công ty một lượt. Chọn một nhóm có câu hỏi lặp nhiều nhất mà làm trước.

Nhân viên mới hỏi quy định công ty

Nhóm này hỏi nhiều nhất trong ba tháng đầu, và mỗi đợt tuyển lại hỏi đúng những câu ấy. Quy trình xin nghỉ, cách nộp đề nghị thanh toán, ai duyệt cái gì. Tài liệu thường đã có sẵn, chỉ là nằm rải rác nên không ai chịu đọc.

Kinh doanh tra bảng giá và chính sách chiết khấu

Đang ngồi với khách mà phải nhắn hỏi quản lý xem đơn này giảm được bao nhiêu là mất nhịp. Trợ lý đọc bảng giá và bảng chính sách rồi trả lời theo điều kiện của đơn.

Một quy tắc nên đặt ngay từ đầu: con số cuối cùng gửi khách phải do người kiểm. Trợ lý dùng để tra nhanh, không dùng để chốt giá.

Kỹ thuật tra tài liệu sản phẩm

Thông số thiết bị, mã lỗi, phiên bản nào còn được hỗ trợ. Loại tài liệu này dài, tra tay mất thời gian, và thường nằm trong tệp PDF của nhà sản xuất.

Chưa làm được gì

Ba điểm dưới đây không phải nhược điểm tạm thời chờ bản mới vá, mà là bản chất của cách làm này.

Tài liệu lộn xộn thì trả lời lộn xộn. Hệ thống không phân biệt được đâu là bảng giá còn hiệu lực, đâu là bản nháp năm ngoái ai đó quên xoá. Nó thấy cả hai đều là tài liệu công ty, và trả lời theo cái nó tìm thấy trước. Kho có ba phiên bản quy chế thì câu trả lời cũng có ba kiểu.

Cho nên phần việc nặng nhất khi triển khai nằm ở dọn tài liệu, không nằm ở phần mềm. Bỏ bản cũ, gộp bản trùng, ghi rõ ngày hiệu lực.

Nó vẫn trả lời sai. Tài liệu sạch rồi thì mô hình vẫn có lúc hiểu sai câu hỏi hoặc ghép nhầm hai đoạn không liên quan. Vì vậy không dùng cho việc pháp lý: điều khoản hợp đồng, nghĩa vụ thuế, tranh chấp lao động là việc của người có chuyên môn. Nên bắt hệ thống dẫn ra tên tài liệu và mục đã dùng, người đọc còn tự kiểm được.

Dựng xong không phải là xong. Bảng giá đổi, quy chế sửa, sản phẩm ra phiên bản mới. Không ai cập nhật thì sau nửa năm trợ lý trả lời bằng dữ liệu cũ, còn tệ hơn không có trợ lý vì người dùng đã quen tin nó. Việc nạp lại tài liệu định kỳ phải ghi vào phần việc của một vị trí cụ thể, không giao cho cả phòng.

Miễn phí tới đâu

Bản mã nguồn mở của cả Dify lẫn Flowise đều tải về dùng không mất phí bản quyền. Nhưng đây là chỗ hay bị hiểu nhầm, vì còn hai khoản khác:

• Máy chủ chạy nó. Loại này nặng hơn workflow tự động hoá thông thường, chủ yếu vì phần lập chỉ mục tài liệu và phần cơ sở dữ liệu kèm theo đều ăn RAM. Cấu hình cần cao hơn mức tối thiểu khá nhiều.
• Mô hình sinh câu trả lời. Gọi mô hình của nhà cung cấp bên ngoài thì tính tiền theo lượng chữ. Chạy mô hình ngay trên máy mình thì không tốn khoản này nhưng đổi lại phải có máy khoẻ hơn nữa, thường là có card đồ hoạ.

Hai bên đều có bản đám mây trả phí. Giá và hạn mức đổi khá thường xuyên nên xem trang giá chính thức tại thời điểm bạn định mua.

Hợp với ai

Khi nào chưa cần tới nó

Công ty dưới mười người ngồi chung một phòng thì quay sang hỏi vẫn nhanh hơn. Tài liệu chưa viết ra thành văn bản thì việc cần làm trước là viết tài liệu, không phải dựng trợ lý. Câu hỏi lặp chỉ gom vào năm sáu thứ thì một trang ghi sẵn câu trả lời có khi đủ.

Ngưỡng đáng cân nhắc thường rơi vào lúc kho tài liệu vượt vài chục văn bản và người giữ câu trả lời bắt đầu than bị hỏi nhiều.

Thông tin kiểm ngày 20/08/2026. Các nhà cung cấp đổi chính sách khá nhanh, nên tra lại trang chính thức trước khi quyết định mua.