Private RAG: สถาปัตยกรรมค้นเอกสารโดยไม่ส่งข้อมูลออกนอกองค์กร

คำตอบสั้น: Private RAG ไม่ใช่แค่ติดตั้งโมเดลในเครื่อง แต่คือ flow ที่เอกสาร สิทธิ์ และคำตอบอยู่ใน boundary ที่กำหนด พร้อมหลักฐานว่าข้อมูลแต่ละขั้นไปที่ใด

Flow ที่ควรออกแบบ

1. OCR และ intake — เก็บ source, ภาษา, version และสิทธิ์ของเอกสาร พร้อมให้คนตรวจ OCR ที่ผิด
2. Chunking และ embedding — บันทึก model/runtime, retention และวิธีสร้าง index ใหม่
3. Access-aware retrieval — ตรวจ identity และ permission ก่อนคืน passage ไม่ใช่กรองสิทธิ์หลังสร้างคำตอบ
4. คำตอบพร้อมหลักฐาน — แสดง citation หรือ passage ที่อ้าง และส่งงานสำคัญให้ human reviewer
5. Update และ recovery — ทดสอบ index/model version ใหม่ เก็บเวอร์ชันก่อนหน้า และมี rollback

Boundary และ audit

แยก business content จาก health telemetry, update package, backup และ support session ใน Trust Center อย่าใส่เอกสารจริงลง log เพียงเพื่อ debug และต้องกำหนด retention กับ deletion ให้ตรวจได้

RAG ไม่ได้แก้ทุกอย่าง

OCR ผิด metadata หาย หรือเอกสารคนละ version ทำให้ retrieval ไม่ครบ โมเดลยัง hallucinate ได้ จึงควรเริ่มจาก corpus ที่อนุมัติ วิธีประเมินที่ทำซ้ำได้ และเส้นทางหยุดใช้งาน

สำหรับภาพรวม local/cloud อ่าน ตารางตัดสินใจ และขอ Solution Architecture เมื่อ boundary ซับซ้อน