AI ความรู้องค์กรที่เป็นของคุณเอง ฝึกจากข้อมูลจริง ไม่มีข้อมูลออกนอกองค์กร
- 100%ประมวลผลในสถานที่ของคุณ
- 0%ข้อมูลที่ส่งออกนอกองค์กร
- 0บาทค่า token ต่อการใช้งาน (รันในเครื่องเอง ไม่เรียก API คลาวด์)
ถ้าสถานการณ์พวกนี้คุ้น ๆ
- ความรู้สำคัญกระจัดกระจายอยู่ในเอกสาร รูปถ่าย และหัวคนที่ทำงานมานาน
- ไม่กล้าใช้ ChatGPT หรือ AI คลาวด์กับข้อมูลลูกค้าหรือสัญญาที่เป็นความลับ
- ค่าใช้จ่าย API ต่อ token บานปลายเมื่อพนักงานเริ่มใช้ AI ถามงานทุกวัน
- อยากได้ AI ที่เข้าใจศัพท์เฉพาะและบริบทขององค์กรจริง ๆ ไม่ใช่คำตอบทั่วไปจากอินเทอร์เน็ต
ระบบทำงานอย่างไร
นำเข้าและอ่านเอกสารด้วย OCR ในเครื่อง
แปลงเอกสาร สแกน หรือรูปภาพเป็นข้อความด้วยโมเดล OCR ที่รันในเครื่องทั้งหมด ไม่ส่งไฟล์ออกไปที่ไหน
ค้นและตอบจากข้อมูลจริงด้วย RAG
ระบบค้นข้อมูลที่เกี่ยวข้องจากความรู้ที่มีอยู่ก่อนให้แชทบอทตอบ คำตอบอ้างอิงจากเอกสารจริงขององค์กร ไม่ใช่ความรู้ทั่วไปจากอินเทอร์เน็ต
เลือกโมเดลเปิด (open source) ที่เหมาะกับงาน
ใช้โมเดลภาษาแบบ open source ที่เหมาะกับงานในแต่ละช่วง สลับเปลี่ยนเป็นรุ่นที่ดีกว่าได้ในอนาคตโดยไม่ผูกติดกับผู้ให้บริการหรือโมเดลใดโมเดลหนึ่งตายตัว
ปรับแต่ง (fine-tune) เฉพาะองค์กรเมื่อพร้อม
เมื่อมีข้อมูลการใช้งานจริงเพียงพอ ปรับจูนโมเดลเปิดด้วยเทคนิค LoRA/QLoRA ให้เข้าใจศัพท์เฉพาะและบริบทขององค์กรได้แม่นยำขึ้น โดยไม่ต้องเทรนโมเดลใหม่ทั้งหมด
Signature visual ของหน้านี้ยังไม่ถูกสร้าง (CT-031/032)
สเปกเทคนิค
- การ์ดจอที่ใช้ทดสอบ
- NVIDIA RTX 6000 Ada
- โมเดลภาษา
- Local LLM แบบ open source (เลือก/สลับรุ่นได้ตามงาน ไม่ผูกติดรุ่นเดียว)
- OCR
- Local OCR model (ไม่เรียก API ภายนอก)
ฮาร์ดแวร์ที่ใช้
อยู่ระหว่างประเมินแพ็กเกจฮาร์ดแวร์ ขึ้นกับขนาดข้อมูลและโมเดลที่เลือกใช้ ทักคุยเพื่อประเมินเฉพาะความต้องการของคุณได้
ดูสเปกและราคาเต็มที่หน้าฮาร์ดแวร์ข้อมูลส่วนบุคคลในความรู้องค์กร
ถ้าข้อมูลที่นำเข้ามีข้อมูลส่วนบุคคลของพนักงานหรือลูกค้า ระบบไม่ส่งข้อมูลออกนอกสถานที่ และรองรับการกำหนดสิทธิ์เข้าถึงข้อมูลตาม PDPA
คำถามที่พบบ่อย
สิ่งที่ระบบนี้ทำไม่ได้
- ยังอยู่ระหว่างพัฒนา ยังไม่มีลูกค้าที่ใช้งานจริงหรือโครงการนำร่อง ตัวเลขความแม่นยำและความเร็วยังไม่มีการวัดที่เผยแพร่ได้
- การปรับแต่ง (fine-tune) ด้วย LoRA/QLoRA ต้องมีข้อมูลการใช้งานจริงในปริมาณหนึ่งก่อนจึงจะเห็นผลชัดเจน ไม่ใช่ทำได้ทันทีตั้งแต่วันแรก
- ต้องมีฮาร์ดแวร์ในองค์กรรองรับการรันโมเดลภาษาขนาดใหญ่ ซึ่งมีต้นทุนเริ่มต้นสูงกว่าการใช้ API คลาวด์ แลกกับการไม่มีข้อมูลออกนอกองค์กรและไม่มีค่าใช้จ่ายต่อการเรียกใช้ในระยะยาว