เลือก GPU และ Edge device จากงานจริง ไม่ใช่ดูเฉพาะ TOPS
คำตอบสั้น: เลือก GPU หรือ Edge computer จาก workload ที่วัดจริง ไม่ใช่ TOPS, core count หรือราคาบน datasheet เพียงอย่างเดียว เพราะ memory, thermals, power, I/O และการดูแลมีผลต่อระบบมากกว่า
เก็บข้อมูลอะไรบ้าง
บันทึก resolution, preprocessing, model/precision, stream count, concurrent requests, latency target, memory headroom, ambient temperature, duty cycle, power budget และวิธี fallback
ตาราง sizing
| สิ่งที่วัด | หลักฐานที่ต้องเก็บ |
|---|---|
| compute | model/runtime version และเวลาตอบสนองตาม concurrency |
| memory | peak usage, context/index และ headroom |
| thermal/power | enclosure, ambient, duty cycle และ throttling |
| operations | update, backup, spare, telemetry และ rollback |
ใช้ Hardware เป็นรายการตั้งต้น แล้วทำ test plan ใน Edge AI หากข้อมูลยังไม่ครบให้ติดป้าย proposed ไม่ใช่ supported
ข้อจำกัด
อุปกรณ์เดียวกันอาจให้ผลต่างกันเมื่อแสง, camera, driver, model หรืออุณหภูมิเปลี่ยน และ TOPS ข้ามผู้ผลิตเปรียบเทียบตรง ๆ ไม่ได้
อ่านต่อ
Edge AI คืออะไร และต่างจาก IoT กับ Cloud AI อย่างไรทำไม AI POC ใช้ได้ใน Demo แต่ล้มเหลวใน ProductionLocal AI หรือ Cloud AI: ตารางตัดสินใจสำหรับองค์กรไปต่อด้วยบริบทเพื่อการตัดสินใจ
อยากคุยกับทีมเกี่ยวกับปัญหานี้ไหม
ปรึกษาฟรี 30 นาที ไม่มีข้อผูกมัด ไม่ใช้ศัพท์เทคนิคที่ฟังไม่รู้เรื่อง
คุยกับเราก่อน 30 นาที