เป้าหมายของโปรเจกต์
โปรเจกต์นี้ใช้โมเดลตรวจจับวัตถุหรือบุคคลขนาดเล็กจริงโดยตรงบนโปรเซสเซอร์ของบอร์ด นั่นแตกต่างอย่างแท้จริงจากโปรเจกต์กล้องทั่วไป: ไม่มีการสตรีมวิดีโอออกจากอุปกรณ์, ไม่มีบริการคลาวด์ที่ประมวลผล, และไม่จำเป็นต้องมีการเชื่อมต่ออินเทอร์เน็ตเลย การตัดสินใจทั้งหมดเกิดขึ้นในเครื่อง บนฮาร์ดแวร์ขนาดเล็กพอที่จะใส่ในพวงกุญแจได้
สิ่งที่บอร์ดทำ
บอร์ดขนาดเล็กเพียงตัวเดียวทำทุกอย่าง: จับภาพจากกล้องออนบอร์ด, เรียกใช้โมเดลตรวจจับน้ำหนักเบา, และดำเนินการตามผลลัพธ์ ทั้งหมดนี้โดยไม่ต้องส่งข้อมูลแม้แต่ไบต์เดียวออกจากอุปกรณ์ กล้อง, ไมโครโฟน, และพื้นที่ประมวลผลที่เพียงพอสำหรับรันโมเดลการเรียนรู้ของเครื่องจริงทั้งหมดอยู่ในฮาร์ดแวร์ชิ้นนี้
ความหมายที่แท้จริงของการอนุมานบนอุปกรณ์
โมเดลที่ได้รับการฝึกฝนจากที่อื่นบนคอมพิวเตอร์จริง จะถูกแปลงเป็นรูปแบบที่กะทัดรัดพอที่จะทำงานบนบอร์ดนี้ จากนั้นจะถูกโหลดลงไปอย่างถาวร จากจุดนั้นเป็นต้นไป บอร์ดจะทำการตัดสินใจของตัวเองแบบเรียลไทม์ โดยไม่มีการพึ่งพาการเชื่อมต่อสดกับสิ่งใดๆ
แนวคิดซอฟต์แวร์และไลบรารี
เริ่มต้นด้วยโมเดลตรวจจับที่ได้รับการฝึกฝนล่วงหน้าพร้อมใช้งาน แทนที่จะฝึกฝนโมเดลของคุณเองตั้งแต่เริ่มต้น วิธีนี้ช่วยให้สามารถรันตัวตรวจจับที่ใช้งานได้จริงได้อย่างรวดเร็ว และให้พื้นฐานที่ดีที่คุณทราบว่าถูกต้องเพื่อใช้เปรียบเทียบในภายหลัง หากคุณทำการทดลองกับการฝึกฝนแบบกำหนดเอง
การทดสอบและการแก้ไขปัญหา
- การตรวจจับรู้สึกช้าหรือหน่วง นั่นเป็นเรื่องปกติสำหรับการอนุมานบนอุปกรณ์เมื่อเทียบกับบริการคลาวด์ ให้ลดความละเอียดของกล้องหรืออัตราเฟรมก่อนที่จะสันนิษฐานว่ามีบางอย่างเสีย
- การตรวจจับผิดพลาดในที่แสงน้อย โมเดลที่ใช้กล้องมีความไวต่อคุณภาพของแสง ทดสอบในสภาพแสงที่สม่ำเสมอและเพียงพอก่อนตัดสินความแม่นยำ
- บอร์ดจะไม่แฟลชหรืออัปโหลดโค้ด ให้ยืนยันว่าเลือกโปรไฟล์บอร์ดที่ถูกต้องในสภาพแวดล้อมการพัฒนาของคุณ บอร์ดเฉพาะนี้ต้องใช้การกำหนดบอร์ดของตัวเอง ไม่ใช่ ESP32-S3 ทั่วไป
การอัปเกรดเสริม
เพิ่มไมโครโฟนออนบอร์ดเข้าไปเพื่อเป็นการเรียกใช้แบบรวมวิสัยทัศน์และเสียง แจ้งเตือนเมื่อตรวจพบบุคคลและมีเสียงเกินเกณฑ์เกิดขึ้นพร้อมกันเท่านั้น เพื่อลดการแจ้งเตือนที่ผิดพลาดจากเซ็นเซอร์ใดเซ็นเซอร์หนึ่งเพียงอย่างเดียว
การเดินสายไฟ
- Seeed XIAO ESP32S3 Sense USB-C → PC/USB power — กล้องและไมโครโฟนอยู่บนบอร์ด ไม่จำเป็นต้องมีการเดินสายภายนอกสำหรับการสร้างนี้
ไม่จำเป็นต้องมีแผงวงจรในที่นี้เนื่องจากกล้องและไมโครโฟนถูกสร้างมาพร้อมกับบอร์ดนี้
การเรียกใช้ SDK ของกล้องออนบอร์ดและไมโครโฟนออนบอร์ดของ XIAO ESP32S3 Sense เป็นเฉพาะสำหรับ SDK/ตัวอย่างของ Seeed และมีการเปลี่ยนแปลงระหว่างเวอร์ชันเฟิร์มแวร์/SDK ดังนั้น แทนที่จะคาดเดา API การจับภาพ, การจัดการบัฟเฟอร์ หรือการเรียกใช้การอนุมานโมเดลที่อาจไม่ตรงกับ SDK ที่ติดตั้งของคุณ โค้ดด้านล่างนี้จึงจำกัดอยู่ที่การตรวจสอบความสมบูรณ์ในการเริ่มระบบที่ปลอดภัยและเป็นจริง เพื่อยืนยันว่าบอร์ดบูตและรายงานตัวเองได้อย่างถูกต้อง
สำหรับการตรวจจับบุคคล/วัตถุจริง: ใช้ตัวอย่าง Wiki อย่างเป็นทางการของ Seeed สำหรับ XIAO ESP32S3 Sense (โครงร่างตัวอย่างกล้อง + ไมโครโฟน), เครื่องมือ SenseCraft AI ของพวกเขาสำหรับการปรับใช้โมเดลแบบไม่ต้องเขียนโค้ด/เขียนโค้ดน้อย หรือ Edge Impulse (ชุดเครื่องมือจริงที่รองรับบอร์ดนี้อย่างเป็นทางการ) เพื่อฝึกฝนและปรับใช้โมเดลตรวจจับบุคคล/วัตถุกับบอร์ดนี้ เหล่านั้นคือแหล่งที่มาที่ถูกต้องและซื่อสัตย์ของการเรียกใช้ API กล้อง/ไมโครโฟน/การอนุมานสำหรับบอร์ดนี้