วิธีการและเหตุผลไมโครคอนโทรลเลอร์ช่วยให้เข้าถึง Edge AI ได้อย่างเท่าเทียม

Edge AI มีความนิยมเพิ่มมากขึ้นในเวลาหลายปีที่ผ่านมา คาดว่าตลาดโลกที่เกี่ยวข้อง จะเติบโตในอัตราทบต้นต่อปี 27.8% จนถึงปี 2035 และเพิ่มขึ้นเป็นมูลค่าสุทธิ 356.84 พันล้านดอลลาร์

มีปัจจัยหลายประการที่เป็นแรงกระตุ้นสิ่งนี้ การประมวลผลข้อมูลที่ระดับเอดจ์จะช่วยแก้ไขข้อกังวลด้านความปลอดภัยที่บริษัทต่างๆ อาจมีเกี่ยวกับการกำหนดเส้นทางข้อมูลที่ละเอียดอ่อนหรือเป็นกรรมสิทธิ์ไปยังคลาวด์ การประมวลผลระดับเอดจ์ยังช่วยลดเวลาแฝง ซึ่งอาจมีความสำคัญในการใช้งานแบบเรียลไทม์ที่ต้องมีการตัดสินใจภายในเสี้ยววินาที อุปกรณ์ Industrial IoT (IIoT) ให้การดำเนินงานที่ขับเคลื่อนด้วยข้อมูล ซึ่งจะช่วยเพิ่มการใช้งาน Edge AI การใช้งานที่ขยายตัวอย่างรวดเร็วตั้งแต่อุปกรณ์การแพทย์พกพาไปจนถึงอุปกรณ์สวมใส่และ IIoTกำลังส่งเสริมให้ตลาดสำหรับ AI ระดับเอดจ์เติบโตขึ้น

เนื่องจากเทคโนโลยีมีความนิยมมากขึ้น ความต้องการส่วนประกอบที่สามารถจัดการกับความต้องการประมวลผลข้อมูลในระบบฝังตัวจึงเพิ่มขึ้นตามไปด้วย

ตัวเลือกการประมวลผลการคำนวณ: ไมโครคอนโทรลเลอร์หรือไมโครโปรเซสเซอร์

อุปกรณ์ IoT ส่วนใหญ่ที่ใช้งานในปัจจุบันในอุตสาหกรรมและอุปกรณ์ฝังตัวอื่นๆ เป็นอุปกรณ์ที่ใช้พลังงานต่ำและมีหน่วยความจำน้อยมาก โดยพลังการประมวลผลที่อุปกรณ์เหล่านี้มาจากไมโครคอนโทรลเลอร์ฝังตัวขนาดเล็ก (MCU) MCU เหล่านี้มีสถาปัตยกรรมที่ใช้พลังงานต่ำที่ช่วยให้ระบบฝังตัวมีประสิทธิภาพด้านต้นทุนได้มากกว่าระบบที่ใช้ไมโครโปรเซสเซอร์

จนกระทั่งถึงการกำเนิดของ Edge AI, MCU ที่ตอบสนองความต้องการการประมวลผลของอุปกรณ์ IoT ได้เป็นอย่างดี อย่างไรก็ตาม MCU แบบดั้งเดิมมักจะไม่สามารถส่งมอบพลังการประมวลผลที่จำเป็นสำหรับอัลกอริทึมการเรียนรู้ของเครื่องที่ซับซ้อนมากขึ้น ซึ่งเป็นคุณลักษณะเด่นของ Edge AI ได้ โดยทั่วไปอัลกอริทึมดังกล่าวทำงานบนหน่วยประมวลผลกราฟิก (GPU) และไมโครโปรเซสเซอร์ที่มีพลังประมวลผลสูงกว่า อย่างไรก็ตาม การใช้ส่วนประกอบเหล่านี้ก็มีข้อเสียเช่นกัน เช่น ปริมาณพลังงานที่ใช้ ซึ่งไมโครโปรเซสเซอร์หรือ GPU ไม่ใช่โซลูชันที่ประหยัดพลังงานที่สุด ผลที่ได้คือการประมวลผลระดับเอดจ์ที่ขับเคลื่อนด้วยไมโครโปรเซสเซอร์อาจไม่เหมาะกับ Edge AI ทั้งหมด และผู้จำหน่ายจึงเลือกที่จะใช้ MCU แทน

MCU แบบสแตนด์อโลนมีราคาถูกกว่า GPU และไมโครโปรเซสเซอร์ ในการปรับขนาดของ Edge AI จำเป็นต้องมีการใช้ประโยชน์จากข้อดีของ MCU มากขึ้น เช่น ต้นทุนต่ำและการใช้พลังงานต่ำ พร้อมทั้งต้องเพิ่มพลังการประมวลผลด้วย

ในหลายปีที่ผ่านมา มีปัจจัยบางประการมาร่วมกันเพื่อเพิ่มขีดความสามารถของ MCU ที่ระดับเอดจ์

สิ่งที่ช่วยสนับสนุนการใช้งาน MCU ที่ระดับเอดจ์

แม้ว่าสมมติฐานทั่วไปจะอนุมานว่า MCU แบบดั้งเดิมนั้นมีไม่เหมาะสำหรับการประมวลผลข้อมูลที่เกี่ยวข้องกับ AI แต่การเปลี่ยนแปลงทั้งในการออกแบบ MCU และในระบบนิเวศเทคโนโลยีที่กว้างขึ้นกำลังกระตุ้นการนำมาใช้ในการใช้งาน Edge AI

ปัจจัยเหล่านี้ ได้แก่ :

• การใช้ AI accelerators ใน MCU: เมื่อ MCU เพียงตัวเดียวพยายามที่จะตอบสนองความต้องการการประมวลผลระดับเอดจ์ การรวมเข้ากับตัวเร่งความเร็ว AI/ML เช่น หน่วยประมวลผลประสาท (NPU) หรือโปรเซสเซอร์สัญญาณดิจิทัล (DSP) จะช่วยปรับปรุงประสิทธิภาพการทำงาน

  ตัวอย่างเช่น CPU ซีรีส์ STM32N6 (รูปที่ 1) จาก STMicroelectronics ใช้ Arm Cortex-M55 rทำงานที่ความถี่ 800 MHz โดยเทคโนโลยีการประมวลผลเวกเตอร์ Arm Helium นำความสามารถในการประมวลผล DSP ให้กับ CPU มาตรฐาน STM32N6 เป็น STM32 MCU ตัวแรกที่ฝัง ST Neural-ART Accelerator ไว้ ซึ่งเป็น NPU ที่พัฒนาขึ้นภายในองค์กรสำหรับ Edge AI อันทรงพลัง

รูปที่ 1: STM32N6 เป็น STM32 MCU ที่ฝัง ST Neural-ART Accelerator ซึ่งเป็น Neural Processing Unit (NPU) ที่พัฒนาขึ้นภายในบริษัท โดยออกแบบมาสำหรับการใช้งาน Edge AI mujประหยัดพลังงาน (แหล่งที่มาภาพ: STMicroelectronics)

• โมเดล AI ที่ได้รับการปรับให้เหมาะสมสำหรับการประมวลผลระดับเอดจ์: อัลกอริทึม AI และการเรียนรู้ของเครื่องที่ใช้งานหนักไม่สามารถโอนไปยัง MCU ได้อย่างง่ายดาย ซึ่งจำเป็นต้องปรับให้เหมาะสมสำหรับทรัพยากรคอมพิวเตอร์ที่มีข้อจำกัด สถาปัตยกรรม AI แบบกะทัดรัด เช่น TinyML และ MobileNet ทำสิ่งนั้นร่วมกับเทคนิคการเพิ่มประสิทธิภาพ ช่วยให้ MCU ที่ระดับเอดจ์สามารถใช้อัลกอริทึม AI ได้ STMicroelectronics เปิดตัว STM32Cube.AI ซึ่งเป็นโซลูชันซอฟต์แวร์ที่แปลงนิวรอนเน็ตเวิร์คให้เป็นรหัส C ที่ได้รับการปรับให้เหมาะสมสำหรับ STM32 MCU โดยการใช้โซลูชันร่วมกับ STM32N6 ช่วยให้มั่นใจถึงประสิทธิภาพที่จำเป็นสำหรับการใช้งาน Edge AI แม้จะมีข้อจำกัดด้านการประมวลผลและหน่วยความจำ

• การเพิ่มขึ้นของระบบนิเวศ AI: การมีส่วนประกอบฮาร์ดแวร์ที่สามารถประมวลผลที่เกี่ยวข้องกับ AI ที่ระดับเอดจ์เพียงอย่างเดียวนั้นไม่เพียงพอ การใช้อัลกอริธึม AI ที่ระดับเอดจ์ต้องมีระบบนิเวศที่เป็นมิตรกับนักพัฒนาซึ่งจะช่วยให้การปรับใช้ AI ง่ายขึ้น โดยเครื่องมือเฉพาะ เช่น TensorFlow Lite สำหรับไมโครคอนโทรลเลอร์ ช่วยส่งมอบโซลูชั่นดังกล่าว คอมมูนิตี้โอเพ่นซอร์สเช่น Hugging Face และแพลตฟอร์มอื่นๆ นำเสนอโมเดลและไลบรารีโค้ดที่ได้รับการเทรนไว้ล่วงหน้าที่นักพัฒนาสามารถทดสอบและปรับแต่งให้เหมาะสำหรับการใช้งานเฉพาะของตนได้ โดยระบบนิเวศ AI ดังกล่าวลดอุปสรรคสำหรับการนำเทคโนโลยีมาใช้และสร้างความเท่าเทียมกันในการเข้าถึงแม้แต่สำหรับธุรกิจที่ขาดแคลนทรัพยากรซึ่งอาจไม่สามารถพัฒนาโมเดล AI ที่เป็นกรรมสิทธิ์ตั้งแต่เริ่มต้นได้

  STMicroelectronics มีระบบนิเวศฮาร์ดแวร์และซอฟต์แวร์ที่ออกแบบมาโดยเฉพาะ นั่นก็คือ ST Edge AI Suite สำหรับโซลูชัน Edge AI ที่ได้รับการปรับให้เหมาะสม ชุดโปรแกรมนี้รวบรวมไลบรารีและเครื่องมือ AI ต่างๆ ของ ST ไว้ด้วยกันเพื่อช่วยให้นักพัฒนาสามารถค้นหาโมเดล แหล่งข้อมูล เครื่องมือ และคอมไพเลอร์ที่สามารถสร้างโค้ดสำหรับไมโครคอนโทรลเลอร์ได้ง่ายขึ้น

  โมเดลที่ได้รับการเทรนล่วงหน้าในแหล่งรวมโมเดลเป็นจุดเริ่มต้นสำหรับนักพัฒนา โมเดลเหล่านี้ใช้รูปแบบ Open Neural Network Exchange (ONNX) ซึ่งเป็นมาตรฐานเปิดในการแสดงโมเดลการเรียนรู้ของเครื่องในด้านต่างๆ เช่น Computer Vision (CV), Natural Language Processing (NLP), Generative AI (GenAI) และการเรียนรู้ของเครื่องแบบกราฟ

• โค้ดสำหรับการสร้างมาตรฐานและการทำงานร่วมกัน: แม้ว่าระบบนิเวศ AI ช่วยให้บริษัทต่างๆ ทดสอบการใช้งาน AI ขั้นสูงได้ แต่รูปแบบโมเดลแบบเปิดและเป็นมาตรฐานก็ช่วยให้การบูรณาการระหว่างระบบฮาร์ดแวร์ต่างๆ ราบรื่นยิ่งขึ้น โดยความเข้ากันได้ระหว่างเครื่องมือซอฟต์แวร์และ MCU ช่วยลดอุปสรรคในการนำ AI ไปใช้
• ใส่ใจต่อความปลอดภัยที่ระดับเอดจ์: ในขณะที่ MCU จะขจัดหรืออย่างน้อยก็ลดความจำเป็นในการประมวลผลข้อมูลบนคลาวด์ ซึ่งส่วนประกอบฮาร์ดแวร์ยังให้ระดับความปลอดภัยเพิ่มเติมอีกด้วย โดยทั่วไปแล้วจะมีคุณสมบัติเช่น การเข้ารหัสฮาร์ดแวร์และการบูตอย่างปลอดภัย ซึ่งจะปกป้องทั้งข้อมูลและโมเดล AI จากผู้ไม่ประสงค์ดี

คุณสมบัติที่น่าสนใจของฮาร์ดแวร์ STM32N6

ซีรีส์ STM32N6 ประกอบด้วย MCU ประสิทธิภาพสูงพร้อม NPU ชุดโมดูลกล้อง และชุดตัวอย่าง ซีรีย์นี้ใช้สถาปัตยกรรม ARM Cortex-M ทั่วไปและมีคุณสมบัติหลักหลายประการที่ทำให้อุปกรณ์เหล่านี้เหมาะกับ AI ระดับเอดจ์ ได้แก่:

• Neural ART Accelerator ซึ่งสามารถรันแบบจำลองนิวรอนเน็คเวิร์คได้ ซึ่งได้รับการปรับให้เหมาะสมสำหรับอัลกอริทึม AI เชิงเข้มข้น มีความถี่อยู่ที่ 1 GHz และให้ GOPS 600 โดยมีประสิทธิภาพพลังงานเฉลี่ย 3 TOPS/W
• รองรับคำสั่ง “Helium” M-profile Vector Extension (MPVE) ซึ่งเป็นชุดคำสั่ง ARM ที่ทำให้สามารถใช้งานเครือข่ายประสาทและฟังก์ชัน DSP ที่มีประสิทธิภาพได้ คำสั่งเหล่านี้ได้รับการออกแบบมาเพื่อทำงานกับตัวเลขทศนิยมขนาด 16 บิตและ 32 บิต โดยช่วยให้สามารถจัดการตัวเลขความแม่นยำต่ำได้อย่างมีประสิทธิภาพ ซึ่งมีความสำคัญต่อการประมวลผลโมเดล ML
• ST Edge AI Suite คลังเครื่องมือซอฟต์แวร์ฟรี เคสการใช้งาน และเอกสารประกอบที่ช่วยให้นักพัฒนาทุกระดับประสบการณ์สร้าง AI สำหรับ Intelligent Edge ชุดโปรแกรมนี้ยังรวมถึงเครื่องมือต่างๆ เช่น ST Edge AI Developer Cloud ที่มีนิวรอนเน็ตเวิร์คเทียมเฉพาะใน STM32 Model Zoo ฟาร์มบอร์ดสำหรับการเปรียบเทียบประสิทธิภาพในโลกแห่งความเป็นจริง และอื่นๆ อีกมากมาย
• หน่วยสะสมหลายค่าที่กำหนดค่าได้เกือบ 300 หน่วยและบัสหน่วยความจำ AXI 64 บิตสองตัวสำหรับปริมาณงาน 600 GOPS
• โปรเซสเซอร์สัญญาณภาพเฉพาะในตัว (ISP) ที่สามารถเชื่อมต่อโดยตรงกับกล้อง 5 เมกะพิกเซลหลายตัวได้ โดยในการสร้างระบบที่รวมกล้องไว้ นักพัฒนาจะต้องปรับแต่ง ISP ให้เหมาะกับเซ็นเซอร์กล้อง CMOS เฉพาะและเลนส์ของกล้องนั้นๆ ซึ่งการปรับแต่งโดยทั่วไปต้องอาศัยความเชี่ยวชาญเฉพาะทางหรือความช่วยเหลือจากบุคคลที่สาม โดย ST ได้มีซอฟต์แวร์เดสก์ท็อปพิเศษให้กับนักพัฒนาที่เรียกว่า iQTune เพื่อจุดประสงค์นี้ ซอฟต์แวร์นี้ทำงานบนเวิร์กสเตชัน Linux และสื่อสารกับโค้ดที่ฝังไว้ใน STM32 และวิเคราะห์ความแม่นยำของสี คุณภาพของภาพ และสถิติ และกำหนดค่ารีจิสเตอร์ของ ISP อย่างเหมาะสม
• รองรับ MIPI CSI-2 ซึ่งเป็นอินเทอร์เฟซกล้องที่ได้รับความนิยมสูงสุดในการใช้งานในอุปกรณ์เคลื่อนที่ โดยไม่ต้องใช้ ISP ภายนอกที่เข้ากันได้กับอินเทอร์เฟซแบบอนุกรมของกล้องรุ่นนี้โดยเฉพาะ
• ความสามารถเพิ่มเติมมากมายบนอุปกรณ์เดียวหมายความว่าตอนนี้ผู้พัฒนาสามารถรันนิวรอนเน็ตเวิร์คร่วมกับ GUI ได้โดยไม่ต้องใช้ MCU หลายตัว
• ความปลอดภัยที่แข็งแกร่ง รวมถึงการรับรอง Target SESIP ระดับ 3 และ PSA ระดับ 3

บทสรุป

การเรียนรู้ของเครื่องที่ทำงานบนเอดจ์เคยต้องใช้ไมโครโปรเซสเซอร์สำหรับงานหนักในระบบฝังตัวเพื่อรองรับภาระในเรียกใช้การอัลกอริทึมที่ซับซ้อน ด้วย MCU อันทรงพลัง เช่น CPU ซีรีส์ STM33N6 จาก STMicroelectronics บริษัทต่างๆ จึงสามารถทำให้ AI แพร่หลายในระดับเอดจ์ได้แล้ว STMicroelectronics ให้ระบบนิเวศที่ครอบคลุมสำหรับการใช้งาน AI ระดับเอดจ์ ซึ่งรวมถึงส่วนประกอบซอฟต์แวร์และฮาร์ดแวร์สำหรับการอนุมาน