M5Stack M.2 AI akcelerátor LLM-8850 (24 TOPS)

LLM‑8850 je kompaktní AI akcelerátor navržený pro použití v edge zařízeních. Díky formátu M.2 M‑KEY 2242 a PCIe 2.0 × 2 rozhraní jej lze snadno zapojit bez potřeby dalších adaptérů. Modul je osazen čipem Axera AX8850, který nabízí výkon 24 TOPS @ INT8, a je tak ideální pro inferenci velkých jazykových a multimodálních modelů.

Chlazení zajišťuje aktivní systém s mikro turbínovým ventilátorem a hliníkovým CNC chladičem. Řízení otáček probíhá inteligentně pomocí EC jednotky na základě teplotní a proudové křivky. I při dlouhodobé zátěži dokáže udržet nízké teploty a zabránit přehřívání v uzavřených prostorách.

Napájecí řetězec (DCDC + PMIC) je řízen v reálném čase a zajišťuje efekt „napájení na vyžádání, chlazení na vyžádání“, což zvyšuje celkovou stabilitu systému. Modul podporuje běhové prostředí AXCL s API pro C a Python. Umožňuje jedním klikem nasadit modely jako YOLO‑v8/v9, CLIP, Whisper, Llama 3.2, Gemma 2, Qwen 2.5.

Vestavěný VPU hardwarový engine umožňuje akcelerované H.264/H.265 kódování i dekódování v rozlišení 8 K, včetně transkódování, změny měřítka a ořezu videa. Hostitelská zařízení mohou využít hardwarový kodek přímo přes ffmpeg.

Vlastnosti

• Ultra kompaktní velikost: NGFF M.2 M‑KEY 2242, PCIe 2.0 × 2, plug‑and‑play

• Výkonný NPU: 24 TOPS @ INT8, osmijádrový Cortex‑A55 1,7 GHz CPU

• Inteligentní chlazení a napájení: turbo ventilátor + integrovaný CNC chladič, řízení EC jednotkou

• Vysokorychlostní paměť: 64bit LPDDR4x, 4266 Mbps, kapacita 8 GB

• Bohaté I/O: 1× USB 3.0, 2× USB 2.0, 2× Gigabit Ethernet MAC

• Hardwarové video zpracování: 8 K @ 30 fps kódování, 8 K @ 60 fps dekódování, podpora 32kanálového 1080 p dekódování

• Hardwarové zabezpečení: podpora AES / DES / 3DES / SHA‑256

• Podpora AXCL: CNN, Transformer, CLIP, Whisper, Llama 3.2, Qwen 2.5, InternVL 2 a H.264/H.265 transkódování