Разработчик slvDev запустил языковую модель на 28,9 млн параметров прямо на ESP32-S3 (~$8), без отправки данных на сервер, на скорости ~9 токенов/с. Секрет — Per-Layer Embeddings из моделей Google Gemma: огромная таблица эмбеддингов лежит во флеше, а в SRAM держится лишь лёгкая вычислительная часть.

Собираем на ESP32 монитор качества воздуха на лазерном датчике Sensirion SPS30: измеряем массу и число частиц PM1.0–PM10, считаем индекс AQI, выводим всё на TFT-дисплей 2,4″, логируем в облако CircuitDigest по MQTT и шлём оповещение в WhatsApp при превышении порога.