Россия
Россия
аспирант
Воронеж, Воронежская область, Россия
УДК 004 Информационные технологии. Компьютерные технологии. Теория вычислительных машин и систем
В статье представлен углубленный аналитический обзор алгоритмических стратегий и математических моделей глубокой оптимизации систем распознавания акустико-вибрационных сигналов для развертывания в автономных устройствах микромашинного обучения. Глобальная научная проблема исследования заключается в преодолении фундаментального противоречия между высокой вычислительной сложностью современных нейронных сетей и экстремально ограниченными ресурсами микроконтроллеров общего назначения, обладающих объемом оперативной памяти менее пятисот двенадцати килобайт и жестким энергетическим бюджетом. Рассматриваются теоретические основы формирования признаковых описаний с использованием квантованного оконного преобразования и рекурсивного математического аппарата анализа типичности и эксцентриситета данных, позволяющего обновлять модель состояния системы с константной вычислительной сложностью при поступлении каждого нового отсчета сигнала. Применение данного подхода позволяет реализовать концепцию динамического окна аномалий, обеспечивая активацию нейросетевых классификаторов только при фиксации статистически значимых отклонений акустического фона, что гарантирует достижение предельной энергетической эффективности автономного узла. Особое внимание уделено алгоритму аналитического отсечения, который минимизирует ожидаемую средне-квадратичную ошибку квантования путем нахождения оптимальных порогов для распределений Лапласа, что обеспечивает сохранение точности классификации при переходе к четырехбитной целочисленной арифметике без необходимости дообучения. В работе детально проанализированы механизмы инкрементального обучения на конечном устройстве и стратегии селективного обновления параметров через настройку векторов смещения и использование облегченных остаточных модулей. Математически доказано, что такая архитектура адаптации позволяет сократить пиковую потребность в оперативной памяти в шесть с половиной раз при сохранении высокой робастности к феномену концептуального дрейфа среды. Исследуется методология системно-алгоритмического со-проектирования, объединяющая автоматизированный поиск нейросетевых архитектур под жесткие аппаратные лимиты и специализированный кодогенерирующий движок. Среда исполнения обеспечивает реализацию стратегии фрагментарного исполнения, устраняя дефицит ресурсов в начальных слоях сети за счет последовательной обработки участков данных высокого разрешения без накопления полных карт признаков. Проведенный сравнительный анализ подтверждает, что предложенный интерированный подход обеспечивает достижение промышленного уровня надежности и энергетической автономности в интеллектуальных системах мониторинга и обеспечения безопасности.
TinyML, распознавание акустических сигналов, квантование нейронных сетей (ACIQ), рекурсивный анализ дан-ных (TEDA), обучение на конечном устройстве (TinyOL), системно-алгоритмическое со-проектирование, энергоэффективные вычисления, автономные системы безопасности.
1. Ray, P. P. A review on TinyML: State-of-the-art and prospects // Journal of King Saud University — Computer and Information Sciences. – 2022. – Vol. 34, no. 4. – P. 1595–1623. – DOI:https://doi.org/10.1016/j.jksuci.2021.11.019.
2. Tsoukas, V., Gkogkidis, A., Boumpa, E., Kakarountas, A. A Review on the emerging technology of TinyML // ACM Computing Surveys. – 2024. – Vol. 56, no. 10. – Art. 259. – DOI:https://doi.org/10.1145/3661820.
3. Flores, T. K. S., Medeiros, M., Silva, M., Costa, D. G., Silva, I. Enhanced Vector Quantization for Embedded Machine Learning: A Post-Training Approach With Incremental Clustering // IEEE Access. – 2025. – Vol. 13. – P. 13420–13435. – DOI:https://doi.org/10.1109/ACCESS.2025.3532849.
4. Elhanashi, A., Dini, P., Saponara, S., Zheng, Q. Advancements in TinyML: Applications, Limitations, and Impact on IoT Devices // Electronics. – 2024. – Vol. 13, no. 17. – Art. 3562. – DOI:https://doi.org/10.3390/electronics13173562.
5. Rajapakse, V., Karunanayake, I., Ahmed, M. Intelligence at the Extreme Edge: A Survey on Reformable TinyML // ACM Computing Surveys. – 2023. – Vol. 55, no. 13s. – P. 1–30. – DOI:https://doi.org/10.1145/3583683.
6. Capogrosso, L., Cunico, F., Cheng, D. S., Fummi, F., Cristani, M. A Machine Learning-oriented Survey on Tiny Machine Learning // IEEE Access. – 2023. – Vol. 11. – P. 96892–96922. – DOI:https://doi.org/10.1109/ACCESS.2023.0322000.
7. Ren, H., Anicic, D., Runkler, T. A. TinyOL: TinyML with Online-Learning on Microcontrollers // 2021 International Joint Conference on Neural Networks (IJCNN). – 2021. – P. 1–8. – DOI:https://doi.org/10.1109/IJCNN52387.2021.9533434.
8. Kwon, J., Park, D. Hardware/Software Co-Design for TinyML Voice-Recognition Application on Resource Frugal Edge Devices // Applied Sciences. – 2021. – Vol. 11, no. 22. – Art. 11073. – DOI:https://doi.org/10.3390/app112211073.
9. Signoretti, G., Silva, M., Andrade, P., Silva, I., Sisinni, E., Ferrari, P. An Evolving TinyML Compression Algorithm for IoT Environments Based on Data Eccentricity // Sensors. – 2021. – Vol. 21, no. 12. – Art. 4153. – DOI:https://doi.org/10.3390/s21124153.
10. Immonen, R., Hämäläinen, T. Tiny Machine Learning for Resource-Constrained Microcontrollers // Journal of Sensors. – 2022. – Vol. 2022. – Art. 7437023. – DOI:https://doi.org/10.1155/2022/7437023.
11. Schizas, N., Karras, A., Karras, C., Sioutas, S. TinyML for Ultra-Low Power AI and Large Scale IoT Deployments: A Systematic Review // Future Internet. – 2022. – Vol. 14, no. 12. – Art. 363. – DOI:https://doi.org/10.3390/fi14120363.
12. de Prado, M., Rusci, M., Capotondi, A., Donze, R., Benini, L., Pazos, N. Robustifying the Deployment of tinyML Models for Autonomous Mini-Vehicles // Sensors. – 2021. – Vol. 21, no. 4. – Art. 1339. – DOI:https://doi.org/10.3390/s21041339.
13. Alajlan, N. N., Ibrahim, D. M. TinyML: Enabling of Inference Deep Learning Models on Ultra-Low-Power IoT Edge Devices for AI Applications // Micromachines. – 2022. – Vol. 13, no. 6. – Art. 851. – DOI:https://doi.org/10.3390/mi13060851.
14. Wardana, I. N. K., Gardner, J. W., Fahmy, S. A. Optimising Deep Learning at the Edge for Accurate Hourly Air Quality Prediction // Sensors. – 2021. – Vol. 21, no. 4. – Art. 1064. – DOI:https://doi.org/10.3390/s21041064.
15. Adlakha, R., Kabbar, E. The Challenges of TinyML Implementation: A Literature Review // Proceedings: CITRENZ 2023 Conference. – 2024. – P. 160–169. – DOI:https://doi.org/10.34074/proc.240120.
16. Tsoukas, V., Gkogkidis, A., Kampa, A., Spathoulas, G., Kakarountas, A. Enhancing Food Supply Chain Security through the Use of Blockchain and TinyML // Information. – 2022. – Vol. 13, no. 5. – Art. 213. – DOI:https://doi.org/10.3390/info13050213.
17. Khalil, R. A., Saeed, N., Masood, M., Fard, Y. M. et al. Deep Learning in the Industrial Internet of Things: Potentials, Challenges, and Emerging Applications // IEEE Internet of Things Journal. – 2021. – Vol. 8, no. 14. – P. 11016–11040. – DOI:https://doi.org/10.1109/JIOT.2021.3051414.
18. Profentzas, C., Almgren, M., Landsiedel, O. Performance of Deep Neural Networks on Low-Power IoT Devices // 2021 Benchmarking Cyber-Physical Systems and Internet of Things (CPS-IoTBench). – 2021. – P. 1–6. – DOI:https://doi.org/10.1145/3458473.3458823.
19. Paissan, F., Ancilotto, A., Farella, E. PhiNets: A Scalable Backbone for Low-Power AI at the Edge // ACM Transactions on Embedded Computing Systems. – 2022. – Vol. 21, no. 5. – DOI:https://doi.org/10.1145/3510832.
20. González Rivero, R. A., Hernández Rodríguez, E. et al. A Low-Cost Calibration Method for Temperature, Relative Humidity, and Carbon Dioxide Sensors Used in Air Quality Monitoring Systems // Atmosphere. – 2023. – Vol. 14, no. 2. – Art. 191. – DOI:https://doi.org/10.3390/atmos14010191.
21. Ooko, S. O., Ogore, M. M., Nsenga, J., Zennaro, M. TinyML in Africa: Opportunities and Challenges // 2021 IEEE Globecom Workshops (GC Wkshps). – 2021. – P. 1–6. – DOI:https://doi.org/10.1109/GCWkshps52748.2021.9682107.
22. Orfanidis, C., Hassen, R. B. H. et al. A Discreet Wearable Long-Range Emergency System Based on Embedded Machine Learning // Proceedings of the 5th IEEE PerCom Workshop on Pervasive Health Technologies. – 2021. – DOI:https://doi.org/10.1109/PerComWorkshops51009.2021.9431013.
23. Guleria, C., Das, K., Sahu, A. A Survey on Mobile Edge Computing: Efficient Energy Management System // 2021 Innovations in Energy Management and Renewable Resources (IEMRE). – 2021. – P. 1–4. – DOI:https://doi.org/10.1109/IEMRE52042.2021.9386951.
24. Cai, H., Gan, C., Zhu, L., Han, S. TinyTL: Reduce Memory, Not Parameters for Efficient On-Device Learning // Advances in Neural Information Processing Systems (NeurIPS). – 2020. – Vol. 33. – P. 11285–11297.
25. Lin, J., Chen, W.-M., Cohn, J., Gan, C., Han, S. MCUNet: Tiny Deep Learning on IoT Devices // Advances in Neural Information Processing Systems (NeurIPS). – 2020. – Vol. 33. – P. 11711–11722.
26. Banner, R., Nahshan, Y., Soudry, D. Post training 4-bit quantization of convolutional networks for rapid-deployment // Advances in Neural Information Processing Systems (NeurIPS). – 2019. – Vol. 32. – DOI:https://doi.org/10.48550/arXiv.1810.05723.
27. Zhuo, S., Chen, H., Ramakrishnan, R. K. et al. An empirical study of low precision quantization for tinyml // arXiv preprint. – 2022. – DOI:https://doi.org/10.48550/arXiv.2203.05492.
28. David, R., Duke, J. et al. TensorFlow Lite Micro: Embedded Machine Learning on TinyML Systems // Proceedings of Machine Learning and Systems. – 2021. – Vol. 3. – P. 800–811.
29. Xu, K., Li, Y., Zhang, H., Lai, R., Gu, L. ETinyNet: Extremely tiny network for tinyml // AAAI Conference on Artificial Intelligence. – 2022. – Vol. 36, no. 4. – P. 4628–4636. – DOI:https://doi.org/10.1609/aaai.v36i4.20387.
