Искусственный интеллект активно меняет наш мир, и одно из самых интересных направлений этого развития — Edge AI. Эта технология позволяет обрабатывать данные и запускать модели ИИ прямо на устройствах, а не в облаке.
Какие перспективы открываются с внедрением Edge AI, и какие препятствия придется преодолеть? Мы обратились к экспертам, чтобы обсудить, что стоит за этой технологией и как она изменит будущее.
Что такое Edge AI
Edge AI — это искусственный интеллект, работающий на устройствах, которые находятся ближе к источнику данных. Простыми словами это значит, что данные, полученные устройствами — камерами, датчиками или смартфонами — обрабатываются непосредственно там, где они собираются, без отправки в облако.
«Систему ИИ можно установить непосредственно на устройство, которое выполняет обработку данных, – например, на станок с умным зрением или беспилотный дрон, осуществляющий доставку товаров. Таким образом, мы можем действовать в режиме реального времени, независимо от работоспособности облачного решения, доступности центра обработки данных. То есть мы имеем полностью автономное устройство, работающее по своим заложенным алгоритмам».
Андрей Малов, директор по продукту «ТТК.Облако»
Такой подход позволяет устройствам мгновенно анализировать информацию и принимать решения в режиме реального времени.
Двигатели успеха Edge AI: алгоритмы и технологии
Разобраться в том, какие решения лучше всего подходят для локальных устройств, — значит понять, как максимально использовать потенциал Edge AI. Выбранные инструменты способны формировать основу для обработки и анализа данных, что, в свою очередь, определяет скорость и качество принятия решений в реальном времени.
Технология нейроморфных процессоров
Нейроморфные процессоры — инновационная архитектура, которая открывает новые возможности для развития искусственного интеллекта и обработки данных. В отличие от традиционных тензорных вычислителей, нейроморфные чипы более эффективно имитируют работу человеческого мозга, что позволяет значительно повысить производительность и снизить стоимость таких решений.
По мнению Андрей Малова, директора по продукту «ТТК.Облако», данная технология позволяет добиться хорошей производительности AI-процессора, помогает его удешевить. Нейроморфные чипы можно горизонтально масштабировать: если требуется повышенная производительность, достаточно просто добавить больше таких чипов. Кроме того, они предоставляют широкие возможности для обучения. В эти чипы интегрируются предварительно обученные модели, которые могут дообучаться в процессе эксплуатации, улучшая свои характеристики.
Мобильные NPU
Мобильные нейронные процессоры (Neural Processing Unit) — специализированные чипы, разработанные для обработки нейросетей непосредственно на устройствах. В отличие от стандартных процессоров, они оптимизированы для выполнения сложных вычислений, характерных для работы с искусственным интеллектом, что позволяет улучшить скорость и эффективность таких операций.
«Именно такие операции преобладают при работе нейросети. И эти NPU дают нам возможности запускать уменьшенные копии привычных нейросетей непосредственно на устройствах».
Максим Антонов, архитектор группы ИТ-компаний TeamIdea
Перенос ключевых функций
Основная задача оптимизации заключается в том, чтобы выделить те функции, которые критически важны для обработки данных непосредственно на устройстве, а не пытаться перенести все возможности целиком. Edge AI позволяет избежать перегрузки системы и сохранить производительность.
«Например, перенос чата GPT на устройство в настоящее время может быть сложной задачей из-за ограничений по вычислительным ресурсам. Модели, которые можно запустить на мобильном устройстве, могут быть значительно ограничены по сравнению с серверными приложениям».
Станислав Маслов, директор производства ZeBrains
Преимущества Edge AI
Многим компаниям приходится работать в условиях, когда множество устройств напрямую взаимодействуют с серверами, передавая данные без промежуточных этапов. Это создает целый ряд вызовов: перегрузка сетей, риски потерь данных в процессе передачи, а также значительные затраты на обработку и машинное обучение. Однако внедрение Edge AI способно кардинально изменить ситуацию, снижая нагрузку на сеть, повышая надежность и оптимизируя затраты на вычислительные ресурсы.
«Edge AI — это не просто новая технология, а целая философия распределенных вычислений, которая меняет наш подход к обработке данных и применению искусственного интеллекта. Она позволяет сделать ИИ более доступным, быстрым и безопасным».
Алексей Оносов, основатель компании «Юнисофт»
«Глобально Edge AI имеет своей целью решение двух ключевых аспектов в разрезе использования ИИ: вопрос конфиденциальности данных и проблема замедления из-за передачи больших объемов информации», — поясняет Виктор Попов, эксперт ИИ, основатель и СЕО проекта BotB2b.
Быстрая обработка данных
Поскольку данные не отправляются в облако, устройства могут моментально реагировать на изменения и принимать решения.
«Нам не нужно ждать, пока данные будут отправлены в ЦОД, обработаны и возвращены назад. Информация быстро обрабатывается с использованием нейросетей».
Андрей Малов, директор по продукту «ТТК.Облако»
«Это существенно сокращает время отклика, что актуально, например, в автомобильной промышленности, в системах видеонаблюдения и так далее. Плюс снижает требования по пропускной способности, то есть нет необходимости поддерживать какие-то широкие каналы для того, чтобы обмениваться данными с облаками. Дополнительно, так как данные хранятся локально, они никуда не утекают, то есть ниже риск нарушения конфиденциальности. Ну и плюс, если нет отсутствия интернета, то устройство все равно продолжает работать», — поясняет Павел Покровский, директор по управлению сервисами Angara Security.
Экономия ресурсов
Обработка данных на месте снижает нагрузку на сеть, уменьшая объемы передаваемой информации, что позволяет сокращает затраты на передачу данных и экономит энергию.
Надежность
Меньше зависимостей от интернет-соединения и внешних серверов. Даже при проблемах с подключением устройства продолжают работать. «Это актуально там, где качество сетевого сигнала нестабильно или его вообще нет. Процесс обработки данных локально позволяет устройствам функционировать автономно и непрерывно», — утверждает Максим Малышев, генеральный директор digital-агентства Notamedia.
Экономия ресурсов и безопасность
Обработка данных на месте снижает нагрузку на сеть, уменьшая объемы передаваемой информации, что позволяет сокращает затраты на передачу данных и экономит энергию. А так как данные обрабатываются локально, снижается риск утечек или взломов.
«Во-первых, нет сетевых задержек – готовый к обработке результат можно получить буквально за несколько миллисекунд. Во-вторых, устройства часто даже не подключены к сети, поэтому хакерские атаки на них просто невозможны».
Максим Антонов, архитектор группы ИТ-компаний TeamIdea
Поэтому все большее использование Edge AI позволяет компаниям внедрять интеллектуальные технологии в самые разные устройства, делая их более автономными, быстрыми и безопасными.
Влияние Edge AI на принятие решений в реальном времени
Edge AI кардинально меняет правила игры в мире обработки данных обеспечивая мгновенную реакцию и высокую скорость принятия решений. «Вместо централизованной модели, где все данные стекаются в облако для анализа, мы получаем распределенную систему, где каждое устройство может самостоятельно принимать решения», — поясняет Алексей Оносов, основатель компании «Юнисофт».
«Это сокращает задержки, которые могут возникнуть при работе с удаленными серверами, особенно когда речь идет о больших объемах данных или медленном интернет-соединении».
Максим Малышев, генеральный директор digital-агентства Notamedia
Например, в медицине устройства на базе Edge AI могут анализировать данные о пациентах в режиме реального времени, позволяя врачам быстро реагировать на изменения в состоянии здоровья. В сфере автономного вождения беспилотные автомобили используют Edge AI для обработки информации от сенсоров, что позволяет им принимать мгновенные решения на дороге. В умных городах система видеонаблюдения может распознавать лица и обнаруживать подозрительное поведение, не дожидаясь анализа данных в облаке. И, конечно, привычные гаджеты имеют функцию распознавания отпечатков пальцев на телефоне.
«Этот процесс основан на FaceID и работает по принципу моментального распознавания, чтобы пользователь не ожидал ответа. Реализация через централизованный сервер может привести к проблемам сети, таким как потеря пакетов или разрыв связи, поскольку устройства обычно работают через один канал. Для избежания таких проблем функции выносятся на устройство, что позволяет получать результаты практически мгновенно».
Станислав Маслов, директор производства ZeBrains
Хотя Дмитрий Зборошенко уверен, что пока рано говорить о скорости обработки данных, с развитием генеративного ИИ индустрия меняется.
«Крупные производители процессоров, такие как Intel, Qualcomm, AMD, адаптируют архитектуру своих чипов под нужды генеративного ИИ. Тенденция такова, что чипы для генеративного ИИ выделяются в отдельный класс. Это позволяет вычислениям, которые осуществляются генеративными моделями, не влиять на скорость других процессов операционных систем».
Дмитрий Зборошенко, ML/AI архитектор Softline Digital
Но несмотря на то, что Edge AI как бы ускоряет принятие решений в реальном времени за счет того, что все вычисления производятся локально, есть объективные ограничения по вычислительной мощности и по дисковому пространству для хранения, что накладывает условия для качества модели.
«Поэтому здесь, с одной стороны, скорость обработки данных, принятия решений увеличивается по сравнению с облачными окружениями, с другой стороны, точность таких моделей может быть снижена».
Павел Покровский, директор по управлению сервисами Angara Security
Ключевые вызовы развертывания Edge AI
Несмотря на актуальность технологии, при развертывании Edge AI на локальных устройствах компании сталкиваются с несколькими ключевыми вызовами. Сложности могут возникнуть как на техническом уровне — из-за ограниченных ресурсов устройств, так и в области безопасности и совместимости.
«Один из ключевых вызовов — это доступность моделей. Не все модели ИИ изначально разработаны с учетом ограничений, связанных с производительностью локальных устройств. Многие из них созданы для работы в условиях крупных облачных систем, где доступно больше ресурсов. По этой причине возникает необходимость адаптации или дообучения моделей, чтобы они могли эффективно работать в локальной среде».
Максим Малышев, генеральный директор digital-агентства Notamedia
«Актуальность моделей – еще один вызов. Разработка и обучение моделей – это не разовая задача. ИИ требует регулярных обновлений и оптимизации для поддержания высокой точности и адаптации к изменяющимся условиям. Локальные устройства могут испытывать трудности с регулярным обновлением моделей, особенно в условиях ограниченной связи с интернетом или отсутствия доступа к новым наборам данных», — дополняет Малышев.
Следующий вызов — это сбор данных и обучение нейросетей. Для их работы требуется большой объем данных, и их сбор может стать сложной задачей. Устройства с ограниченными ресурсами не всегда способны обрабатывать или хранить такие массивы информации.
«Для эффективного обучения нейронной сети, работающей на Edge, необходимо тщательно собирать данные. Это сложно и требует много времени. Например, роботизированные автомобили, которые ездят по улицам Москвы, наезжают огромное количество километров, чтобы собрать необходимую информацию, потому что по-другому получить ее невозможно. Аналогичный сбор данных для обучения требуется для любой области».
Андрей Малов, директор по продукту «ТТК.Облако»
Также есть такой вызов, как ограничение вычислительных ресурсов самим устройством.
«Как правило, это какие-то компактные встроенные устройства типа тех же смартфонов, камер и так далее, где физически сложно впихнуть какие-то мощные вычислительные мощности. Кроме этого, есть некоторая специфика в архитектурах таких пограничных устройств, что накладывает ограничения на саму модель и языки разработки, языки компилирования».
Павел Покровский, директор по управлению сервисами Angara Security
«Очевидно, что на тех же беспилотных аппаратах мы можем разместить устройства с ограниченными размерами и энергопотреблением. Таким образом, Edge AI ориентирован на выполнение узкоспециализированных задач в сравнении с универсальными облачными решениями», — дополняет Андрей Малов, директор по продукту «ТТК.Облако».
«Большинство современных устройств, особенно мобильных или встраиваемых систем, обладает ограниченной вычислительной мощностью по сравнению с облачными или дата-центровыми системами. Это может вызвать проблемы с продуктивностью, особенно для больших и сложных моделей, требующих значительных ресурсов для обучения и работы».
Максим Малышев, генеральный директор digital-агентства Notamedia
Безопасность также становится вызовом при использовании Edge AI. Станислав Маслов, директор производства ZeBrains, уверен, что устройства можно зашифровать для повышения безопасности, хотя при этом оно все равно может стать точкой проникновения — чем больше взаимодействий между устройствами, тем выше риск несанкционированного доступа к данным.
«В большинстве случаев происходит обмен информацией между устройствами и централизованными сервисами, поскольку информация часто сохраняется и передается. Этот аспект вызывает определенные вопросы и требует внимания в контексте обеспечения безопасности данных. Важно учитывать вызовы, связанные с производительностью и возможностями устройств, когда необходимо решить определенные задачи».
Станислав Маслов, директор производства ZeBrains
Как защитить данные при использовании Edge AI
С одной стороны Edge AI открывает новые горизонты для обработки информации и принятия решений в реальном времени. С другой стороны, технология создает дополнительные риски, связанные с несанкционированным доступом и утечкой данных.
Для успешной интеграции Edge AI важно учитывать, что перечень потенциальных угроз еще не до конца сформирован. Технология находится на ранней стадии развития, и с какими угрозами придется столкнуться в будущем, покажет только время.
«Это важно учитывать при обучении нейросети, которая будет использоваться на Edge. Следовательно, необходимо заранее внедрять в нее возможные атаки злоумышленников, чтобы она могла их правильно распознавать и адекватно реагировать».
Андрей Малов, директор по продукту «ТТК.Облако»
С каждым новым устройством в сети увеличиваются и потенциальные риски. Поэтому компаниям необходимо внедрять эффективные меры защиты данных прямо на устройствах, делая это основой своей стратегии кибербезопасности.
Для укрепления уровня киберзащиты, по словам Максима Малышева, генерального директора digital-агентства Notamedia, следует эффективно использовать брандмауэры (например, Firewall) и антивирусное ПО, а также регулярно обновлять и устанавливать патчи для операционной системы и приложений, чтобы снизить риски уязвимостей.
«Кроме того, необходимо удостовериться в целостности и безопасности используемых моделей. Нужно проводить аудит и верификацию моделей перед их установкой, чтобы исключить наличие бэкдоров или другого вредоносного кода. Важно применять надежные методы аутентификации и шифрования данных, чтобы защитить информацию как при передаче, так и на уровне хранения».
Максим Малышев, генеральный директор digital-агентства Notamedia
При защите данных на устройствах Edge AI одним из ключевых методов является шифрование. «При этом необходимо понимать, что возникают накладные расходы на расшифрование и шифрование таких данных, что опять же предъявляет некоторые повышенные требования к аппаратному обеспечению. Поэтому действительно сложные и надежные системы шифрования, системы и алгоритмы шифрования на таких устройствах реализовать — довольно нетривиальная задача. Устройства должны иметь возможность идентифицироваться по отношению друг к другу, если они взаимодействуют. Пользователи также должны обязательно идентифицироваться при доступе к данному устройству и к его протоколам», — поясняет Павел Покровский, директор по управлению сервисами Angara Security.
«Есть методика, которая называется частное обучение, federated learning. Эта технология позволяет обучать модели непосредственно на устройствах, что, с одной стороны, повышает конфиденциальность, с другой стороны, опять же, мы упираемся в вычислительные ресурсы, которые ограничивают возможности по такому обучению. За это приходится платить полнотой и точностью модели».
Павел Покровский, директор по управлению сервисами Angara Security
Edge AI, несмотря на существующие вызовы, продолжает активно развиваться. Основные трудности — ограниченные вычислительные ресурсы и вопросы кибербезопасности — постепенно находят свои решения. В будущем эта технология обещает расширить свои возможности и стать неотъемлемой частью инфраструктуры.
«Я уверен, что Edge AI станет одним из ключевых драйверов развития технологий «умной периферии», где каждое устройство будет обладать определенным уровнем интеллекта и автономности».
Алексей Оносов, основатель компании «Юнисофт»
В конечном итоге, успех Edge AI зависит от того, насколько эффективно удастся сбалансировать инновации и безопасность.