Cómo utilizar los orquestadores Edge para desplegar la inteligencia artificial a escala

El auge de la IA en la periferia

Muchas industrias exigen cada vez más rapidez y autonomía en la toma de decisiones para poder adaptarse a unos mercados cada vez más volátiles. Además, los dispositivos industriales generan cada vez más datos, procedentes de dispositivos más diversos, dispersos geográficamente y con mayor frecuencia. Esta necesidad de capturar más datos, con más frecuencia y de tomar decisiones "sobre la marcha" ha llevado a un aumento de la capacidad de computación necesaria cerca del lugar donde se generan los datos, es decir, el "Edge" y el desarrollo de la Inteligencia Artificial distribuida, también llamada "Intelligence at the Edge", o "Edge AI".

Algunas de las principales ventajas que ofrece la IA de borde son la mejora de las latencias, la optimización del ancho de banda de las comunicaciones, la reducción de los costes de los servicios en la nube y la mejora del nivel de seguridad, muy importante en determinados sectores críticos.

Por todo ello, el Edge Computing se está posicionando con fuerza en los sectores industriales. Analistas como Gartner, IDC y Grand View Research prevén un crecimiento anual superior al 30%. De hecho, los propios proveedores de servicios de cloud computing tradicionales están empezando a posicionarse para ofrecer infraestructuras que permitan este modelo de Edge Computing.

Lectura recomendada: AIoT, la unión perfecta entre el Internet de las Cosas y la Inteligencia Artificial

Orquestadores de borde y gestión de inteligencia

La Inteligencia Artificial se basa en la ejecución de múltiples y complejos algoritmos que permiten a las máquinas tomar decisiones sin necesidad de intervención humana, simplemente a partir de los datos que captan y procesan. Muchos de estos algoritmos pueden ejecutarse cerca de la fuente de esos datos, es decir, en el Edge, ya que el Machine Learning y la Inteligencia Artificial en general se adaptan bien a un modelo de funcionamiento de inteligencia distribuida.

Sin embargo, ejecutar la IA en dispositivos finales puede ser un reto, ya que suelen tener una capacidad de procesamiento limitada. Por ello, surge la necesidad de utilizar dispositivos potentes o de gestionar eficientemente sus recursos de hardware mediante un software ligero que permita la ejecución de estos algoritmos sin sobrecargar el sistema. Esto es especialmente importante si tenemos en cuenta que en muchas ocasiones habrá varios algoritmos ejecutándose en paralelo, cada uno de ellos posiblemente con orígenes y autores diferentes y basados en diversas tecnologías.

Por otro lado, estos algoritmos suelen utilizar muchas bibliotecas de análisis de datos y aprendizaje automático que deben estar disponibles en el sistema para no causar problemas de compatibilidad. Además, estos algoritmos representan el núcleo del negocio de muchas empresas, por lo que es vital proteger esa propiedad intelectual, normalmente ofuscando o cifrando los algoritmos tanto en tránsito como cuando se ejecutan en el Nodos edge. Estos algoritmos suelen evolucionar con el tiempo, por lo que también es necesario gestionar sus versiones de forma centralizada.

Para resolver todos estos problemas, algunas empresas, como Barbara, están empezando a ofrecer los llamados Edge Application Orchestrators, o simplemente Edge Orchestrators.

Estas herramientas les permiten gestionar aplicaciones y algoritmos que se ejecutan en el Edge de forma remota, haciendo uso de diferentes estrategias para la asignación eficiente de recursos. Estas estrategias conducen a una ejecución eficiente y segura de las tareas, abstrayendo al usuario de toda la complejidad subyacente. La mayoría de estas plataformas se apoyan en una práctica cada vez más extendida en el Edge Computing: la virtualización mediante contenedores Docker.

Descubre más sobre: Cómo optimizar los despliegues de IoT con contenedores Docker

Casos de uso de Edge Orchestrator

Los sectores en los que los Edge Orchestrators y el Edge Computing en general pueden tener un mayor impacto son aquellos que manejan un alto volumen de dispositivos conectados. Además, el impacto es exponencialmente mayor cuando estos dispositivos están dispersos geográficamente y generan datos a altas frecuencias.

Uno de los sectores en los que vemos que esta tendencia se materializa es el de la electricidad, siendo los centros de transformación uno de los ejemplos más claros.

Los centros de transformación eléctrica de media y baja tensión son las infraestructuras encargadas de adaptar la energía eléctrica para que pueda ser consumida por los ciudadanos en sus hogares. Forman parte de la red de distribución y hay cientos de miles de ellos en un país del tamaño de España.

Estos centros de transformación cuentan con una serie de equipos industriales cuya digitalización a través de tecnologías de Inteligencia Artificial y Edge Computing puede permitir la predicción y anticipación de la demanda o la detección de posibles fallos incluso antes de que se produzcan. Esta información puede tener un valor incalculable tanto para los operadores de los centros como para los fabricantes -o incluso para los usuarios finales-.

El uso de un Edge Orchestrator en una aplicación de este tipo tiene mucho sentido, ya que simplifica el despliegue de los algoritmos, acelera el tiempo de comercialización de la solución y ofrece un ciclo de depuración y mantenimiento fluido y sin fricciones. Los Edge Orchestrators permiten a las empresas centrarse en lo que debería ser su principal preocupación: concebir esos algoritmos y utilizarlos para operar el negocio.

Otro caso en el que se podría utilizar un Edge Orchestrator es en la fabricación distribuida, donde el producto se produce en una red de varios centros dispersos geográficamente. La coordinación entre los distintos centros suele realizarse a través de sistemas dedicados, generalmente en la Nube

Sin embargo, el uso de algoritmos colaborativos en el Edge (con los centros poniéndose de acuerdo entre ellos, en lugar de ser dirigidos por alguien de un nivel jerárquico superior) puede optimizar la inversión, a la vez que mejora la seguridad de los datos y facilita el cumplimiento de la normativa del sector, normativa que a veces no encaja muy bien con las tecnologías Cloud.

Más información: Caso de uso de Edge Computing en el sector eléctrico

El futuro de los orquestadores y del sector

No cabe duda de que la industria está avanzando hacia un paradigma informático capaz de distribuir y subordinar la toma de decisiones en tiempo real a lo que "piensen" sus nodos. Los Edge Orchestrators permiten esta toma de decisiones, facilitando la ejecución de modelos de Machine Learning cada vez más complejos de forma paralela y distribuida. Estas máquinas cognitivas permitirán superar algunas de las barreras a las que nos enfrentamos actualmente, como conseguir una baja latencia en el ciclo leer-pensar-actuar e integrar los datos y las decisiones de múltiples Edge Nodes.

Además, los Edge Orchestrators permitirán que los modelos respondan de forma colaborativa a través de redes inteligentes de nodos. Estas capacidades abrirán la puerta a la Industria 5.0, una transformación drástica que volverá a situar al ser humano en el centro de la industria, creando espacios inteligentes en los que el ser humano se comunicará a la perfección con estas redes inteligentes de nodos.

‍