IA en el borde: ¿puede la computación distribuida interrumpir el auge de los centros de datos?

A medida que crece el uso y la sofisticación de la inteligencia artificial (IA), surgen con frecuencia dudas sobre la sostenibilidad del modelo tradicional de utilizar grandes centros de datos centralizados. Los centros de datos a hiperescala gestionan la mayoría de las cargas de trabajo de IA actuales, pero conllevan un alto consumo energético y altos costes ambientales.

Sam Altman, de OpenAI, afirmó en una publicación reciente de su blog que una consulta promedio de ChatGPT consume aproximadamente una quinceava parte de una cucharadita de agua y unos 0,34 vatios-hora. Si multiplicamos eso por miles de millones de consultas, empezaremos a comprender la magnitud del problema.

COMENTARIO

¿Y si existiera una solución diferente? En lugar de enviar datos a la nube a larga distancia para su procesamiento, la IA de Edge ejecuta tareas más cerca de la fuente: en tu teléfono, en tu coche o en una fábrica. Esto implica respuestas más rápidas, menor consumo de energía y mayor eficiencia. Pero con una inversión prevista de 7 billones de dólares en infraestructura de IA centralizada para 2030, la pregunta clave es: ¿puede la IA de Edge realmente tomar el control?

El costo ambiental de la IA centralizada

Las demandas energéticas de la IA son asombrosas y se están acelerando rápidamente. Según el Laboratorio Nacional Lawrence Berkeley, los centros de datos en EE. UU. consumieron 176 TWh en 2023, lo que representa el 4,4 % del consumo eléctrico nacional estadounidense. La Agencia Internacional de la Energía (AIE) prevé que la demanda energética de los centros de datos a nivel mundial se duplicará con creces para 2030, alcanzando aproximadamente los 945 TWh, un poco más de la cantidad que Japón utiliza actualmente.

El problema va más allá del consumo de electricidad. Los centros de datos también generan alrededor del 2% de las emisiones globales de dióxido de carbono (CO2), lo que prácticamente iguala la huella de carbono de toda la industria aérea. Los sistemas de refrigeración por sí solos representan alrededor del 40% del consumo total de energía, lo que ejerce una gran presión sobre los costes operativos y los objetivos ambientales.

La promesa de la IA de borde

En lugar de enviar datos a un servidor remoto, la computación perimetral los procesa localmente. Esto resulta especialmente valioso para aplicaciones con tiempos de respuesta limitados, como vehículos autónomos o sistemas industriales inteligentes. Los nodos de borde reducen la latencia, el consumo de energía y las tarifas de uso de la red. Permiten que los modelos de IA se ejecuten en tiempo real sin necesidad de una conexión constante a la nube.

Tomemos como ejemplo los coches autónomos como Waymo, que utilizan IA de borde para procesar datos de sensores como radar y LiDAR al instante para la navegación y reaccionar al instante ante riesgos de seguridad. Depender de servidores remotos y conexiones permanentes a internet sería demasiado lento y arriesgado.

Modelos de lenguaje pequeños (SLM): Facilitador de IA de borde

Uno de los principales impulsores de la transición al edge es el auge de los Small Language Models (SLM). Diseñados para ser ágiles, eficientes y específicos, pueden ejecutarse en hardware local sin conexión a internet, a diferencia de modelos más grandes como ChatGPT o Gemini, que requieren una enorme potencia de procesamiento.

Gracias a su ligereza, estos modelos pueden funcionar con chips más pequeños y son compatibles con todo tipo de tecnología, desde teléfonos y relojes inteligentes hasta sistemas integrados en máquinas. Los SLM son más económicos de operar, más fáciles de ajustar y consumen mucha menos energía. Otra gran ventaja es la privacidad, ya que los datos no necesitan salir del dispositivo. Estos SLM abren nuevas posibilidades en el IoT, los hogares inteligentes, la logística, la atención médica y más.

Eficiencia energética en centros de datos perimetrales

Si bien los centros de datos a hiperescala requieren enormes sistemas de refrigeración e infraestructura de respaldo, los centros de datos edge tienden a ser más pequeños y flexibles. Suelen beneficiarse de la refrigeración natural (especialmente en climas fríos), la gestión localizada de la energía y la posibilidad de apagarse cuando están inactivos, algo que los centros a hiperescala rara vez ofrecen.

Por ejemplo, los "modos inactivos" dinámicos permiten que la infraestructura edge apague los sistemas que consumen mucha energía cuando están inactivos, lo que reduce tanto los costes energéticos como las emisiones de carbono. Además, las implementaciones de IA edge suelen utilizar chips especializados como NPU (unidades de procesamiento neuronal) o ASIC (circuitos integrados de aplicación específica), que son mucho más eficientes energéticamente que las CPU o GPU de uso general.

Aplicaciones de la IA de borde en el mundo real

En el transporte, el pelotón de camiones es uno de los ejemplos más claros de la IA de borde en acción. Esto permite que un grupo de camiones circule en un convoy coordinado. Mediante el uso de sensores locales e IA para la comunicación en tiempo real, los camiones mantienen una distancia que reduce la resistencia del viento y mejora el consumo de combustible hasta en un 10 %. Este análisis y la toma de decisiones automatizados en tiempo real no serían posibles sin la comunicación entre vehículos que permite la IA de borde. El procesamiento tradicional en la nube sería demasiado lento y poco fiable debido a la necesidad de conexión a internet.

Se pueden observar beneficios similares en las redes inteligentes, el comercio minorista y la industria manufacturera. Desde robots que escanean los estantes de los supermercados hasta máquinas de fábrica que predicen sus propias necesidades de mantenimiento, la IA de borde marca la diferencia de una manera más inteligente, económica y ecológica.

Barreras para la adopción de la IA de borde

A pesar de sus ventajas, la IA de borde aún enfrenta varios desafíos:

• Limitaciones de energía: Los dispositivos edge suelen operar en entornos con limitaciones de energía. Incluso con chips optimizados, los modelos intensivos pueden agotar las baterías o saturar la infraestructura local.
• Vulnerabilidades de seguridad: Si bien la IA perimetral mejora la privacidad, también introduce nuevos riesgos de seguridad. Los nodos finales están más expuestos a ataques físicos y cibernéticos.
• Escasez de modelos de producción y experiencia: La I+D y la ingeniería se han centrado en los LLM basados ​​en la nube. Existe una escasez de expertos y modelos de producción para la IA de borde, ya que requiere un conjunto de habilidades aún más especializadas.

Un futuro híbrido para la infraestructura de IA

El futuro de la infraestructura de IA probablemente no sea un escenario excluyente. En cambio, nos encaminamos hacia un modelo híbrido, donde el entrenamiento se realiza en grandes centros de datos, mientras que la inferencia (el razonamiento real) se realiza en el borde. El entrenamiento de modelos de IA requiere grandes cantidades de datos y potencia de procesamiento. Los entornos centralizados son los más adecuados para esto. Pero una vez entrenados, estos modelos pueden implementarse de forma más compacta y compacta en ubicaciones en el borde para su uso en tiempo real.

Este modelo equilibrado reduce la dependencia de servidores centrales, reduce los costos y aumenta la resiliencia. Además, garantiza que no se sacrifique el rendimiento ni la escalabilidad mientras se buscan sistemas más ecológicos y eficientes.

Conclusión: ¿Disrupción o diversificación?

Entonces, ¿interrumpirá la computación de borde el auge de los centros de datos? No, pero los transformará significativamente en una infraestructura global más diversificada, especializada y resiliente. La infraestructura a hiperescala seguirá siendo esencial para el entrenamiento de IA y los servicios a escala global. Pero la IA de borde hará realidad lo que antes era ciencia ficción.

La traducción de idiomas en tiempo real ya está disponible en dispositivos como los Google Pixel Buds, lo que nos acerca al traductor universal de Star Trek . Los sofisticados sistemas de domótica y las aspiradoras robot se acercan a la visión de Los Supersónicos .

A medida que veamos más aplicaciones de IA de borde, este cambio proporcionará una vía crucial hacia el escalamiento sostenible de la IA. Libera los beneficios transformadores de la IA sin los costos energéticos exponenciales de la IA pura basada en la nube.

— Jae Ro es gerente de marketing en SIGNAL + POWER , un fabricante de cables de alimentación para una variedad de industrias.