En la costa oeste de Estados Unidos, las empresas más valiosas del mundo intentan hacer que la inteligencia artificial sea más inteligente. Google y Facebook se jactan de los experimentos que utilizan miles de millones de fotos y miles de procesadores de alto rendimiento. Pero a fines del año pasado, un proyecto en el este de Tennessee superó silenciosamente la escala de cualquier laboratorio de inteligencia artificial corporativo. Y estaba dirigido por el gobierno de Estados Unidos.
La supercomputadora del gobierno de EE. UU. Bate récords
El proyecto récord involucró a la supercomputadora más poderosa del mundo, Summit, en el Laboratorio Nacional de Oak Ridge. Este automóvil ganó la corona en junio pasado, devolviendo el título a Estados Unidos cinco años después, cuando China encabezó la lista. Como parte de un proyecto de investigación climática, una computadora gigante lanzó un experimento de aprendizaje automático que fue más rápido que nunca.
norte
La Cumbre, que cubre un área equivalente a dos canchas de tenis, utilizó más de 27.000 potentes GPU en este proyecto. Usó su poder para entrenar algoritmos de aprendizaje profundo, la misma tecnología que sustenta la inteligencia artificial avanzada. En el aprendizaje profundo, los algoritmos realizan ejercicios a mil millones de operaciones por segundo, lo que se conoce en los círculos de supercomputación como exaflop.
"El aprendizaje profundo nunca antes había alcanzado este nivel de rendimiento", dice Prabhat, líder del equipo de investigación del Centro Nacional de Investigación de Energía en el Laboratorio Nacional Lawrence Berkeley. Su equipo colaboró con investigadores en la sede de Summit, Oak Ridge National Laboratory.
Como puede adivinar, el entrenamiento de IA de la computadora más poderosa del mundo se centró en uno de los mayores desafíos del mundo: el cambio climático. Las empresas de tecnología entrenan algoritmos para reconocer rostros o señales de tráfico; Los científicos gubernamentales los han capacitado para reconocer patrones climáticos como ciclones a partir de modelos climáticos que comprimen los pronósticos centenarios de la atmósfera de la Tierra en tres horas. (Sin embargo, no está claro cuánta energía requirió el proyecto y cuánto carbono se liberó al aire en este proceso).
Video promocional:
El experimento Summit tiene implicaciones para el futuro de la inteligencia artificial y la climatología. El proyecto demuestra el potencial científico de adaptar el aprendizaje profundo a supercomputadoras que tradicionalmente simulan procesos físicos y químicos como explosiones nucleares, agujeros negros o nuevos materiales. También muestra que el aprendizaje automático puede beneficiarse de una mayor potencia informática, si puede encontrarla, y proporcionar avances en el futuro.
"No sabíamos que se podía hacer a esta escala hasta que lo hicimos", dice Rajat Monga, director de tecnología de Google. Él y otros empleados de Google ayudaron al proyecto adaptando el software de aprendizaje automático de código abierto TensorFlow de la compañía para la gigantesca escala de Summit.
Gran parte del trabajo sobre el escalado del aprendizaje profundo se ha realizado en los centros de datos de las empresas de Internet, donde los servidores trabajan juntos en los problemas, separándolos porque están relativamente desarticulados en lugar de agrupados en una sola computadora gigante. Las supercomputadoras como Summit tienen una arquitectura diferente, con conexiones dedicadas de alta velocidad que unen sus miles de procesadores en un solo sistema que puede funcionar como un todo. Hasta hace poco, se ha trabajado relativamente poco para adaptar el aprendizaje automático para que funcione con este tipo de hardware.
norte
Monga dice que el trabajo para adaptar TensorFlow a la escala Summit también apoyará los esfuerzos de Google para expandir sus sistemas internos de inteligencia artificial. Los ingenieros de Nvidia también participaron en este proyecto, asegurándose de que decenas de miles de GPU de Nvidia en esta máquina funcionen sin problemas.
Encontrar formas de aprovechar más potencia informática en algoritmos de aprendizaje profundo ha sido fundamental en el desarrollo actual de la tecnología. La misma tecnología que usa Siri para el reconocimiento de voz y los autos Waymo para leer las señales de tráfico se volvió útil en 2012 después de que los científicos la adaptaran para funcionar con las GPU de Nvidia.
En un análisis publicado en mayo pasado, los científicos de OpenAI, un instituto de investigación de San Francisco fundado por Elon Musk, estimaron que la cantidad de potencia informática en los experimentos públicos de aprendizaje automático más grandes se ha duplicado aproximadamente cada 3,43 meses desde 2012; esto representaría un aumento de 11 veces en un año. Esta progresión ayudó al bot Alphabet a vencer a los campeones en desafiantes juegos de mesa y videojuegos, y también mejoró significativamente la precisión del traductor de Google.
Google y otras empresas están creando actualmente nuevos tipos de chips habilitados para IA para continuar con esta tendencia. Google dice que las cápsulas con miles de sus chips de inteligencia artificial muy espaciados (procesadores de tensor duplicados o TPU) pueden proporcionar 100 petaflops de potencia de procesamiento, una décima parte de la velocidad alcanzada por Summit.
Las contribuciones de Summit a la ciencia del clima muestran cómo la IA gigantesca puede mejorar nuestra comprensión de las condiciones climáticas futuras. Cuando los investigadores generan predicciones meteorológicas centenarias, leer el pronóstico resultante se vuelve un desafío. “Imagina que tienes una película de YouTube que se ha estado ejecutando durante 100 años. No hay forma de encontrar manualmente todos los gatos y perros en esta película”, dice Prabhat. Por lo general, se usa software para automatizar este proceso, pero no es perfecto. Los resultados de la Cumbre mostraron que el aprendizaje automático puede hacer esto mucho mejor, lo que debería ayudar a predecir tormentas como inundaciones.
Según Michael Pritchard, profesor de la Universidad de California en Irvine, el lanzamiento del aprendizaje profundo en supercomputadoras es una idea relativamente nueva que surgió en un momento conveniente para los investigadores del clima. La desaceleración en el avance de los procesadores tradicionales ha llevado a los ingenieros a equipar las supercomputadoras con un número cada vez mayor de chips gráficos para mejorar el rendimiento de manera más consistente. “Ha llegado el momento en que ya no se puede aumentar la potencia de procesamiento de la forma habitual”, dice Pritchard.
Este cambio paralizó el modelado tradicional y, por lo tanto, tuvo que adaptarse. También abre la puerta para aprovechar el poder del aprendizaje profundo, que naturalmente se presta a los chips gráficos. Quizás obtengamos una imagen más clara del futuro de nuestro clima.
Ilya Khel
