Cerebras Systems, una joven empresa de inteligencia artificial, está lista para mostrar al mundo el Cerebras WSE (Cerebras Wafer Scale Engine), el chip semiconductor más grande, poderoso e inteligente de la historia.
Cerebras WSE tiene 1,2 billones de transistores, interruptores electrónicos básicos, que son los componentes básicos de los chips de silicio. En comparación, el primer procesador 4004 de Intel, lanzado en 1971, tenía 2.300 transistores, mientras que el último procesador Advanced Micro Devices tiene 32 mil millones de transistores. Sin embargo, el problema aquí no se trata en absoluto de la cantidad de transistores.
La mayoría de los chips del mundo son en realidad un conjunto de chips creados sobre la base de una oblea de silicio de 12 pulgadas; se producen en fábricas especiales en grandes lotes. Pero el chip de Cerebras Systems tiene 400.000 núcleos conectados en una placa. Las conexiones están diseñadas para funcionar a altas velocidades, razón por la cual un billón de transistores funcionan juntos como uno solo. Pero eso no es todo.
Hasta la fecha, Samsung ha creado el chip más grande del mundo; su estructura se basa en 2 billones de transistores. Sin embargo, el chip Samsung es solo una enorme tarjeta de memoria, y el chip Cerebras es la red neuronal más compleja creada especialmente para entrenar la inteligencia artificial. El chip Cerebras cuenta con 400.000 núcleos en 42.225 milímetros cuadrados. Eso es 56,7 veces más grande que la GPU más grande de Nvidia con solo 21,1 mil millones de transistores.
norte
Otra característica de Cerebras WSE es que el chip está diseñado para encaminarse alrededor de áreas defectuosas.
No es posible perfeccionar toda la oblea de silicio durante la fabricación del chip, por lo que el proceso de fabricación crea áreas que no se pueden utilizar. Nvidia, Intel y otros fabricantes de chips solucionan el problema de forma sencilla: tallan los chips "correctos" en la oblea de fabricación y tiran el resto. Pero esto no se puede hacer si cada chip de la oblea de silicio es parte de un circuito común. Por lo tanto, Cerebras tuvo que construir circuitos redundantes para que, en caso de avería o quemado de uno de ellos, el resto asumiera sus funciones. Es decir, de hecho, el chip Cerebras es una Internet en miniatura con sus propios servidores y estaciones de trabajo. Y todas estas estaciones están diseñadas para servir a una Inteligencia Artificial.
Las empresas que desarrollan su propia IA son hoy en día los principales consumidores de tecnología de chips y compran piezas en grandes cantidades. Y el tamaño de los chips utilizados es de vital importancia en el proceso de entrenamiento de la IA.
Video promocional:
Google, Facebook, OpenAI, Tencent, Baidu y muchos otros argumentan que una limitación fundamental de la IA moderna es que lleva demasiado tiempo entrenar modelos. Por ejemplo, la supercomputadora de Nvidia, compuesta por docenas de GPU de última generación, pasa varias semanas modificando el código, es decir, aprendiendo la red de neutrones.
La solución al problema sería aumentar la cantidad de chips en la computadora, sin embargo, cuando se ensamblan más de ocho chips, el rendimiento de la computadora ya no aumenta, sino que disminuye, ya que los errores se acumulan durante el intercambio de información.
Los propios desarrolladores describen su proyecto de la siguiente manera: “La parte más difícil para la IA es el movimiento de datos. El entrenamiento de una red neuronal requiere que se realicen miles de operaciones en paralelo en un momento dado, y los chips deben comunicarse constantemente mientras realizan estas operaciones paralelas. Pero las computadoras con varios circuitos integrados se averían al intentar transferir datos entre circuitos integrados a través de cables lentos que los unen en una PCB. Necesitaba algo que pudiera mover datos a la velocidad del propio chip. La solución fue tomar la placa más grande que pudieras encontrar y cortar la viruta más grande.
La memoria es un componente clave de cualquier arquitectura de computadora. La memoria más cercana a las unidades informáticas proporciona cálculos más rápidos, menor latencia y mejor eficiencia energética al mover datos. Sin embargo, el tamaño del troquel es limitado y la mayor parte de la memoria de la computadora está fuera del troquel. Cerebras Systems pasó por alto este problema dando a cada núcleo acceso a 18 gigabytes de memoria interna. Como resultado, Cerebras Wafer Scale Engine tiene 3,000 veces más memoria a bordo que el procesador de gráficos más avanzado, mientras que ofrece 10,000 veces más ancho de banda.
Las primeras muestras del nuevo chip saldrán a la venta en septiembre, mientras que Cerebras Systems, habiendo violado todas las reglas existentes de la industria informática, también violó el principio de separación de la producción de unidades informáticas y chips. Cerebras Wafer Scale Engine se comercializará como un dispositivo único desarrollado por la empresa integrado en una compleja red de refrigeración por agua, ya que el chip genera calor extremo y consume 15 kilovatios en un área tan pequeña.
norte
El fundador y director general interino de Cerebras Systems dice: “Diseñado desde cero para trabajar con IA, Cerebras WSE contiene innovaciones fundamentales que finalmente están rompiendo el estancamiento de larga data del estado actual de la técnica. Como resultado, Cerebras WSE proporciona ganancias de rendimiento cientos o miles de veces en comparación con las soluciones modulares modernas. Y todo ello con un consumo de energía ridículo y poco espacio.
Comentario editorial
Las primeras pruebas de IA basadas en Cerebras WSE muestran que las tareas que la IA superior de Nvidia resuelve durante semanas y meses, Cerebras WSE las resuelve en un minuto, lo que es, por así decirlo, motivo de alegría. Sin embargo, los teóricos de la conspiración tienen poca alegría en este sentido.
Todos recordamos (en cualquier caso, la generación anterior de nuestros lectores) el boom de las computadoras del modelo de los "apresurados años 90", cuando en un par de años el poder de las computadoras saltó en órdenes de magnitud. Tan pronto como una persona, radiante de orgullo, compró una computadora con 16 megabytes de memoria, después de poco tiempo esta memoria se trasladó a la caché L2.
Sin embargo, desde principios de la década de 2000, la industria de las computadoras parecía haberse detenido: si las computadoras de los modelos 1990 y 2000 no eran comparables, entonces no había una diferencia particular entre las computadoras de los modelos 2000 y 2010: la potencia aumentó significativamente, pero no en órdenes de magnitud. Y ahora estamos presenciando el nacimiento del segundo Intel 8086, y ahora las capacidades de la línea Cerebras WSE saltarán al mismo ritmo: ya se han resuelto todos los problemas con las impurezas y las conexiones del núcleo.
No conocemos todas las capacidades de la IA moderna de los principales fabricantes, pero, según la opinión general, estos productos aún no son IA y todavía están lejos de ser un dispositivo de pensamiento completo. Sin embargo, Cerebras WSE no solo dio un paso en la dirección correcta, sino que dio un salto de diez años, si no más, y ahora SkyNet es una perspectiva bastante previsible que se puede realizar este año en 2025.
Además, en SkyNet, a diferencia de los aburridos homosapiens, no se requiere mucho tiempo para un mayor desarrollo: una red neuronal solo necesita comenzar a pensar un poco por sí misma, y se modifica en un instante, después de lo cual comienza una guerra nuclear o algo así. Y seguirá siendo una muy buena opción.
Cuando Samsung o Nvidia fabrican una unidad flash con un billón de transistores, todo esto aún se puede explicar de alguna manera, ya que los circuitos lógicos de memoria son relativamente simples y del mismo tipo en casi toda el área. Pero el desarrollo de 400.000 núcleos que surcan al mismo tiempo, y también hay algunos duplicados, y algunas estaciones de servidor y el infierno sabe qué. Y también necesita escribir programas de control para esto, que se han escrito durante años. Entonces los programas deben probarse. Pero, ¿en qué se probaron si el dispositivo se fabricó solo ahora?
En otras palabras, parece que los "marcianos" han vuelto a abrir sus contenedores para los nativos locales. Y existen grandes dudas de que esto se haya hecho para complacer a los jugadores; lo más probable es que haya alguna otra tarea aquí. Y nos parece lo siguiente.
En las últimas décadas, las personas inteligentes se preguntan cada vez más la cuestión del origen de la tecnología electrónica, la cuestión de la chipización universal, que no está claro por qué es necesaria, etc. Con el fin de engañar de alguna manera a sus cerebros, se les ocurrió un cuento de hadas sobre una "computadora cuántica", cuyos principios ni siquiera las personas que han sido nombradas para los "desarrolladores" oficiales comprenden sus principios. Y ahora imaginen el horror de la ama de casa mexicana promedio, cuyo nuevo teléfono móvil no solo pensará mejor que ella, sino que también llevará a bordo una especie de “computadora cuántica”. Es decir, un tonto así es inaceptable para los nativos locales: comenzarán a volverse locos en masa.
Por lo tanto, algunos "marcianos" inteligentes decidieron mostrar a los aborígenes bípedos del planeta Tierra un milagro más simple, cuyos principios los ancianos de la NASA pueden al menos explicar de alguna manera. Y si los nativos aceptan la historia, entonces los "marcianos" mostrarán a la gente otras maravillas mágicas. Por ejemplo, meterán este Cerebras WSE en un teléfono móvil y lo venderán por cien dólares. Para los compradores de dispositivos de moda, esto, por supuesto, será muy bueno y bueno, pero la gente pensará un poco más inteligente de inmediato: ¿qué hay en las salas de servidores de varias organizaciones serias, por ejemplo, como la NSA, el FBI y la CIA? ¿Cuáles son las posibilidades de controlar los pensamientos y el comportamiento de la población?
