Las instalaciones de supercomputación que montó Musk en Memphis para entrenar a nueva IA

La startup xAI de Elon Musk entrena a su próximo modelo de inteligencia artificial en un “supercluster” de la empresa ubicado en Memphis, Tennessee, confirmó el ejecutivo este lunes a través de un tuit.

“Buen trabajo por parte del equipo xAI, el equipo X, Nvidia y las empresas de apoyo para que la capacitación en Memphis Supercluster comenzara a las 4:20 a. m. hora local”, escribió Musk en X (anteriormente Twitter), empresa de la que también es propietario.

“¡Es el grupo de entrenamiento de IA más potente del mundo!”, expresó.

Las GPU H100 de Nvidia están diseñadas para entrenar modelos de IA, que requieren toneladas de energía y potencia informática para funcionar. Ahora, Musk tiene un enorme grupo de computadoras de más de 100.000 GPU para entrenar la próxima versión del peculiar chatbot de xAI, Grok, informó el medio PC Mag.

El mes pasado, el grupo de desarrollo económico Greater Memphis Chamber confirmó que las instalaciones informáticas de xAI, denominada “Gigafábrica de Computación”, estaban en proceso.

Come help xAI route photons as a elite fiber tech in Memphis! pic.twitter.com/JJShV75May

— xAI (@xai) July 15, 2024

La organización explicó que la instalación se llevará adelante en una antigua fábrica. En mayo, xAI dijo que había obtenido US$ 6.000 millones en fondos para continuar con el desarrollo de la IA.

Actualmente, la compañía tiene seis ofertas de trabajo para su sitio de supercomputación de Memphis para puestos como capataz de fibra, ingeniero de redes y gerente de proyectos, por nombrar algunos.

Si bien el grupo Greater Memphis Chamber elogió la decisión de xAI de abrir una tienda en el área, otros lugareños han expresado su preocupación por el consumo de energía y agua de las instalaciones. El grupo Comunidad Contra la Contaminación de Memphis, junto con otros dos grupos ambientalistas, advirtieron que la instalación informática crea una “carga energética” significativa.

“También se espera que XAI necesite al menos un millón de galones de agua por día para sus torres de enfriamiento”, dijeron los grupos en una carta abierta el mes pasado. “Alentamos a xAI a apoyar la inversión en un sistema de reutilización de aguas residuales de la ciudad de Memphis para reducir la presión sobre nuestro suministro de agua”, agregaron.

how june started & how it’s going

come ????? with us at xAI & ?? if you like building & running the biggest computers in the world!https://t.co/E9BY2xFmcLhttps://t.co/NU05SX5tVb pic.twitter.com/qFMpJcizw2

— xAI (@xai) July 2, 2024

El director ejecutivo de Memphis Light, Gas, and Water estimó que las instalaciones de xAI en Memphis pueden utilizar hasta 150 megavatios de electricidad por hora, lo que equivale aproximadamente a la necesaria para alimentar 100.000 hogares.

“La gente tiene miedo. Tienen miedo de lo que posiblemente pueda pasar con el agua y tienen miedo del suministro de energía”, dijo la semana pasada Pearl Walker, miembro del Concejo Municipal de Memphis.

Aunque es ciertamente enorme, el lugar de xAI en Memphis no necesariamente es la instalación informática más grande del mundo.

Gigantes tecnológicos como Microsoft, Google y Meta también están utilizando centros de datos para entrenar y operar sus modelos de IA, y el director ejecutivo de Meta, Mark Zuckerberg, prometió adquirir 350.000 Nvidia H100 este año.

Musk ha dicho anteriormente que xAI planea lanzar Grok 2 el próximo mes, pero no está claro si podría utilizar este grupo de supercomputación y cómo. Grok 3, sin embargo, se entrenará con los 100.000 H100 en Memphis y su lanzamiento está previsto para finales de este año.