IA

El CEO de OpenAI, Sam Altman, dice que su frase sobre la RAM se sacó de contexto, y la transcripción le da media razón

Estaba respondiendo a una pregunta sobre la inferencia de IA local, no sobre ordenadores para juegos. Su argumento sigue situando la escasez de memoria en los centros de datos.
Adrian Kessler
Añádenos en Google

Sam Altman quiere que conste que está del lado de quienes compran memoria para sus propios ordenadores. El CEO de OpenAI afirma que sus palabras sobre los PC domésticos que acaparan la escasa DRAM del mundo se sacaron de contexto, y que lleva mucho tiempo defendiendo que la industria produzca más. La conversación completa demuestra que tiene razón a medias. El contexto cambia lo que quería decir, pero no cambia adónde dirige su argumento los chips mientras dure la escasez.

Se defendió en X después de varios días de bromas a su costa, y se sumó a ellas. Un usuario le pidió que cambiara el nombre de su cuenta por «Ram Altman». Él respondió «vale, sí» y modificó el nombre que aparece en su perfil. Después se explicó: «En realidad, sí quiero que haya muchísima memoria en el mundo y que la gente pueda poner tanta como quiera en sus ordenadores, y es jodidamente irritante que esto se haya sacado de contexto». Y añadió: «Llevo mucho tiempo defendiendo que el mundo aumente la producción de memoria».

Lo que dijo realmente Altman en Cheeky Pint

La frase procede de Cheeky Pint, el pódcast presentado por John Collison, cofundador de Stripe, que publica transcripciones completas. El pasaje dice: «Pero, desde la perspectiva de la asignación global, en realidad es bastante terrible que todo el mundo tenga una buena parte de la limitada oferta mundial de DRAM dentro de su propio ordenador. Y que se esté usando […] el 5 % del tiempo. Si intentas hacer frente a este entorno de oferta tan limitada, lo que quieres es la máxima utilización en la nube».

La mayoría de las informaciones empezaron la cita ahí. Pero lo que se dijo antes importa. Collison había preguntado por qué los altos precios de la memoria no estaban atrayendo a nuevos fabricantes al mercado. Altman respondió que «la mano invisible está fallando ahora mismo». Durante décadas, dijo, un fabricante de DRAM habría «invertido 20.000 millones de dólares en gastos de capital para producir por valor de 19.000 millones» y habría soportado los ciclos de auge y caída. Ahora que, en su estimación, cada uno de ellos puede llegar a obtener «unos 100.000 millones de dólares de flujo de caja libre en un año», «todos recuerdan su historia. Cuántas veces estuvieron a punto de quebrar por construir demasiadas fábricas». Solo entonces pasó a hablar de quienes quieren ejecutar modelos localmente: usar modelos de IA de código abierto en sus propias máquinas, con la idea de que así se alivia la presión sobre los centros de datos. La frase «bastante terrible» era su réplica a esa idea.

Más adelante, en la misma conversación, dice que el coste de la energía y de los chips «debería bajar», que «si no baja, me pondré muy triste» y que «la oferta tiene que aumentar muchísimo». En lo concreto, su defensa se sostiene. Hablaba de ejecutar modelos de IA en casa, no de ordenadores para jugar o editar vídeo, y en el mismo episodio pidió que se aumentara la producción.

Hasta dónde sirve el contexto

En un mercado con escasez de oferta, hablar de asignación es hablar de quién se queda con los chips. La «máxima utilización en la nube» los destina a los centros de datos, y OpenAI es uno de los mayores compradores de ese mercado. Samsung y SK Hynix firmaron cartas de intenciones para suministrar memoria al proyecto de infraestructura Stargate de OpenAI, un compromiso que The Register cifró en unos 900.000 inicios de producción de obleas DRAM al mes. Las cartas no son vinculantes, pero muestran qué parte del mercado pretende comprar OpenAI. Notebookcheck señaló que el argumento también encaja con el modelo de negocio de OpenAI: modelos cerrados que funcionan en sus centros de datos y se ofrecen mediante suscripción.

Ni siquiera la afirmación más clara del episodio sobre la abundancia es de Altman. La «saturación de capacidad de cómputo» en la que «cualquiera que quiera un ordenador, por el motivo que sea, puede tener uno» es el resumen que hace Collison de la postura de Altman. Este no respondió directamente. Contestó en términos de centros de datos, hablando del coste que tendría durante cinco años un gigavatio de capacidad —unos 70.000 millones de dólares, según calculó— y diciendo que le gustaría que bajara a 20.000 millones.

La cifra del 5 % no tiene fuente

La cifra que desató la polémica no viene acompañada de ninguna medición. PC Games Hardware señaló que describe durante cuánto tiempo está ocupada la memoria, no cuánta necesita una máquina: un sistema operativo mantiene datos en caché y los programas reclaman más memoria de golpe. Un gigabyte que pasa la noche sin usarse sigue teniendo que estar ahí cuando se carga un juego o un modelo local. Además, la gente ejecuta IA en su propio hardware por motivos que una cifra de utilización no puede reflejar, como la privacidad, el control sobre un modelo que un proveedor no pueda cambiar discretamente y pagar una sola vez en lugar de una suscripción.

Elon Musk también intervino en X con estas palabras: «¡La gente también merece tener su RAM!». Su propia iniciativa de IA gestiona el centro de datos Colossus en Memphis, como señaló PC Games Hardware.

La escasez ya se nota en los precios de las tiendas. El 2 de noviembre, Raspberry Pi subió 80 dólares el precio de la Raspberry Pi 5 de 16 GB, hasta los 385 dólares, alegando «la falta de alternativas de suministro de DRAM de 16 GB». PC Gamer, cuyo artículo difundió el intercambio de X entre un público amplio, escribió que los aficionados a la tecnología y los jugadores se han quedado «sin poder permitirse hardware nuevo» por culpa de OpenAI y del resto de la industria de la IA. El episodio de Cheeky Pint se publicó el 29 de octubre, y las respuestas de Altman en X llegaron en los primeros días de noviembre.

La solución de Altman a todo esto pasa por construir más fábricas. Según él mismo cuenta, las empresas que tendrían que levantarlas recuerdan que estuvieron a punto de quebrar la última vez que alguien les dijo que aquel auge era distinto. Hasta que cambien de opinión, la memoria ya se está asignando tal como él describió: al comprador que más paga y más la utiliza. Y ese comprador es un centro de datos, no un ordenador de sobremesa.

Etiquetas: , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.