En The “it” in AI models is the dataset se sostiene algo que ya traíamos sabido: que los modelos (incluidos los LLMs) son resúmenes de los datos con los que se entrenan:
Así, cuando hablas de “Lambda”, “ChatGPT”, “Bard” o “Claude” no te refieres a los pesos del modelo sino al conjunto de entrenamiento.
Hablar de hardware en el contexto de los LLMs parecería casi exclusivamente hablar de NVIDIA, pero no solo. El modelo es el siguiente:
Advertencia previa: esta entrada está plusquamcondicionada por la fecha de publicación. Quien aterrice en ella meses o años después, habrá de saber que lo que sigue únicamente tiene, tirando por alto, interés paleontológico.
Alguna vez, para mis experimentos, he alquilado una GPU —técnicamente, he contratado una instancia con GPUs—. Por razones que no vienen al caso, —y esto no es una recomendación de compra— mi proveedor habitual para estas cosas es OVH y los precios de las distintas opciones que ofrece pueden consultarse aquí.
Mañana, como cada 31 de marzo, se celebra lo que equivaldría a la navidad de los ficheros, la fecha más señalada para todos ellos. Si yo fuera rey, saldría en la tele dando un discurso con un background youtuber.
Mañana, como cada 31 de marzo, se celebra el día de la copia de seguridad.
Así que ya sabéis qué hacer:
Revisando mis archivos, vi que ya hablé del asunto en 2015 y 2017. Además, en 2013 (deprecated) y 2019 describí mi infraestructura de copias de seguridad. Entradas a las que tengo que añadir solo que actuamente:
El artículo The Hardware Lottery es, hasta cierto punto, informativo. En el fondo, no dice nada que no supiésemos ya: que ciertas ideas, algoritmos, procedimientos, métodos, en diversas disciplinas (¡no en matemáticas!) triunfan esencialmente porque les toca la lotería del hardware. No es que sean las mejores desde una perspectiva actual —podría usar aquí los términos etic y emic a lo ovetense— sino que fueron afortunados y bendecidos por el hecho de estar a la (típicamente, medianeja) altura de los tiempos medidos en términos del desarrollo del hardware.
Dos personas que conozco han perdido todos sus datos del disco duro recientemente. Esas cosas pasan más frecuentemente de lo que parece.
Así que no seáis pendejos y haced copias de seguridad de todo este finde. Si es posible, en la nube.
Sí, mi viejo ordenador había cumplido 6 años y comenzaba a quedarse corto. La puntilla fueron problemas de compatibilidad de la tarjeta gráfica con el nuevo Xubuntu (más precisamente, con los nuevos núcleos de Linux que trae). Así que lo que hace no tanto habría parecido ciencia ficción, es ahora realidad bajo mi mesa: 64GB de RAM para mí solo. Y eso que no me he querido gastar dinero; además que, como autónomo y siendo la nueva máquina herramienta de trabajo, viene a salirme como en la mitad que a un civil.
La respuesta a sea pregunta, y siempre de acuerdo con los datos de John C. McCallum, la da
que hace corresponder a cada año del eje horizontal el correspondiente (en el vertical) aquel en el que el almacenamiento en disco venía a costar lo mismo (euros por MB) que el memoria en el primero.
Hoy vamos casi por 2000.
Me llama la atención que el crecimiento se esté ralentizando.
El código, por si alguien le encuentra alguna tara, es
Así que ya sabéis qué tenéis que hacer.
Nota: el día mundial de la copia de seguridad es una iniciativa independiente (de, entre otros, fabricantes de discos duros). No forma parte de la lista oficial de días mundiales. Pero es infinitamente más importante y menos chorra que la mayor parte de ellos.
El otro día, casi por error, cargué este dataframe en R:
dim(raw)
# [1] 115318140 4Es todo un récord personal logrado en un servidor con 24GB de RAM bastante caro.
El anterior estaba en otro de algo así como 20 millones de filas y unas 6 o siete columnas. Eso sí, logrado en tiramisu, mi ordenador personal de 8GB de RAM de 400 euros (monitor incluido).
Os preguntaréis si pude hacer algo con ese monstruo. La verdad es que sí: pude muestrear un 10% de las filas y trabajar con ellas sin problemas.
Yo siempre he creído que eso de los portátiles tiene algo de fálico. Ya no gastamos puñal ni espada. Ni escribimos con tachuelas Biba mi dueño en el mango de navajas de valleinclanianas. Pero salimos a la calle con portátiles y los celamos (yo, al menos) como antaño se guardaban de la sucia mano ajena los afilados depositarios de la virilidad carpetovetónica.
He comprado un portátil nuevo y, llevado de fálico exhibicionismo, he decidido que amerita una entrada en la que proclamar que el mío es más pequeño que el de casi todos mis lectores.
