¿Qué precio debería tener una hora de GPU?
Advertencia previa: esta entrada está plusquamcondicionada por la fecha de publicación. Quien aterrice en ella meses o años después, habrá de saber que lo que sigue únicamente tiene, tirando por alto, interés paleontológico.
Alguna vez, para mis experimentos, he alquilado una GPU —técnicamente, he contratado una instancia con GPUs—. Por razones que no vienen al caso, —y esto no es una recomendación de compra— mi proveedor habitual para estas cosas es OVH y los precios de las distintas opciones que ofrece pueden consultarse aquí.
Ahora bien, a la vista de cómo está el mercado de las GPUs, sus precios, los cuellos de botella en su fabricación, la demanda, etc., ¿cuál es la economía de la cosa detrás de los precios de las distintas instancias? ¿A cuánto puede venir a salir una hora de computación en una GPU moderna con los precios de la más rabiosa vigencia?
Los números, extraídos de una entrada reciente en semianalysis (un blog mucho más recomendable que este), son
donde los costes de los servidores con GPU parecen hacer referencia a la NVIDIA HGX H100.
Realmente son los precios —en orden de magnitud— a los que un particular puede hoy en día conseguir una V1000 (que tiene ya esos seis años largos en que los números de arriba estiman la vida útil de estos cacharros).