Evan Conrad: La mayoría de las startups de IA no podrán comprar capacidad de cómputo en los próximos 6 meses

Evan Conrad publicó un artículo afirmando que, en los próximos 6 meses, la mayoría de las startups de IA no podrán comprar capacidad de cómputo, ya que la capacidad global está agotada y se necesita firmar nuevos contratos de clúster para obtener capacidad. Las startups, debido a su estatus de no inversión, se ven obligadas a pagar un mayor anticipo, y algunos contratos requieren un pago anticipado del 100%. Los prestamistas y proveedores de nube no están dispuestos a asumir riesgos crediticios adicionales. Los inquilinos de grado de inversión son escasos, y su calificación se ha visto afectada por el apalancamiento y la venta a compradores de tokens no investment grade, creando un cuello de botella crediticio. Los compradores de GPU de grado de inversión exigirán cada vez más que los compradores de tokens tengan calificación de inversión o que paguen grandes depósitos anticipados. En el artículo se menciona que, al momento de escribir, se puede comprar B300 por 6 dólares la hora y luego vender inferencias por aproximadamente 30 dólares la hora. Se espera que los precios de las GPU aumenten, mientras que los márgenes de ganancia en la capa de inferencia disminuirán, y los clientes con peor crédito tendrán más dificultades para obtener tokens. Evan Conrad sugiere que los prestamistas consideren los clústeres de GPU como garantía y propone que el mercado de futuros de entrega física de capacidad de cómputo, SF Compute, permita a los prestamistas usar las horas de GPU en el libro de liquidez como colateral, en lugar de depender de un solo proveedor de clúster.