Términos

Inferencia de IA: razonamiento de inteligencia artificial

La inferencia de IA se refiere a ejecutar modelos de inteligencia artificial entrenados para producir resultados en respuesta a solicitudes. Este uso aparece en servicios de infraestructura en la nube, servidores empresariales, centros de datos y chips y sistemas diseñados para acelerar el procesamiento de resultados.

La inferencia de inteligencia artificial es la etapa en la que se ejecuta un modelo de inteligencia artificial entrenado para procesar una solicitud y producir resultados. Se diferencia del entrenamiento del modelo, que se centra en desarrollar sus capacidades mediante datos y recursos informáticos.

¿Dónde se utiliza la inferencia?

  • Servicios de infraestructura: empresas como Modal Labs proporcionan recursos para ejecutar modelos y cargas de trabajo con un uso intensivo de computación sin gestionar directamente los servidores.
  • Chips y sistemas especializados: Etched se centra en sistemas de hardware destinados a acelerar la inferencia y reducir su coste y latencia en comparación con las alternativas mencionadas por la empresa.
  • Centros de datos y unidades GPU: Crusoe vende capacidad informática para ejecutar modelos de inteligencia artificial, además de alquilar espacio y unidades GPU.
  • Servidores empresariales: Sharp comenzó a aceptar pedidos de servidores dirigidos a empresas, organismos gubernamentales y operadores de centros de datos, con usos anunciados que incluyen el entrenamiento y la inferencia.

¿Por qué requiere la operación una infraestructura especializada?

La inferencia depende de recursos informáticos como unidades de procesamiento gráfico, servidores, memoria, almacenamiento, redes, energía y refrigeración. Las fuentes señalan que los proveedores de estos servicios afrontan al mismo tiempo una demanda creciente y costes elevados asociados a la compra o el alquiler de capacidad informática, lo que puede presionar los márgenes de beneficio.

La inferencia en los productos y la infraestructura

Las empresas compiten en este ámbito en varios niveles: diseñando chips personalizados, construyendo servidores configurables, ofreciendo plataformas en la nube y creando centros de datos capaces de operar un gran número de unidades GPU. Por ello, la inferencia de inteligencia artificial no se limita al modelo en sí, sino que requiere un sistema operativo completo.

¿Qué se debe evaluar?

  • Latencia de respuesta: la rapidez con la que se producen los resultados después de enviar la solicitud.
  • Coste: el coste de proporcionar capacidad informática, energía, refrigeración y operación.
  • Escalabilidad: la capacidad de la infraestructura para atender un mayor número de solicitudes o modelos.
  • Fiabilidad: la estabilidad de los servidores, la plataforma y las redes durante la operación.

Limitaciones de la información disponible

Las fuentes disponibles no incluyen una comparación unificada de todos los proveedores de inferencia en cuanto a precios, rendimiento o cuota de mercado. Además, algunas cifras se refieren a objetivos, planes o financiaciones anunciados y no representan necesariamente resultados operativos alcanzados.