Amazon y la startup de IA Hugging Face se emparejan para usar los chips de Amazon

La unidad en la nube de Amazon.com AMZN dijo el miércoles que se ha asociado con la startup de inteligencia artificial Hugging Face para facilitar la ejecución de miles de modelos de IA en los chips informáticos personalizados de Amazon.

Valorada en 4.500 millones de dólares, Hugging Face se ha convertido en un eje central para que investigadores y desarrolladores de IA compartan chatbots y otro software de IA y está respaldada por (link) Amazon, Google GOOG de Alphabet y Nvidia NVDA, entre otros. Es el principal lugar al que acuden los desarrolladores para obtener y retocar modelos de IA de código abierto como META Llama 3 de Meta Platforms (link).

Pero una vez que los desarrolladores han retocado un modelo de IA de código abierto, suelen querer utilizarlo para impulsar un programa informático. El miércoles, Amazon y Hugging Face declararon que se habían asociado para hacer posible este uso en un chip personalizado de Amazon Web Services (AWS) llamado Inferentia2.

"Algo muy importante para nosotros es la eficiencia: asegurarnos de que el mayor número posible de personas puedan ejecutar modelos y de que puedan hacerlo de la forma más rentable", declaró Jeff Boudier, responsable de producto y crecimiento de Hugging Face.

Por su parte, AWS espera atraer a más desarrolladores de inteligencia artificial para que utilicen sus servicios en la nube. Mientras que Nvidia domina el mercado de la formación de modelos, AWS argumenta que sus chips pueden operar esos modelos entrenados -un proceso llamado inferencia- a un coste menor con el tiempo.

"Los modelos se entrenan quizá una vez al mes. Pero es posible que se ejecuten decenas de miles de veces por hora. Ahí es donde Inferentia2 brilla con luz propia", afirma Matt Wood, responsable de productos de inteligencia artificial de AWS.