Cerebras lança ferramenta de inferência de IA em desafio à Nvidia

A Cerebras Systems lançou nesta terça-feira uma ferramenta para desenvolvedores de inteligência artificial que permite que acessem os chips superdimensionados da startup para executar aplicativos, oferecendo o que diz ser uma opção muito mais barata do que os processadores Nvidia NVDA, que se tornaram um padrão do setor.

O acesso às unidades de processamento gráfico da Nvidia - geralmente por meio de um provedor de computação em nuvem - para treinar e implantar grandes modelos de IA usados em aplicativos como o ChatGPT pode ser difícil e caro de executar, um processo que desenvolvedores chamam de inferência.

"Estamos oferecendo um desempenho que não pode ser alcançado por uma unidade de processamento gráfico", disse o presidente-executivo da Cerebras, Andrew Feldman, em uma entrevista à Reuters. "Estamos fazendo isso com a mais alta precisão e estamos oferecendo isso pelo menor preço."

A expectativa é de que a parte de inferência do mercado de IA cresça rapidamente e seja atraente, chegando a valer dezenas de bilhões de dólares se consumidores e empresas adotarem as ferramentas.

A empresa sediada em Sunnyvale, Califórnia, planeja oferecer vários tipos de produtos de inferência por meio de uma chave de desenvolvedor e de sua nuvem. A empresa também venderá seus sistemas de IA para clientes que preferem operar seus próprios centros de dados.

Os chips da Cerebras - cada um do tamanho de um prato e chamados de Wafer Scale Engines - evitam um dos problemas com o processamento de dados de IA: o processsamento de dados por grandes modelos de IA normalmente não pode ser feito por um único chip e pode exigir centenas ou milhares de microprocessadores conectados entre si.

Isso significa que os chips da Cerebras podem alcançar desempenhos mais rápidos, disse Feldman.

A companhia planeja cobrar dos usuários apenas dez centavos de dólar por milhão de tokens, que são uma das maneiras pelas quais as empresas podem medir a quantidade de dados de saída de um modelo grande.

A Cerebras pretende abrir seu capital e apresentou um prospecto confidencial à SEC, órgão que regula o mercado de capitais nos Estados Unidos este mês, informou a empresa.

((Tradução Redação Brasília))