A chinesa DeepSeek anunciou nesta quarta-feira, 21, a disponibilização de uma ferramenta de código aberto desenvolvida para reduzir os custos de operação de modelos de inteligência artificial (IA). Chamado DeepInfer, o software otimiza a execução dos sistemas da empresa, com o objetivo de diminuir o uso de recursos computacionais e o consumo de energia. A iniciativa permite que empresas e provedores de serviços de nuvem utilizem técnicas adotadas pela própria DeepSeek para executar seus modelos de forma mais eficiente.
A empresa, sediada em Hangzhou, na China, afirmou que está compartilhando sua infraestrutura de produção para ajudar desenvolvedores a reduzir os custos de computação e ampliar o acesso à IA.
A ferramenta funciona como uma camada de software que coordena a execução dos modelos e aproveita melhor a capacidade dos equipamentos utilizados no processamento. Até o momento, o DeepInfer oferece suporte ao modelo V4.1-Flash, e a companhia informou que pretende adicionar compatibilidade com sistemas futuros.
O lançamento expõe parte dos métodos usados pela DeepSeek para manter baixos os custos de execução de seus modelos, etapa conhecida como inferência. É nesse processo que um sistema de IA utiliza o treinamento recebido para responder a perguntas, gerar textos ou realizar outras tarefas. O custo dessa operação varia conforme o modelo, o volume de solicitações e a eficiência do software e do hardware empregados. Por isso, dois serviços que utilizam o mesmo modelo podem ter despesas operacionais diferentes.
Software de código aberto busca reduzir gastos com processamento e consumo de energia em modelos de inteligência artificial.
Software busca aproveitar melhor a capacidade dos chips
O DeepInfer combina diferentes técnicas de otimização, entre elas a inferência distribuída, que divide as cargas de trabalho entre diferentes componentes de hardware. A estratégia permite distribuir o processamento e aumentar o volume de resultados produzido em determinado período. Embora muitas dessas técnicas já sejam utilizadas no setor, a DeepSeek adaptou sua implementação às características de seus próprios modelos.
A disponibilização do software também pode beneficiar empresas de hospedagem e provedores de nuvem que oferecem acesso aos modelos da DeepSeek. Ao incorporar essas técnicas à própria infraestrutura, esses operadores podem reduzir o custo computacional de cada solicitação e melhorar suas margens de lucro. Caso a economia seja repassada aos clientes, a iniciativa também poderá contribuir para diminuir o preço de serviços de IA. Empresas que executam os modelos em servidores próprios, por sua vez, poderão usar a ferramenta para tentar reduzir suas despesas operacionais.
Apesar das possibilidades, a adoção do DeepInfer não elimina a necessidade de equipamentos com capacidade de processamento e de profissionais especializados para instalar e operar os sistemas. Segundo Thibault Jaigu, presidente-executivo da Requesty, startup que desenvolve ferramentas de métricas e roteamento para serviços de IA, a iniciativa reduz as barreiras para hospedar os modelos da empresa.
A proposta, na prática, é permitir que organizações executem os sistemas por conta própria com acesso às técnicas de otimização utilizadas pela desenvolvedora chinesa.
A ferramenta também pode servir de referência para outros desenvolvedores interessados em aprimorar seus sistemas de inferência. Como o código é aberto, profissionais e empresas podem examinar as técnicas implementadas e avaliar possíveis adaptações para outras arquiteturas. Ainda não há, porém, estudos comparativos independentes que comprovem os ganhos de eficiência do DeepInfer. Embora o lançamento ofereça acesso a métodos de otimização, a economia efetiva dependerá da infraestrutura, das aplicações e das condições de uso de cada organização.
