A plataforma de desenvolvimento de IA Hugging Face fez parceria com fornecedores de nuvem de terceiros, incluindo a SambaNova, para lançar o Inference Providers, um recurso projetado para facilitar que desenvolvedores na Hugging Face rodem modelos de IA usando a infraestrutura de sua escolha.
A Hugging Face afirma que parceiros como Fal, Replicate, Together AI e a já mencionada SambaNova trabalharam com a empresa para integrar o acesso a seus respectivos data centers diretamente na plataforma Hugging Face. Agora, os desenvolvedores na Hugging Face podem, por exemplo, configurar um modelo DeepSeek nos servidores da SambaNova a partir de uma página de projeto da Hugging Face com apenas alguns cliques.
A Hugging Face há muito tempo oferece sua própria solução interna para rodar modelos de IA. No entanto, em uma postagem no blog na terça-feira, a empresa explicou que seu foco mudou para colaboração, armazenamento e capacidades de distribuição de modelos.
“Os provedores de soluções serverless floresceram, e o momento era ideal para que a Hugging Face oferecesse acesso fácil e unificado a inferências serverless por meio de um conjunto de grandes provedores”, escreveu a empresa no post. “[Foi] natural fazer parceria com a próxima geração de provedores de inferência serverless para uma inferência sem servidor e centrada em modelos.”
A inferência serverless permite que os desenvolvedores implantem e escalem modelos de IA sem precisar configurar ou gerenciar o hardware subjacente. Provedores como a SambaNova lançam automaticamente os recursos computacionais necessários e os ajustam para cima ou para baixo, dependendo do uso.
A Hugging Face afirma que os desenvolvedores que utilizam provedores de nuvem de terceiros por meio de sua plataforma pagarão as tarifas padrão da API do provedor, pelo menos por enquanto. (A Hugging Face pode estabelecer acordos de compartilhamento de receita com os parceiros no futuro, segundo a empresa.) Todos os usuários da Hugging Face recebem uma pequena cota de créditos para usar em inferência, e assinantes do Hugging Face Pro, o plano premium da plataforma, recebem $2 adicionais em créditos por mês.
Fundada em 2016 como uma startup de chatbots, a Hugging Face se tornou uma das maiores plataformas globais de hospedagem e desenvolvimento de modelos de IA. Até o momento, a Hugging Face já arrecadou cerca de $400 milhões em capital de investidores como Salesforce, Google, Amazon e Nvidia. A empresa afirma ser lucrativa.
Artigo de Kyle Wiggers via TechCrunch
Quer conversar sobre isso comigo? Me procura lá no Twitter, faz um tweet, me chama, vamos trocar experiências, novidades e ideias em cima desse navegador que está retomando meu brilho nos olhos.