De acordo com pt.wedoany.com-Em 16 de julho, a Ingdan Innovation da China lançou o negócio vertical de fábrica de Tokens de IA, planejando construir nós de computação distribuída em vários locais dentro e fora do país. Através de seu próprio cluster de computação e centros de computação terceirizados nacionais e internacionais, a empresa fornecerá conjuntamente serviços de treinamento e inferência de modelos de inteligência artificial. A empresa já estabeleceu uma plataforma de agendamento de computação de Tokens para setores verticais, e o conteúdo subsequente da construção abrangerá a montagem de salas de servidores, implantação de clusters de computação, agendamento de computação e operação e manutenção.
Este conjunto de infraestrutura é implantado em um "modelo de via dupla". Parte da capacidade de computação vem do cluster próprio da Ingdan Innovation, e a outra parte é conectada a centros de computação terceirizados nacionais e internacionais. Servidores e recursos de computação em diferentes locais serão agendados por uma plataforma unificada, permitindo que empresas de modelos de inteligência artificial, empresas de inteligência incorporada e provedores de serviços em nuvem utilizem a capacidade de computação correspondente de acordo com as necessidades das tarefas. A localização dos primeiros nós de computação, o número de servidores, a configuração dos chips e o tempo de ativação ainda não foram divulgados.
A fábrica de Tokens de IA é responsável principalmente pelas tarefas de computação durante a operação de grandes modelos. Após os usuários inserirem texto, imagens ou dados de dispositivos no modelo de inteligência artificial, o cluster de servidores precisa concluir continuamente a inferência do modelo e gerar conteúdo de saída. Com o aumento do volume de chamadas de modelos, os negócios relacionados exigem maiores capacidades de servidores GPU, racks de data centers, redes de alta velocidade, sistemas de armazenamento e operação e manutenção de clusters. A entrada da Ingdan Innovation no segmento de operação de Tokens significa que seus negócios se estenderão do fornecimento de hardware de inteligência artificial para a construção e operação contínua de infraestrutura de computação.
A Ingdan Innovation fornecerá aos parceiros de computação serviços de construção de salas de servidores, implantação de clusters de computação e manutenção posterior. A fase de construção de salas de servidores requer a configuração de racks de servidores, fornecimento e distribuição de energia, refrigeração, conexão de rede e sistemas de monitoramento de operação; após a implantação dos clusters de computação, também é necessário realizar monitoramento do estado dos equipamentos, alocação de tarefas, gerenciamento da taxa de utilização de recursos e tratamento de falhas. A empresa planeja conectar diferentes centros de computação através de uma plataforma de agendamento unificada, formando uma rede de computação que pode fornecer serviços externamente a partir de equipamentos implantados de forma dispersa.
As aplicações em setores verticais serão direcionadas primeiro para empresas de robôs humanoides e drones. Durante o processo de pesquisa e desenvolvimento, esses equipamentos precisam processar imagens, vídeos, trajetórias de movimento e dados de sensores, além de realizar treinamento de modelos, verificação por simulação e inferência em campo. A Ingdan Innovation planeja fornecer serviços de computação de Tokens relativamente leves, permitindo que empresas de robôs e drones utilizem recursos de computação de acordo com as fases de pesquisa, desenvolvimento e implantação, sem a necessidade de construir clusters de computação completos para cada projeto individualmente.
Atualmente, a Ingdan Innovation acumulou mais de US$ 1 bilhão em demandas de serviços intencionais, envolvendo provedores de serviços em nuvem, empresas de inteligência incorporada e empresas de modelos de inteligência artificial. Essas intenções ainda não foram totalmente convertidas em contratos formais de serviço, portanto, não podem ser diretamente equiparadas a receitas de construção ou pedidos de equipamentos já confirmados, mas podem servir como base de demanda para o planejamento de nós de computação subsequentes e expansão de clusters.
O progresso subsequente da construção física se concentrará na seleção de locais para os primeiros nós de computação distribuída, construção de salas de servidores, instalação de clusters de servidores e integração da plataforma de agendamento. Somente após a divulgação dos locais específicos dos nós, da escala dos equipamentos e do tempo de entrada em operação, será possível avaliar melhor a escala real de computação e a demanda de aquisição de infraestrutura gerada por este negócio de fábrica de Tokens de IA.
