GitHub (EUA) lança funcionalidade de gestão de uso de IA que permite visualizar custos por utilizador e organização

De acordo com pt.wedoany.com-A GitHub, dos Estados Unidos, introduziu na sua plataforma uma funcionalidade que permite visualizar o uso e os custos de IA por utilizador, tarefa e unidade organizacional, para responder ao aumento do consumo de tokens e à necessidade de gestão de uso por parte das empresas, impulsionados pela proliferação de agentes de IA.

Com a proliferação de agentes de Inteligência Artificial (IA), o consumo de tokens pelas empresas aumentou, gerando uma procura crescente por funcionalidades que possam gerir simultaneamente o uso, os custos e o retorno sobre o investimento (ROI). A GitHub já lançou funcionalidades relacionadas que permitem aos administradores monitorizar o uso de IA sob diferentes perspetivas. Este movimento surge num contexto em que os agentes de codificação estão a transitar para modelos de faturação baseados no uso, exigindo que as empresas definam limites de uso de tokens de API e acompanhem os custos em tempo real. No dia 19, a GitHub adicionou o campo "ai_credits_used" à API de Métricas de Uso do Copilot (Copilot Usage Metrics API), para exibir o uso de créditos de IA por cada utilizador.

Este campo exibe o total de créditos de IA consumidos por um utilizador num dia, abrangendo o consumo de créditos em todas as atividades do Copilot, como chat e geração de código. Esta funcionalidade está disponível para relatórios de empresas e unidades organizacionais. Os administradores podem consultar o consumo de créditos de IA de cada utilizador através de relatórios de 1 dia (users-1-day) e 28 dias (users-28-day), e gerir os custos com base no sistema de faturação por uso. A análise dos padrões diários de consumo de créditos de IA permite prever a dimensão dos custos futuros e elaborar planos orçamentais. Mario Rodriguez, Diretor de Produto (CPO) da GitHub, afirmou num webinar recente que o objetivo não é permitir que os programadores consumam indiscriminadamente grandes quantidades de tokens de API, mas sim transformar a intenção do programador em software fiável.

O CPO Rodriguez propôs estratégias de modelos locais e encaminhamento automático de modelos como soluções de otimização de custos. Ele explicou que não se deve utilizar modelos de IA de ponta em todas as tarefas, mas sim escolher o modelo adequado com base na dificuldade e no objetivo da tarefa. A GitHub está a promover uma abordagem que não aplica modelos de alto desempenho a todas as tarefas, mas sim que implementa adequadamente modelos locais, modelos de baixo custo e modelos de ponta. O CPO Rodriguez também manifestou apoio à abordagem BYOK (Bring Your Own Key), na qual os programadores utilizam as suas próprias chaves para usar modelos. A GitHub está a apoiar a utilização conjunta do Copilot com modelos externos através de fornecedores de modelos locais como a Ollama.

A razão pela qual o CPO Rodriguez implementa esta estratégia reside na confiança na plataforma, na governação e no ROI. As empresas só podem aplicar ferramentas de codificação de IA em ambientes de desenvolvimento de grande escala se conseguirem prever e controlar o uso e os custos da IA. Anteriormente, a OpenAI também lançou funcionalidades de análise de uso de créditos e controlo de despesas atualizadas para utilizadores do ChatGPT Enterprise, integrando as informações de uso do ChatGPT e do Codex na consola de administração global. Os administradores podem visualizar o consumo de créditos detalhado por utilizador, produto e modelo. No início deste ano, a OpenAI já tinha introduzido a funcionalidade de definir limites de uso de créditos com base em funções personalizadas, e agora expandiu ainda mais as funcionalidades de controlo de despesas ao nível da unidade organizacional. O CPO Rodriguez enfatizou que o GitHub Copilot não é apenas uma ferramenta de escrita de código, mas sim um sistema de engenharia nativo de IA; no futuro, o papel do programador deixará de ser escrever cada linha de código pessoalmente, passando a definir objetivos, validar os resultados gerados pelos agentes de IA e gerir a qualidade e a arquitetura.