Cafe24 da Coreia do Sul lança roteador LLM que conecta mais de 120 modelos de IA generativa

De acordo com pt.wedoany.com-A Cafe24, da Coreia do Sul, lançou recentemente um roteador de modelo de linguagem grande (LLM) que pode conectar mais de 120 modelos de IA generativa e selecionar automaticamente o modelo mais adequado para tarefas como codificação, tradução e criação, com base na solicitação do usuário.

Com a disseminação do fenômeno de "multihoming" de IAs generativas como ChatGPT, Claude, Gemini e DeepSeek, os usuários precisam comparar e selecionar modelos por conta própria, aumentando a carga de trabalho. O roteador LLM da Cafe24 integra esses modelos por meio de uma única Interface de Programação de Aplicações (API), visando reduzir a carga de decisão dos usuários.

Os operadores de serviço podem definir os modelos a serem usados com base em critérios como tipo de tarefa, custo, velocidade de resposta e desempenho do modelo, e suportam a alternância automática para outros modelos pré-especificados em caso de falha de um modelo específico, garantindo a continuidade da execução da tarefa.

O mercado de IA generativa enfrenta um "paradoxo da escolha", onde o aumento de opções pode levar a atrasos na decisão ou menor satisfação após a escolha. Cada IA tem vantagens diferentes, e os usuários alternam entre vários serviços para fins como tradução, pesquisa e codificação, mas o processo de comparar modelos e inserir repetidamente as mesmas perguntas prolonga o tempo de decisão. O objetivo do lançamento do roteador LLM pela Cafe24 é justamente resolver esse problema, permitindo que os usuários se concentrem na tarefa em si, sem se preocupar em qual modelo escolher.

De acordo com a "Pesquisa da Situação Real do Negócio de Comunicações Adicionais de 2025" do Ministério da Ciência e TIC da Coreia do Sul, 53,2% dos usuários de IA generativa usam mais de dois serviços simultaneamente, e o modelo de multihoming já está difundido. No exterior, serviços que conectam e intermediam modelos de IA já formaram um mercado, como a OpenRouter, fundada em 2023, que oferece mais de 400 modelos de IA generativa de mais de 70 empresas de IA por meio de uma única API. Sabe-se que ela processa mais de 100 trilhões de tokens por mês e tem mais de 10 milhões de usuários globais.

A Cafe24 está entrando no mercado de intermediação de IA generativa na Coreia do Sul, tendo o roteador LLM como ponto de partida. Seu objetivo é fornecer um ambiente que aloque automaticamente modelos com base no propósito da tarefa, custo, velocidade e desempenho, melhorando a eficiência operacional e a estabilidade dos serviços de IA generativa por meio da seleção automática de modelos e da função de alternância em caso de falha, ajudando os usuários a se concentrarem na tarefa a ser executada.