PrismML dos EUA transfere modelo de 27 bilhões de parâmetros para iPhone

De acordo com pt.wedoany.com-A empresa PrismML conseguiu transferir o modelo de grande escala Qwen 3.6, com 27 bilhões de parâmetros e código aberto da Alibaba, para o iPhone 17 Pro. De acordo com o serviço de notícias de TI The Information, o modelo é capaz de realizar respostas complexas em chat, tarefas de raciocínio e agentes de codificação totalmente autônomos. A partir da próxima terça-feira, o modelo estará disponível para uso público.

A PrismML é uma empresa derivada do Instituto de Tecnologia da Califórnia (California Institute of Technology, Caltech), e o responsável pela empresa, Baba Hassibi, também atua como professor de engenharia elétrica na instituição. A empresa afirma ter comprimido o Qwen 3.6 usando "truques matemáticos", com uma tecnologia que supera os métodos de quantização convencionais. Segundo a empresa, essa tecnologia elimina a perda de qualidade usual, reduzindo o Qwen 3.6 de 54 GB para 4 GB. As patentes relacionadas são detidas pelo Instituto de Tecnologia da Califórnia.

A PrismML prevê que, em cerca de três anos, até 95% da potência computacional de IA necessária será processada localmente em smartphones, laptops e até eletrodomésticos. O responsável pela empresa, Baba Hassibi, acredita que apenas 5% das demandas de alto nível irão para a nuvem nessa época, e afirma: "Acredito que esta é a direção que as pessoas veem como o caminho a seguir." Para treinamento, os data centers ainda serão necessários no futuro previsível. Vale notar que a Apple introduziu uma tecnologia para o AFM Core Advanced que resolve o problema de RAM de modelos de grande escala com 20 bilhões de parâmetros usando memória flash, carregando apenas as partes realmente necessárias. A Apple está atualmente em busca de empresas de IA adquiríveis nessa área. De acordo com o The Information, a Apple já realizou negociações preliminares sobre o uso dessa tecnologia.