Apple revela que modelo de inteligência artificial para consultas complexas roda em infraestrutura do Google

A Apple detalhou a estrutura técnica da Apple Intelligence, revelando a coexistência de modelos de processamento local e em nuvem. O sistema opera por meio de um orquestrador local que, ao receber solicitações via Siri, coleta os dados necessários e gera um prompt estruturado para o processamento remoto, garantindo que dados brutos não sejam enviados para a nuvem.

A arquitetura de nuvem da empresa é dividida em três categorias. O AFM 3 Cloud Pro, voltado para consultas complexas, é executado em GPUs da NVIDIA dentro da infraestrutura do Google Cloud. Este modelo foi desenvolvido pela Apple, embora derive de uma tecnologia do Google Gemini, do qual a fabricante de iPhones licenciou um modelo de 1,2 trilhão de parâmetros para fins de destilação. A Apple ressalta que realizou seus próprios processos de pré e pós-treinamento no AFM 3 Cloud Pro e que não utiliza a mesma infraestrutura ou modelos que o Google oferece a outros clientes.

Já os modelos AFM 3 Cloud (versão pura) e ADM 3 Cloud (específico para geração de imagens) rodam em servidores próprios da Apple.

No processamento local, a empresa implementou o AFM 3 Core Advanced, com 20 bilhões de parâmetros. Para otimizar a inferência, o modelo ativa apenas entre 1 e 4 bilhões de parâmetros por solicitação, exigindo o chip A19 Pro para funcionar em iPhones. Para dispositivos mais antigos, a Apple disponibilizou o AFM 3 Core, uma versão simplificada com 3 bilhões de parâmetros.

Todos os modelos da companhia foram treinados em TPUs, e a execução de todos eles ocorre em silício da Apple, com exceção do AFM 3 Cloud Pro.