Apple se concentra na execução de IA diretamente em Iphones, divergindo do uso da nuvem
A Apple está avançando na inteligência artificial generativa ao realizar pesquisas para executar modelos de linguagem de grande porte (LLMs) em smartphones, um afastamento da abordagem tradicional baseada em nuvem. Um artigo intitulado “LLM in a Flash“, publicado em 12 de dezembro, demonstra uma solução para executar LLMs de forma eficaz em dispositivos com memória limitada, como os iPhones. Esse desenvolvimento aborda os desafios computacionais da operação de modelos sofisticados de IA, como o ChatGPT, em dispositivos móveis.
O artigo, que ganhou atenção após ser apresentado pela Hugging Face, significa o esforço da Apple para alcançar seus pares do Vale do Silício em inovação de IA. As iniciativas anteriores da Apple, como a integração de modelos de geração de imagens em chips personalizados, já demonstram seu compromisso com o avanço da IA.
Essa pesquisa é oportuna, pois o mercado de smartphones está passando por uma retração, com um declínio de 5% nas remessas, de acordo com a Counterpoint Research. A Apple, apesar de ter sido pioneira com a Siri, tem sido percebida como atrasada na corrida da IA generativa, uma lacuna que agora está resolvendo ao explorar as funcionalidades de IA independentes da computação em nuvem.
Ao contrário dos concorrentes que se concentram em serviços de IA baseados em nuvem, a Apple está se voltando para a IA baseada em dispositivos. Isso se alinha à sua ênfase na privacidade do usuário, já que o processamento de IA em dispositivos pessoais pode aumentar a segurança dos dados. A abordagem da Apple envolve a otimização de modelos menores, como o Falcon 7B, para uma inferência eficiente em dispositivos alimentados por bateria.
Essa mudança na estratégia de IA pode redefinir a experiência do smartphone, oferecendo assistência de IA mais rápida e com capacidade off-line, além de medidas avançadas de privacidade. Os insights do documento, embora não sejam indicadores diretos dos planos de produtos da Apple, revelam um movimento significativo no sentido de aproveitar o potencial da IA em vários dispositivos e aplicativos, estabelecendo um precedente no setor. A iniciativa da Apple ressalta a tendência crescente de integração de recursos sofisticados de IA diretamente nos dispositivos dos consumidores, um movimento que deverá moldar os futuros avanços tecnológicos e as experiências dos usuários.