Adeus nuvem, Olá telefone: Adobe SlimLM traz IA para dispositivos móveis

Adobe investigadores criaram um sistema inovador de inteligência artificial que processa documentos diretamente em smartphones sem ligação à Internet, mudando potencialmente a forma como as empresas lidam com informações confidenciais e como os consumidores interagem com os seus dispositivos.

O sistema, o chamado SlimLMrepresenta uma grande mudança na implantação da inteligência artificial – longe dos enormes centros de computação em nuvem e dos telefones nos bolsos dos usuários. Em testes no mais recente Samsung Galáxia S24SlimLM demonstrou que pode analisar documentos, gerar resumos e responder perguntas complexas enquanto é executado inteiramente no hardware do dispositivo.

“Embora os grandes modelos de linguagem tenham atraído uma atenção considerável, a implementação prática e o desempenho de modelos de pequena linguagem em dispositivos móveis reais continuam pouco estudados, apesar da sua crescente importância na tecnologia de consumo”, explicou uma equipa de investigação liderada por investigadores da Adobe Research, Auburn University. e Geórgia Tech.

Como os modelos de linguagem pequena estão perturbando o status quo da computação em nuvem

SlimLM entra em cena em um momento crucial na mudança da indústria de tecnologia em direção à edge computing – um modelo no qual os dados são processados ​​onde são criados, e não em data centers distantes. Grandes players como Google, Apple e Meta têm corrido para trazer IA para dispositivos móveis, com o Google revelando Gêmeos Nano para Android e Meta LLaMA-3.2ambos visam trazer recursos avançados de linguagem para smartphones.

O que diferencia o SlimLM é sua otimização precisa para uso no mundo real. A equipe de pesquisa testou diferentes configurações e descobriu que seu menor modelo – com apenas 125 milhões de parâmetros em comparação com modelos como GPT-4ocontendo centenas de bilhões — conseguiram processar com eficiência documentos de até 800 palavras em um smartphone. Escaláveis ​​até 1 bilhão de parâmetros, as variantes maiores do SlimLM também foram capazes de se aproximar do desempenho dos modelos com uso mais intensivo de recursos, ao mesmo tempo em que funcionavam perfeitamente em hardware móvel.

Essa capacidade de executar modelos sofisticados de IA em um dispositivo sem sacrificar muito o desempenho pode ser uma virada de jogo. “Nosso menor modelo demonstra desempenho eficiente no (Samsung Galaxy S24), enquanto variantes maiores oferecem recursos aprimorados dentro das restrições celulares”, escreveram os pesquisadores.

Por que a inteligência artificial no dispositivo poderia remodelar a computação empresarial e a privacidade de dados

As implicações comerciais do SlimLM vão muito além do sucesso técnico. Atualmente, as empresas gastam milhões em soluções de IA baseadas na nuvem, pagando para fazer chamadas de API para serviços como OpenAI ou Antrópico processar documentos, responder perguntas e criar relatórios. SlimLM aponta para um futuro onde muito deste trabalho poderá ser feito localmente em smartphones, reduzindo significativamente os custos e melhorando a privacidade dos dados.

Os setores que lidam com informações confidenciais — como prestadores de cuidados de saúde, escritórios de advocacia e instituições financeiras — são os que mais beneficiam. Ao processar dados diretamente no dispositivo, as empresas podem evitar os riscos associados ao envio de informações confidenciais para servidores em nuvem. Esse processamento no dispositivo também ajuda a garantir a conformidade com regulamentações rígidas de proteção de dados, como GDPR e HIPAA.

“Nossas descobertas fornecem informações valiosas e iluminam as possibilidades de execução de modelos de linguagem avançados em smartphones de última geração, reduzindo potencialmente os custos do servidor e aumentando a privacidade por meio do processamento no dispositivo”, disse a equipe em seu artigo.

Por dentro da tecnologia: como os pesquisadores fizeram a inteligência artificial funcionar sem a nuvem

Um avanço técnico atrás de nós SlimLM reside na forma como os pesquisadores repensaram os modelos de linguagem para acomodar as limitações de hardware dos dispositivos móveis. Em vez de simplesmente reduzir os grandes modelos existentes, eles realizaram uma série de experimentos para encontrar o “ponto ideal” entre tamanho do modelo, comprimento do contexto e tempo de inferência, garantindo que os modelos pudessem oferecer desempenho no mundo real sem sobrecarregar os processadores móveis.

Outra inovação importante foi a criação do DocAssist, um conjunto de dados especializado projetado para treinar o SlimLM para tarefas relacionadas a documentos, como resumo e resposta a perguntas. Em vez de depender de dados gerais da Internet, a equipe adaptou seu treinamento para se concentrar em aplicações práticas de negócios, tornando o SlimLM altamente eficaz para as tarefas mais importantes em um ambiente profissional.

O futuro da inteligência artificial: por que seu próximo assistente digital pode não precisar da Internet

O desenvolvimento do SlimLM aponta para um futuro onde a IA sofisticada não exigirá uma ligação constante à nuvem, uma mudança que poderá democratizar o acesso às ferramentas de IA, ao mesmo tempo que aborda as crescentes preocupações com a privacidade dos dados e o elevado custo da computação na nuvem.

Considere as aplicações potenciais: smartphones que podem processar e-mails de forma inteligente, analisar documentos e auxiliar na escrita – tudo isso sem enviar dados confidenciais a servidores externos. Isto poderá mudar a forma como os profissionais de áreas como direito, saúde e finanças interagem com os seus dispositivos móveis. Não se trata apenas de privacidade; trata-se de criar sistemas de IA mais resilientes e acessíveis que funcionem em qualquer lugar, independentemente da conexão com a Internet.

Para a indústria tecnológica em geral, o SlimLM representa uma alternativa atraente à mentalidade “quanto maior, melhor” que dominou o desenvolvimento da IA. Embora empresas como a OpenAI busquem modelos com trilhões de parâmetros, a pesquisa da Adobe mostra que modelos menores e mais eficientes ainda podem fornecer resultados impressionantes quando otimizados para tarefas específicas.

O fim da dependência da nuvem?

O (em breve) lançamento público O código e os conjuntos de dados de treinamento do SlimLM podem acelerar essa mudança e permitir que os desenvolvedores criem aplicativos de IA que preservam a privacidade para dispositivos móveis. À medida que os processadores de smartphones continuam a evoluir, o equilíbrio entre o processamento de IA na nuvem e no dispositivo pode inclinar-se drasticamente em direção à computação local.

SlimLM oferece mais do que apenas mais um avanço na tecnologia de IA; é um novo paradigma de como pensamos sobre a inteligência artificial. Em vez de depender de grandes conjuntos de servidores e de ligações constantes à Internet, o futuro da IA ​​pode ser personalizado, executado diretamente no dispositivo que está no seu bolso, preservar a privacidade e reduzir a dependência da infraestrutura de computação em nuvem.

Este desenvolvimento marca o início de um novo capítulo no desenvolvimento da IA. À medida que a tecnologia amadurece, poderemos em breve olhar para trás, para a IA baseada na nuvem, como uma fase de transição, com a verdadeira revolução a chegar quando a IA se tornar suficientemente pequena para caber nos nossos bolsos.