Um novo paradigma: uma arquitetura de pilha de dados para agentes de IA

O lançamento do ChatGPT há dois anos foi nada menos que um divisor de águas na pesquisa em IA. A IA centrada no consumidor deu um novo significado e levou as empresas a explorar como poderiam aproveitar a GPT ou modelos semelhantes nos seus respectivos casos de negócios. Avançando para 2024: existe um ecossistema próspero de modelos de linguagem que startups ágeis e grandes empresas estão a utilizar em conjunto com abordagens como a geração de aquisição aumentada (RAG) para copilotos internos e sistemas de descoberta de conhecimento.

Os casos de uso cresceram muito, assim como o investimento em iniciativas de IA de nível empresarial. Afinal, espera-se que a tecnologia acrescente US$ 2,6 trilhões a US$ 4,4 trilhões anualmente na economia global. Mas o problema é o seguinte: o que vimos até agora é apenas a primeira onda da geração AI.

Nos últimos meses, várias startups e grandes organizações – como Salesforce e SAP – começaram a passar para a próxima fase dos chamados “sistemas de agentes”. Esses agentes transformam a IA empresarial de um sistema rápido capaz de aproveitar o conhecimento interno (via RAG) para responder a questões críticas de negócios em uma entidade autônoma e orientada para tarefas. Eles podem tomar decisões com base em uma determinada situação ou conjunto de instruções, criar um plano de ação passo a passo e, em seguida, executar esse plano em ambientes digitais dinamicamente usando ferramentas online, APIs, etc.

A mudança para agentes de IA representa uma grande mudança em relação à automação como a conhecemos e pode facilmente fornecer às empresas um exército de assistentes virtuais prontos para uso que podem lidar com tarefas – seja reservar um ingresso ou mover dados de um banco de dados para outro – e economizar uma quantidade significativa de tempo. Estimativas do Gartner que até 2028, 33% das aplicações de software empresarial incluirão agentes de IA, contra menos de 1% hoje, permitindo que 15% das decisões de trabalho diárias sejam tomadas de forma autónoma.

Mas se os agentes de IA estão no caminho certo para se tornarem tão importantes? Como uma empresa os integra em sua pilha de tecnologia sem comprometer a precisão? Ninguém quer um sistema baseado em IA que não consiga entender as nuances de um negócio (ou de um domínio específico) e acabe tomando medidas erradas.

A resposta, como Google Nuvem O vice-presidente e gerente geral de análise de dados, Gerrit Kazmaier, diz que tudo se resume a uma estratégia de dados cuidadosamente elaborada.

“O pipeline de dados deve evoluir de um sistema de armazenamento e processamento de dados para um ‘sistema de criação de conhecimento e compreensão’. Isso requer uma mudança de foco da simples coleta de dados para o gerenciamento, enriquecimento e organização de uma forma que permita que os LLMs funcionem como parceiros de negócios confiáveis ​​e inteligentes”, disse Kazmaier à VentureBeat.

Construindo um pipeline de dados para agentes de IA

Historicamente, as empresas confiaram fortemente em dados estruturados – organizados em forma de tabelas – para análise e tomada de decisões. Eram os 10% prontamente disponíveis dos dados reais que eles tinham. Os 90% restantes eram “obscuros” armazenados em silos em vários formatos, como PDFs e vídeos. No entanto, quando a IA começou a funcionar, estes dados não utilizados e não estruturados tornaram-se imediatamente uma reserva de valor, permitindo às organizações explorar uma variedade de casos de utilização, incluindo aplicações generativas de IA, como chatbots e motores de busca.

A maioria das organizações hoje já possui pelo menos uma plataforma de dados (muitas com recursos de banco de dados vetoriais) que coleta todos os dados estruturados e não estruturados em um só lugar para potencializar aplicativos downstream. A ascensão de agentes de inteligência artificial alimentados por LLM adiciona outra aplicação a este ecossistema.

Então, basicamente, muitas coisas permanecem inalteradas. As equipes não precisam construir sua pilha de dados do zero, mas personalizá-la concentrando-se em determinados elementos-chave para garantir que os agentes que desenvolvem entendam as nuances de seu setor de negócios, os relacionamentos complexos dentro de seus conjuntos de dados e a linguagem semântica específica. suas operações.

Segundo Kazmaier, a maneira ideal de fazer isso é entender que os dados, os modelos de IA e o valor que eles fornecem (agentes) fazem parte da mesma cadeia de valor e precisam ser construídos de forma holística. Isso significa ir para uma plataforma unificada que reúna todos os dados – de texto e imagens a áudio e vídeo – em um só lugar e tenha uma camada semântica usando gráficos de conhecimento dinâmicos para capturar relacionamentos em evolução, para capturar métricas/lógicas de negócios relevantes necessárias para construir agentes inteligências artificiais que entendem contextos específicos da organização e do domínio para executar ações.

“Uma camada semântica robusta é crucial para construir agentes de IA verdadeiramente inteligentes. É como dar a esses agentes um dicionário e um thesaurus que lhes permite compreender não apenas os dados em si, mas também o significado e as relações por trás deles… Trazendo essa camada semântica diretamente para a nuvem de dados, como fazemos com LookML e BigQuery, pode ser uma virada de jogo”, explicou.

Embora as organizações possam usar abordagens manuais para gerar semântica de negócios e criar esta camada chave de inteligência, Gerrit observa que este processo pode ser facilmente automatizado com IA.

“É aqui que a mágica realmente acontece. Ao combinar essa semântica rica com a forma como uma empresa usa seus dados e outros sinais de contexto em um gráfico de conhecimento dinâmico, podemos criar uma rede inteligente continuamente adaptável e ágil. É como uma base de conhecimento viva que evolui em tempo real, alimentando novas aplicações baseadas em IA e desbloqueando níveis sem precedentes de conhecimento e automação”, explicou.

Mas treinar LLMs que capacitam agentes na camada semântica (aprendizagem contextual) é apenas uma peça do quebra-cabeça. Um agente de IA também deve compreender como as coisas realmente funcionam no ambiente digital relevante e abranger aspectos que nem sempre são documentados ou capturados em dados. É aqui que a construção de observabilidade e fortes ciclos de reforço são úteis, de acordo com Gevorg Karapetyan, CTO e cofundador de uma startup de agentes de IA. Hércules IA.

Falamos com VentureBeat em WCIT 2024Karapetyan disse que está usando exatamente essa abordagem para cobrir a última milha com agentes de IA para seus clientes.

“Primeiro, fazemos ajustes contextuais com base em dados personalizados do cliente e dados sintéticos para que o agente tenha uma base de conhecimento geral e de domínio. Então, com base em como ele começa a funcionar e como interage com o ambiente (dados históricos), melhoramos ainda mais. Eles aprendem a lidar com condições dinâmicas em vez de um mundo perfeito”, explicou.

A qualidade dos dados, a governação e a segurança continuam a ser igualmente importantes

Com uma camada semântica e um ciclo de reforço baseado em dados históricos, as organizações podem potencializar poderosos sistemas de IA baseados em agentes. No entanto, é importante observar que criar uma pilha de dados dessa forma não significa banalizar as melhores práticas usuais.

Isto significa essencialmente que a plataforma utilizada deve receber e processar dados em tempo real de todas as fontes principais (permitindo que os agentes se adaptem, aprendam e ajam em tempo real), ter sistemas implementados para garantir a qualidade/riqueza dos dados. e depois ter uma política robusta de acesso, governança e segurança para garantir o uso responsável dos agentes.

“A governação, o controlo de acesso e a qualidade dos dados estão a tornar-se mais importantes na era dos agentes de IA. Ferramentas para determinar quais serviços têm acesso a quais dados estão se tornando um método para garantir que os sistemas de IA se comportem de acordo com as regras de privacidade. A qualidade dos dados, por sua vez, determina quão bem (ou quão mal) um agente pode executar uma tarefa”, disse Naveen Rao, vice-presidente de inteligência artificial. Blocos de dadosele disse ao VentureBeat.

Ele disse que qualquer lapso nessas frentes poderia ser “catastrófico” tanto para a reputação da empresa quanto para seus clientes finais.

“Nenhum agente, independentemente da qualidade ou dos resultados impressionantes, deve ver a luz do dia, a menos que os desenvolvedores confiem que apenas as pessoas certas terão acesso às informações/capacidades de IA certas. É por isso que começamos com a camada de gerenciamento com o Catálogo Unity e construímos nossa pilha de IA em cima disso”, destacou Rao.

O Google Cloud, por sua vez, usa IA para lidar com parte do trabalho manual necessário para os feeds de dados. Por exemplo, a empresa utiliza agentes de dados inteligentes para ajudar as equipas a descobrir, limpar e preparar rapidamente os seus dados para IA, quebrar silos de dados e garantir qualidade e consistência.

“Ao incorporar a IA diretamente na infraestrutura de dados, podemos permitir que as empresas liberem o verdadeiro potencial da IA ​​generativa e acelerem a inovação de dados”, disse Kazmaier.

Isto significa que, embora a ascensão dos agentes de IA represente uma mudança transformacional na forma como as empresas podem utilizar a automação e a inteligência para agilizar as operações, o sucesso destes projetos dependerá diretamente de uma pilha de dados bem concebida. À medida que as organizações evoluem as suas estratégias de dados, aquelas que dão prioridade à integração perfeita da camada semântica com um foco específico na qualidade, disponibilidade, governação e segurança dos dados estão mais bem posicionadas para desbloquear todo o potencial dos agentes de IA e liderar a próxima onda de inovação empresarial.

A longo prazo, espera-se que estes esforços, combinados com os avanços nos modelos linguísticos subjacentes, signifiquem quase Crescimento de 45% para o mercado de agentes de IA, passando de US$ 5,1 bilhões em 2024 para US$ 47,1 bilhões em 2030.