Como os LLMs de código aberto estão revolucionando a segurança cibernética em grande escala

Os grandes modelos de linguagem (LLMs) de código aberto continuam a revolucionar o cenário da segurança cibernética, servindo como um forte catalisador para aumentar a inovação e permitir que startups e fornecedores estabelecidos acelerem o tempo de colocação no mercado.

Desde novas aplicações generativas de IA até ferramentas de segurança avançadas, estes modelos estão a comprovar a base do futuro da segurança cibernética baseada na IA. Os modelos de código aberto que ganham força na segurança cibernética incluem LLaMA 2 da Meta. LLaMA 3.2, Falcão do Instituto de Inovação Tecnológica, StableLM da IA ​​de estabilidadee aqueles hospedados por Abraçando o rostoincluindo FLOR da BigScience. Todos estes modelos estão a registar uma adoção e utilização crescentes, em grande parte graças à sua maior relação custo-eficácia, flexibilidade e transparência.

Os fornecedores de software de cibersegurança enfrentam um conjunto crescente de desafios relacionados com a governação e o licenciamento, ao mesmo tempo que permitem que as suas plataformas sejam dimensionadas em resposta à natureza rápida do desenvolvimento de LLM de código aberto. Projetar uma arquitetura que possa se adaptar rapidamente e aproveitar os recursos mais recentes que os LLMs de código aberto mais recentes estão fornecendo é um desafio.

Itamar Sher, CEO e cofundador da Selo de Segurançarecentemente conversou com VentureBeat (virtualmente) para discutir o papel fundamental, porém em evolução, dos LLMs de código aberto em suas operações. “Os LLMs de código aberto nos permitem dimensionar patches de segurança para componentes de código aberto de uma forma que os modelos fechados não conseguem”, disse ele.

A capacidade de dimensionar modelos rapidamente é fundamental para empresas como a Seal, que utilizam componentes de código aberto para garantir a rápida implantação de patches em diferentes ambientes. Ele acrescentou que “os LLMs de código aberto nos dão acesso a uma comunidade que melhora continuamente os modelos, oferecendo uma camada de inteligência e velocidade que não seria possível com sistemas proprietários”.

Importância crescente dos LLMs de código aberto na segurança cibernética

Os fornecedores de segurança cibernética há muito confiam em tornar seus aplicativos, ferramentas e plataformas proprietários para prender os clientes a uma determinada solução, especialmente nas áreas de detecção e mitigação de ameaças. No entanto, VentureBeat está ouvindo que há uma reação intensa contra essa estratégia, o que está acelerando ainda mais a popularidade do LLM de código aberto.

Gartner Ciclo de hype para software de código aberto 2024 reflete a crescente proeminência dos LLMs de código aberto, colocando-os no auge das expectativas inflacionadas. Esta colocação reflete o que a VentureBeat está ouvindo sobre um aumento no interesse e na adoção em todo o cenário de fornecedores de segurança cibernética e nas empresas.

Crédito: Gartner, Inc. (2024, 8 de agosto). Ciclo de hype para software de código aberto, 2024 (ID: G00811366). Gartner, Inc.

O Hype Cycle mostra que a maturidade dos LLMs de código aberto ainda está emergindo, com penetração de mercado entre 5% e 20%. Prevê-se que o patamar desta tecnologia seja alcançado nos próximos dois a cinco anos, enfatizando o seu rápido crescimento e o seu domínio crescente na segurança cibernética.

A VentureBeat está vendo mais startups de segurança cibernética capitalizarem a flexibilidade de personalização e escala dos LLMs de código aberto em suas plataformas, aplicativos e estratégias de ferramentas. Um caso de uso generalizado é o ajuste fino de modelos para atender às necessidades específicas de domínio, desde o aprimoramento da detecção de ameaças em tempo real até o aprimoramento do gerenciamento de vulnerabilidades.

Sher disse: “Ao integrar LLMs de código aberto, podemos personalizar modelos para ameaças e casos de uso específicos, o que nos permite permanecer ágeis e responsivos aos crescentes desafios de segurança cibernética”.

Comparando as vantagens e desafios dos LLMs de código aberto

Os LLMs de código aberto trazem diversas vantagens para o desenvolvimento e operações de sistemas de segurança cibernética, incluindo as seguintes:

Personalização, escala e flexibilidade: Um dos principais motivadores para a adoção de LLMs de código aberto que está se mostrando popular entre as empresas de segurança cibernética que os padronizam é ​​a capacidade de modificar rapidamente os modelos para casos de uso específicos. A integração de LLMs da Seal Security em suas plataformas de segurança, aplicativos, ferramentas e ofertas de serviços ilustra como as empresas podem usar esses modelos para agilizar os processos de gerenciamento de patches em componentes de código aberto. John Morello, CTO e cofundador da Intestinoésim disse à VentureBeat em uma entrevista recente que a natureza de código aberto do BERT do Google O modelo de linguagem de código aberto permite que Gutsy personalize e treine seu modelo para casos de uso de segurança específicos, mantendo a privacidade e a eficiência.

Colaboração comunitária: Os LLMs de código aberto se beneficiam da base em rápido crescimento de comunidades de desenvolvedores que ultrapassam seus limites e se expandem diariamente para resolver desafios complexos de segurança cibernética. Estas comunidades estão a estabelecer um ritmo acelerado quando se trata de inovação contínua, permitindo que empresas, programadores e universidades pesquisem para beneficiarem de conhecimentos e melhorias partilhadas. A Seal Security, por exemplo, alinhou-se com a Autoridade de Numeração CVE (CNA) do MITRE para melhorar a colaboração em torno de vulnerabilidades de código aberto.

Reduzindo o aprisionamento do fornecedor: Os modelos de código aberto oferecem às empresas uma maneira de evitar a dependência de fornecedores, proporcionando-lhes mais controle sobre os custos e reduzindo a dependência de sistemas proprietários. A VentureBeat está vendo esta questão se tornar fundamental para o futuro da segurança cibernética, sendo a flexibilidade o objetivo. Responder rapidamente às ameaças e ter uma abordagem consistente para implantar patches é vital para o futuro da segurança cibernética.

No entanto, esses benefícios não são isentos de desafios. O Gartner observa em sua pesquisa que os LLMs de código aberto geralmente exigem investimentos significativos em infraestrutura, o que pode criar desafios operacionais de longo prazo para empresas que não possuem equipes internas de TI e segurança bem financiadas e equipadas.

As complexidades de licenciamento associadas aos modelos de código aberto também podem apresentar riscos legais e de conformidade. Sher explicou que “os modelos de código aberto nos dão transparência, mas gerenciar seus ciclos de vida e garantir a conformidade ainda é uma grande preocupação”.

As contribuições de segurança cibernética dos LLMs de código aberto estão crescendo

A VentureBeat está vendo os provedores de segurança cibernética adotando LLMs de código aberto como núcleo de suas plataformas, ganhando uma vantagem competitiva com suas melhorias na detecção e resposta a ameaças. A Seal Security conseguiu aproveitar modelos de código aberto para detecção em tempo real e gerenciamento de vulnerabilidades, integrando-os em seus sistemas de patches de segurança. De acordo com Sher, “Nossa infraestrutura foi projetada para alternar rapidamente entre diferentes LLMs, dependendo do cenário de ameaças, garantindo que estejamos à frente das vulnerabilidades emergentes”.

O Gartner prevê que modelos de linguagem pequena ou LLMs de ponta terão maior adoção em aplicações específicas de domínio lideradas pela segurança cibernética. Os Edge LLMs, por definição, são descentralizados mais próximos dos dados que precisam analisar, o que permite um processamento mais rápido e detecção de ameaças em tempo real.

Os Edge LLMs são projetados para exigir menos poder computacional, tornando-os mais gerenciáveis ​​e menos dispendiosos para treinar, o que é ideal para casos de uso de segurança cibernética que exigem velocidade e precisão em tempo real. Ao funcionarem na borda, esses LLMs podem detectar rapidamente ameaças em ambientes onde a latência é crítica, como dispositivos IoT ou sistemas remotos.

Proteção contra ataques à cadeia de fornecimento de software

Apesar do número crescente de contribuições que os LLMs de código aberto estão fazendo, eles também apresentam riscos. Uma preocupação significativa é o número crescente de ataques à cadeia de fornecimento de software. O Hype Cycle for Open-Source Software 2024 da Gartner observa que os componentes de código aberto têm se tornado cada vez mais alvos de ataques patrocinados pelo Estado. A idade média das vulnerabilidades em bases de código de código aberto é de aproximadamente 2,8 anostornando vital que as empresas implementem e mantenham atualizados seus sistemas de gerenciamento e governança de patches.

A recente designação da Seal Security como Autoridade de Numeração CVE (CNA) é essencial para que o fornecedor desempenhe um papel mais crucial na redução dos riscos de ataques à cadeia de abastecimento. A empresa agora pode identificar, documentar e atribuir vulnerabilidades por meio do Programa CVE, contribuindo para melhorar a segurança do código-fonte aberto em todo o setor. Sua parceria com o MITRE aprimora ainda mais essa capacidade, permitindo que a Seal compartilhe suas descobertas com a comunidade mais ampla de segurança cibernética.

Como Sher enfatizou, esta colaboração ajuda a aumentar a segurança para todos que utilizam software de código aberto, reforçando o compromisso da empresa com a proteção do ecossistema global de software.

Olhando para frente

Os LLMs de código aberto estão redefinindo o cenário da segurança cibernética para melhor, reduzindo o aprisionamento herdado de tecnologias e plataformas proprietárias. A VentureBeat está vendo a rapidez com que esses modelos estão avançando em termos de acessibilidade, qualidade e velocidade, tornando-os uma alternativa viável aos sistemas proprietários.

Para empresas como a Seal Security, o futuro reside na evolução contínua das suas capacidades de LLM de código aberto para se manterem à frente do cenário de ameaças em constante mudança. “Estamos constantemente avaliando novos modelos e infraestruturas para garantir que possamos fornecer as melhores soluções de segurança para nossos clientes”, concluiu Sher.