2/ Agentes entendem o contexto
“Claude precisa aprender o suficiente sobre sua situação e restrições específicas para ser útil. Coisas como qual função específica você desempenha, quais estilos de escrita ou quais necessidades você e sua organização têm.
ANTRÓPICO
“Acho que veremos melhorias onde Claude poderá pesquisar coisas como seus documentos, seu Slack, etc. e realmente aprender o que é útil para você. Isso tem sido um pouco subestimado pelos agentes. É necessário que os sistemas não sejam apenas útil, mas também seguro, fazendo o que você esperava.
“A outra coisa é que muitas das tarefas não exigem que Claude faça muito raciocínio. Você não precisa sentar e pensar por horas antes de abrir o Google Docs ou algo assim. E então acho que muito do que estamos vendo não é apenas raciocínio, mas aplicação do raciocínio quando é realmente útil e importante, mas também não perda de tempo quando não é necessário.
3/ Os agentes tornam os assistentes de codificação melhores
“Queríamos dar aos desenvolvedores uma versão beta inicial do uso do computador para obter feedback quando o sistema era relativamente primitivo. Mas à medida que esses sistemas melhoram, eles podem se tornar mais amplamente usados e podem realmente funcionar com você em diferentes atividades.
“Acho que a DoorDash, a empresa de navegadores, e o Canva estão experimentando diferentes interações de navegador e projetando-as com IA.
“Espero ver mais melhorias nos assistentes de codificação também. Isso tem sido muito emocionante para os desenvolvedores. O interesse em usar o Claude 3.5 para codificação é simplesmente alto porque não é apenas preenchimento automático como era há alguns anos. Na verdade, trata-se de entender o código, depurá-lo – executar o código, ver o que acontece e corrigi-lo.
4/ Os agentes devem estar seguros
“Fundamos a Anthropic porque previmos que a IA evoluiria muito rapidamente e (pensamos) que inevitavelmente as questões de segurança seriam importantes. E acho que isso vai se tornar cada vez mais visceral este ano porque acho que esses agentes vão se tornar cada vez mais integrados ao nosso trabalho. Devemos estar prontos para desafios como uma injeção rápida.
(Uma injeção de prompt é um ataque no qual um prompt malicioso é entregue a um modelo de linguagem grande de uma forma que não foi prevista ou pretendida por seus desenvolvedores. Uma maneira de fazer isso é adicionar o prompt aos sites que os modelos podem visitar. )
