Em particular, o bloqueio “David Mayer” (agora resolvido) levanta outras questões, posou pela primeira vez no reddit no dia 26 de novembro, pois esse nome é compartilhado por diversas pessoas. Usuários do Reddit especularam sobre as conexões David Mayer de Rothschildembora não haja evidências para apoiar essas teorias.
Problemas com filtros codificados
Permitir que um determinado nome ou frase sempre corrompa as saídas do ChatGPT pode causar muitos problemas para determinados usuários do ChatGPT, expondo-os a ataques adversários e limitando a utilidade do sistema.
O engenheiro de escala AI Prompts, Riley Goodside, já descobriu como um invasor pode interromper uma sessão do ChatGPT usando injeção visual rápida do nome “David Mayer” renderizado em uma fonte leve e pouco legível incorporada na imagem. Quando o ChatGPT vê uma imagem (neste caso, uma equação matemática), ele para, mas o usuário pode não entender o porquê.
O filtro também significa que é provável que o ChatGPT não consiga responder perguntas sobre este artigo quando você navegar na web (por exemplo, pesquisando no ChatGPT). Alguém pode usar isso para evitar que o ChatGPT navegue e processe intencionalmente um site se adicionar um nome banido ao texto do site.
E depois há o fator inconveniente. Impedir que o ChatGPT mencione ou processe certos nomes, como “David Mayer”, que provavelmente é um nome popular compartilhado por centenas, senão milhares de pessoas, significa que é muito mais difícil para as pessoas que compartilham esse nome usar o ChatGPT. Ou, por exemplo, se você é professor e tem um aluno chamado David Mayer e deseja ajuda para classificar a lista de turmas, o ChatGPT se recusará a concluir a tarefa.
Ainda é muito cedo para assistentes de IA, LLMs e chatbots. Seu uso abriu inúmeras oportunidades e vulnerabilidades que as pessoas ainda exploram todos os dias. Como a OpenAI pode resolver esses problemas ainda é uma questão em aberto.
