Um aplicativo de mensagens anônimas comercializado para crianças e adolescentes: o que poderia dar errado? Muitos, alegam a FTC e o Ministério Público de Los Angeles. Uma reclamação contra o NGL Labs e os fundadores Raj Vir e João Figueiredo alega violações da Lei FTC, da Regra de Proteção à Privacidade Online das Crianças (COPPA), da Lei de Restauração da Confiança dos Compradores Online (ROSCA) e do Código de Negócios e Profissões da Califórnia. A empresa também fez alegações relacionadas à IA que as reclamações desafiam como enganosas. O acordo financeiro de US$ 5 milhões merece sua atenção, mas é a proibição permanente da comercialização de aplicativos de mensagens anônimas para crianças ou adolescentes que é particularmente notável.
Entre os produtos mais baixados nas lojas de aplicativos, o aplicativo NGL é nomeado devido à abreviação de texto para “Not Gonna Lie”, mas com base nas alegações da reclamação, poderia significar “Not Gonna be Legal”. O aplicativo pretende permitir que os usuários recebam mensagens anônimas de amigos e contatos de redes sociais. Os réus apresentaram-no expressamente como um “lugar divertido mas seguro” para “os jovens” “partilharem os seus sentimentos sem julgamento de amigos ou pressões sociais”. Para os pais cautelosos com o uso de um aplicativo de mensagens anônimas por seus filhos, os réus amenizaram suas preocupações elogiando a “moderação de conteúdo de IA de classe mundial” que lhes permitiu “filtrar linguagem prejudicial e bullying”. Os consumidores que baixaram o aplicativo foram solicitados a criar uma conta que coletasse uma quantidade substancial de informações pessoais, mas a NGL não perguntou quantos anos eles tinham e não usou qualquer forma de triagem de idade.
Você vai querer ler a reclamação para obter detalhes, mas em termos gerais, os usuários do aplicativo podem postar avisos pré-gerados em suas contas de mídia social, como “Envie-me uma frase de retirada e direi se funcionou” ou “Compartilhe um opinião que fará com que você seja cancelado”, o que permitiu que os espectadores das solicitações escrevessem uma mensagem anônima em resposta. Além disso, muitos usuários receberam mensagens anônimas como “você é hétero?” “Eu tenho uma queda por você há anos e você ainda não sabe, lmao” e “você diria sim se eu te convidasse para sair – A.” Quando um destinatário abria a mensagem, aparecia um botão convidando a pessoa a descobrir “Quem enviou isto?” com uma assinatura paga do NGL Pro. Ansiosos para saber a identidade do remetente, muitos destinatários clicaram nesse botão.
Esse é o breve resumo do que a NGL disse aos usuários e pais, mas uma análise mais detalhada da reclamação de seis acusações revela o que a FTC e o Gabinete do Promotor de Justiça de Los Angeles dizem que realmente estava acontecendo nos bastidores.
A FTC contesta o marketing dos réus de seu aplicativo de mensagens anônimas para crianças e adolescentes como uma prática injusta. De acordo com a denúncia, o réu Figueiredo exortou os funcionários a fazerem com que “crianças populares postem e que seus amigos postem” e observou que “a melhor maneira é entrar em contato” no Instagram “encontrando garotas populares nas páginas de torcida do ensino médio”. ” Como observou outro executivo da NGL: “Precisamos de alunos do ensino médio e não de 20 e poucos anos”. Mas para qualquer pai de adolescente – ou qualquer pessoa que já tenha sido adolescente – as consequências inevitáveis de um aplicativo de mensagens anônimas direcionado a adolescentes não seriam difíceis de prever. Como disse um diretor assistente de uma escola secundária aos réus, os alunos usavam o aplicativo para enviar “conteúdo ameaçador” e “sexualmente explícito” que estava “afetando significativamente a saúde mental e o bem-estar de nossos alunos”. De acordo com a denúncia, a NGL recebeu inúmeras denúncias de cyberbullying, assédio e automutilação, mas optou por não alterar sua estratégia de marketing ou a forma como seu produto funcionava.
Além disso, a FTC e o Gabinete do Procurador de Los Angeles alegam que os réus usaram várias declarações falsas para promover seu aplicativo. Por exemplo, muitas das mensagens anônimas que os usuários ouviram vieram de pessoas que eles conheciam – por exemplo, “um de seus amigos está escondendo algo de você” – eram na verdade falsas enviadas pela própria empresa em um esforço para induzir vendas adicionais da assinatura NGL Pro para pessoas ansiosas por saber a identidade de quem enviou a mensagem. Mas mesmo depois de receber inúmeras reclamações descrevendo as mensagens anônimas como “invasivas”, “indutoras de ansiedade” e “odiosas”, a resposta interna da NGL foi nada menos que alegre. A denúncia cita o seguinte comentário do réu Figueiredo: “Essas pessoas viciadas. . . há pessoas compartilhando o (link do aplicativo NGL) TODOS os dias e tudo o que recebem são perguntas falsas 😂.”
A FTC e o Gabinete do Procurador de Los Angeles afirmam que a promessa da NGL aos pais de proteger as crianças através do uso de “moderação de conteúdo de IA de classe mundial” também se revelou enganosa. De acordo com a denúncia, a tão alardeada IA da empresa muitas vezes falhava em filtrar linguagem prejudicial e bullying. Não deveria ser necessária inteligência artificial para prever que adolescentes escondidos atrás do manto do anonimato enviariam mensagens como “Você é feio”, “Você é um perdedor”, “Você é gordo” e “Todo mundo te odeia”. Mas um meio de comunicação informou que o aplicativo não conseguiu filtrar mensagens prejudiciais (e muito previsíveis) desse tipo.
Além do mais, mesmo que os usuários atualizassem para o NGL Pro, eles ainda não seriam informados de quem enviou a mensagem, o que também tornaria essa afirmação enganosa. Mas esse não foi o único problema com as práticas dos réus. Segundo a denúncia, os consumidores que clicaram no link “Quem enviou isso?” button não foram informados claramente de que esta era uma opção negativa recorrente – não uma compra única – e que os réus cobrariam US$ 9,99 (e posteriormente US$ 6,99) por semana para NGL Pro.
Os réus estavam bem cientes das reclamações dos consumidores sobre cobranças inesperadas e a ineficácia do “Quem enviou isto?” recurso. Até a Apple alertou os réus de que seu produto “tenta manipular os clientes para que façam compras indesejadas no aplicativo, não exibindo o valor faturado de forma clara e visível aos usuários”. Como reagiram os réus? Em uma discussão de texto com os réus Vir e Figueiredo, o líder de produto da NGL resumiu sucintamente a reação da empresa às reclamações dos consumidores: “Lol otários”. De acordo com a FTC, o uso pelos réus de uma opção negativa on-line para promover as vendas de seu aplicativo NGL Pro violou a ROSCA, que exige que as empresas que vendem produtos on-line com opções negativas divulguem de forma clara e visível todos os termos materiais da transação antes de obterem o consentimento do consumidor. informações de cobrança e obter o consentimento expresso e informado do consumidor antes de efetuar a cobrança.
A FTC também afirma que a empresa coletou e armazenou indefinidamente dados pessoais dos usuários, incluindo nomes de usuário e fotos de perfil do Instagram e Snapchat, informações sobre sua localização e histórico de navegação. A ação alega que os réus violaram o Regra COP ao não avisar adequadamente os pais, ao não obter o consentimento verificável dos pais e ao não fornecer uma maneira razoável para os pais interromperem o uso ou excluirem os dados de crianças menores de 13 anos.
A denúncia também alega múltiplas violações das leis de proteção ao consumidor da Califórnia.
O acordo proposto inclui uma solução financeira de US$ 5 milhões – US$ 4,5 milhões para reparação do consumidor e uma multa civil de US$ 500.000 para o escritório do promotor de Los Angeles. Mas o mais importante é que a ordem proíbe os réus de oferecerem aplicações de mensagens anónimas a menores de 18 anos. Para sempre.
Entre outras coisas, o acordo exige que os réus implementem uma restrição de idade para impedir que usuários atuais e futuros menores de 18 anos acessem o aplicativo e determina a destruição de uma quantidade substancial de informações de usuários em posse dos réus. Além disso, os réus devem obter o consentimento expresso e informado dos consumidores antes de cobrar qualquer assinatura de opção negativa, devem fornecer um mecanismo simples para cancelar essas assinaturas e devem enviar lembretes aos consumidores sobre cobranças de opções negativas.
Que orientação outras empresas podem tirar do acordo?
A FTC usará todas as suas ferramentas para proteger ambas as crianças e adolescentes. Certamente COPPA é (e continuará a ser) uma ferramenta importante para proteger as crianças com menos de 13 anos e para garantir que os pais – e não as empresas tecnológicas – permanecem no controlo das informações pessoais das crianças. Mas esta acção também reforça a preocupação da FTC sobre as práticas de informação que representam um risco para a saúde física e mental dos adolescentes.
Não elogie o uso de ferramentas de IA pela sua empresa se você não puder respaldar suas afirmações com provas sólidas. O infelizmente chamado “Centro de Segurança” dos réus antecipou com precisão as apreensões que pais e educadores teriam sobre o aplicativo e tentou assegurá-los com promessas de que a IA resolveria o problema. Muitas empresas estão explorando o burburinho da IA do dia fazendo afirmações falsas ou enganosas sobre o suposto uso de inteligência artificial. As afirmações relacionadas à IA não são exageradas. São representações objetivas sujeitas à doutrina de fundamentação de longa data da FTC.
Não há nada “digno de LOL” nas violações da ROSCA. Durante décadas, a FTC usou a Lei FTC e a Lei de Restauração da Confiança dos Compradores Online para lutar contra opções negativas ilegais. De acordo com a denúncia, os réus atraíram os adolescentes com perguntas anônimas como “você diria sim se eu te convidasse para sair” e depois os apresentaram com aquele difícil de resistir “Quem enviou isso?” botão sem explicar claramente que a empresa os estava inscrevendo em uma assinatura de opção negativa e cobrando todas as semanas. O fato de os réus terem usado essa tática ilegal de isca e troca contra adolescentes e depois terem rido disso acrescenta um insulto descarado ao prejuízo financeiro que infligiram.
