Cético em relação à IA? É normal (e saudável)

Menos assustado. Mais cansado. É aí que muitos de nós residem com IA. No entanto, estou maravilhado com a IA. Apesar da abundância e dos chavões da IA ​​prometendo remodelar a indústria, o intelecto e a forma como vivemos, é vital abordar o ruído e a esperança com um novo entusiasmo que abraça a complexidade. Aquele que incentiva o argumento e sustenta uma boa dose de ceticismo. Operar com uma mentalidade cética é libertador, pragmático, desafia as convenções e nutre o que parece ser um senso de sanidade frequentemente ausente, especialmente se você está inquieto com suposições e rumores intermináveis.

Parece que estamos presos num abismo ou numa batalha de “apresse-se e espere” enquanto monitorizamos as realidades e os benefícios da IA. Sabemos que há um futuro brilhante anunciado e o tamanho do mercado de IA global é estimado em mais de US$ 454 bilhões até o final de 2024, o que é maior do que o PIBs individuais de 180 paísesincluindo Finlândia, Portugal e Nova Zelândia.

Inversamente, porém, um estudo recente prevê que até ao final de 2025, pelo menos 30% dos projetos de IA generativa serão abandonados após a fase de prova de conceito, e noutro relatório “segundo algumas estimativas, mais de 80% dos projetos de IA falham — o dobro da taxa de projetos de TI que não envolvem IA”.

Flor ou boom?

Embora o ceticismo e o pessimismo sejam frequentemente descrições confundidas, eles têm abordagens fundamentalmente diferentes.

O ceticismo envolve investigação, questionamento de afirmações, um desejo por evidências e é tipicamente construtivo, carregado de um foco crítico. O pessimismo tende a limitar as possibilidades, inclui dúvidas (e talvez alarme), talvez antecipando um resultado negativo. Pode ser visto como um estado ou comportamento improdutivo, desagradável e desmotivador – embora se você acredita que o medo vende, bem, ele não irá desaparecer.

Ceticismo, enraizado na investigação filosóficaenvolve questionar a validade das afirmações e buscar evidências antes de aceitá-las como verdade. A palavra grega “skepsis” significa investigação. Para os céticos modernos, o compromisso com a investigação da IA ​​serve como uma ferramenta ideal e de busca da verdade para avaliar riscos e benefícios, garantindo que a inovação seja segura, eficaz e, sim, responsável.

Temos uma compreensão histórica sólida de como a investigação crítica beneficiou a sociedade, apesar de alguns começos muito instáveis:

• As vacinações enfrentaram um forte escrutínio e resistência devido a questões éticas e de segurança, mas a investigação em curso levou a vacinas que salvaram milhões de vidas.
• Os cartões de crédito geraram preocupações sobre privacidade, fraude e incentivo a gastos irresponsáveis. O setor bancário melhorou amplamente a experiência através de testes conduzidos pelos utilizadores, infraestrutura atualizada e concorrência saudável.
• A televisão foi inicialmente criticada por ser uma distração e uma causa potencial de declínio moral. Os críticos duvidaram de seu valor jornalístico e educacional, vendo-o mais como um luxo do que como uma necessidade.
• Os caixas eletrônicos enfrentaram preocupações, incluindo máquinas cometendo erros ou a desconfiança das pessoas na tecnologia que controla seu dinheiro.
• Os smartphones eram duvidosos porque não tinham teclado, tinham recursos limitados, duração da bateria e muito mais, mas foram aliviados por melhorias na interface e na rede, alianças governamentais e novas formas de monetização.

Felizmente, temos protocolos modernos e em evolução que — quando usados ​​de forma diligente (em vez de nunca usá-los) — fornecem uma abordagem equilibrada que não aceita cegamente nem rejeita abertamente a utilidade da IA. Além de estruturas que auxiliam no upstream demanda versus risco na tomada de decisões, temos um conjunto comprovado de ferramentas para avaliar a precisão, o preconceito e garantir o uso ético.

Para ser menos resistente, mais perspicaz e talvez um cético esperançoso e feliz, uma amostra dessas ferramentas menos visíveis inclui:

4 recomendações para permanecer construtivo e cético ao explorar soluções de IA

À medida que continuamos a navegar nesta era de medo e excitação da IA, abraçar abordagens baseadas no cepticismo será fundamental para garantir que as inovações servem os melhores interesses da humanidade. Aqui estão quatro recomendações para ficar atento e praticar amplamente.

1. Exija transparência: Insista em explicações claras sobre tecnologia com usuários ou clientes referenciados. Além de fornecedores externos e contatos industriais/acadêmicos, tenha o mesmo nível de definição de expectativas com equipes internas além do Jurídico e de TI, como compras, RH e vendas.
2. Incentivar a participação popular e que prioriza as pessoas: Muitas iniciativas de cima para baixo falham, pois as metas podem excluir os impactos para os colegas e talvez para a comunidade em geral. Pergunte primeiro: como colegas de equipe não hierárquicos, qual é a nossa abordagem para entender o impacto da IA, em vez de atribuir imediatamente uma lista de força-tarefa e classificar os cinco principais casos de uso.
3. Rastreie (e adote?) rigorosamente as regras de regulamentação, segurança, ética e privacidade: Enquanto a União Europeia está a implementar a sua AGIRe estados como a Califórnia tentam iniciar projetos de lei controversos de regulamentação de IA, independentemente da sua posição, esses regulamentos afetarão suas decisões. Avalie regularmente as implicações éticas destes avanços da IA, priorizando os impactos humanos e sociais em detrimento da escala, do lucro e da promoção.
4. Validar declarações de desempenho: Solicite evidências e realize testes independentes quando possível. Pergunte sobre os métodos de avaliação listados acima. Isto é especialmente verdadeiro quando se trabalha com novas empresas e fornecedores que priorizam a IA.

O ceticismo é nutritivo. Precisamos de métodos para ir além da conversa e da comoção cotidiana. Esteja você com dúvidas desnutridas ou com admiração perspicaz, esta não é uma competição de soma zero. O ganho de um cínico ou pessimista não leva a uma perda equivalente no otimismo dos outros. Estou maravilhado com a IA. Acredito que isso nos ajudará a vencer e as nossas regras para o sucesso baseiam-se num julgamento humilde.

De certa forma, embora com provocação, o ceticismo é uma vulnerabilidade sexy. É uma escolha criteriosa que deve estar presente em todos os manuais dos funcionários para garantir que as novas tecnologias sejam avaliadas de forma responsável e sem alarmes pouco atraentes.

Marc Steven Ramos é diretor de aprendizagem com mais de 20 anos de experiência no Google, Novartis, Oracle, Accenture e Red Hat. Ele é atualmente bolsista do Harvard Learning Innovation Lab.