Uma carta aberta recente sobre a consciência da IA que você relata (Os sistemas de IA poderiam “sofrer” se estivessem conscientes, ele diz pesquisas, 3 de fevereiro) enfatiza o verdadeiro problema moral: se criarmos uma inteligência artificial consciente (intencionalmente ou inadvertidamente), teremos o dever de não causá -lo. No entanto, a carta não torna o que é ótimo “se”.
Algumas teorias promissoras da consciência realmente abrem a porta para a consciência da IA. Mas outras teorias igualmente promissoras sugerem que a consciência exige ser um organismo. Embora possamos procurar indicadores de consciência na inteligência artificial, é muito difícil – talvez seja impossível – saber se a IA está realmente ciente ou simplesmente apresenta sinais externos de consciência. Considerando a profundidade desses problemas, a única atitude razoável para aceitar a consciência artificial é agnóstica.
Isso significa que podemos ignorar o problema moral? De jeito nenhum. Se houver uma chance real de desenvolver inteligência artificial consciente, devemos agir com responsabilidade. No entanto, a ação responsável por um território tão incerto é mais fácil do que fazer. . carta aberta Ele recomenda que “as organizações priorizem pesquisas sobre entendimento e avaliação da consciência da inteligência artificial”. Mas os métodos existentes de teste de consciência da IA são altamente questionados, para que eles só possam fornecer resultados controversos.
Embora o objetivo de evitar o sofrimento artificial seja nobre, vale a pena notar como sofremos livremente em muitos organismos. O crescente número de evidências sugere que os camarões podem ser capazes de sofrer, mas a indústria de camarões mata cerca de meio trilhão de camarão a cada ano. Testar a consciência no camarão é difícil, mas não é tão difícil quanto testar a consciência na inteligência artificial. Portanto, embora seja correto assumir nossos deveres possíveis para futuras inteligência artificial, não podemos perder de vista os deveres que já poderíamos ter para nossos primos biológicos.
Dr. Tom McClelland
Filosofia da Ciência, Universidade de Cambridge
Sobre o seu artigo editorial (A visão do Guardian sobre a lei da IA e direitos autorais: a grande tecnologia deve vencer, 31 de janeiro), Concordo que os regulamentos da IA exigem saldo para que todos usemos. No entanto, talvez a ênfase esteja no treinamento dos modelos de IA, e não o suficiente para processar obras criativas dos modelos de IA. Para usar uma metáfora – imagine que eu fotocopinei 100.000 livros, leio -os e, em seguida, poderia combinar frases credíveis sobre tópicos em livros. Aparentemente, eu não devo fotocopi -los, mas não posso reproduzir nenhum conteúdo de nenhum livro, porque é demais lembrar. Na melhor das hipóteses, posso imitar o estilo de alguns autores mais prolíficos. É como o treinamento de IA.
Depois, uso minha nova habilidade para pegar um artigo, parafraseá -lo e apresentá -lo como meu. Além disso, acho que também posso fazer isso com fotos, porque muitos livros foram ilustrados. Dê -me uma foto e eu posso criar mais cinco em um estilo semelhante, mesmo que eu nunca tenha visto uma foto assim antes. Eu posso fazer isso para todo trabalho criativo com o qual encontro, não apenas as coisas em que fui treinado. É como processamento da IA.
O debate atualmente parece se concentrar completamente no treinamento. Isso é compreensível, porque a diferença entre treinamento e processamento pelo modelo é inicialmente treinada não é tão óbvia da perspectiva do usuário. Embora precisemos de um modelo econômico honesto de treinamento de dados – e acho que é moralmente correto que os criadores possam escolher se seu trabalho é usado dessa maneira e receber remuneração – devemos nos concentrar mais no processamento do que no treinamento para proteger a criatividade para proteger a criatividade , para proteger as indústrias de criatividade.
Michael Webb
Diretor da IA, JISC
Escrevemos esta carta em nome de um grupo de membros de alto nível da ONU para a IA. O lançamento do R1 Deepseek, o sistema de IA mais moderno desenvolvido na China, enfatiza a necessidade urgente de gerenciamento global de IA. Embora Deepseek Não é um avanço de inteligência, seu desempenho enfatiza que a inteligência artificial mais moderna não se limita mais a várias empresas. Sua natureza de código aberto, como o Llam e o Mistral de Meta, levanta questões complexas: Embora a transparência apóie a inovação e a supervisão, ele também permite a desinformação da IA, o ataque cibernético e a propaganda de Deepfake.
Os mecanismos de gerenciamento existentes são inadequados. A política nacional, como a Lei da AI da UE ou a estrutura de regulamentação da IA britânica, difere significativamente, criando fragmentação regulatória. Iniciativas unilaterais, como Paris na próxima semana Cúpula de ação da IA Pode não fornecer aplicação abrangente, deixando lacunas para uso inadequado. Uma estrutura internacional sólida é necessária para o desenvolvimento da IA, de acordo com a estabilidade global e os princípios éticos.
Recente ONU Governando a inteligência artificial para a humanidade O relatório enfatiza os perigos da raça IA não regulamentada – aprofundando a desigualdade, fortalecendo os preconceitos e as armas de IA. O risco de IA excede os limites; Abordagens fragmentadas apenas lacunas apertadas. Devemos vincular acordos internacionais que cobrem transparência, responsabilidade, responsabilidade e aplicação. A trajetória da AI deve ser gerenciada por responsabilidade coletiva, não ditada pelas forças do mercado ou pela concorrência geopolítica.
O mundo financeiro já está respondendo à rápida evolução da IA. A perda de mercado da NVIDIA no valor de US $ 600 bilhões após a Deepseek sugere incerteza. No entanto, a história mostra que a eficiência impulsiona a demanda, fortalecendo a necessidade de supervisão. Sem quadros regulatórios globais, a evolução da IA pode ser dominada pelas remoções mais rápidas, não pelos atores mais responsáveis.
Hora de uma administração global decisiva e coordenada é agora – antes das espirais desmarcadas de desempenho no caos. Acreditamos que a ONU continua sendo a melhor esperança de estabelecer uma estrutura unificada que fornece a humanidade, protege a lei e evita a instabilidade antes que o progresso descoberto leve a consequências irreversíveis.
Virgínia
Professor Wallenberg Responsável AI, Universidade UME
Wendy Hall
Regius Professor de Ciência da Computação, Universidade de Southampton
