Papa Leão XIV: Desarmamento de Sistemas de IA e Proibição de Armas Autônomas Letais

O papa Leão XIV defendeu que sistemas de inteligência artificial sejam 'desarmados' e que decisões humanas sobre a vida devam permanecer sob supervisão de pessoas. Em um encontro sobre IA, o líder da Igreja Católica alertou para os riscos de delegar decisões humanas a máquinas e defendeu regras internacionais para orientar o desenvolvimento da tecnologia.

Princípios para Orientar o Desenvolvimento da IA

O pontífice apresentou cinco princípios para orientar o desenvolvimento da inteligência artificial, enfatizando que o futuro da tecnologia depende das escolhas humanas. Ele afirmou que a responsabilidade não pode ser transferida às próprias máquinas. Criticou a possibilidade de conceder direitos ou personalidade jurídica a sistemas de IA, argumentando que isso pode ocultar a responsabilidade humana e deixar as vítimas diante de uma entidade sem rosto.

Decisões Humanas e Supervisão

A posição está alinhada aos princípios apresentados em sua encíclica Magnifica Humanitas, dedicada à proteção da pessoa humana na era da inteligência artificial. O papa citou como exemplos a inclusão de indivíduos em listas de alvos militares ou em bancos de dados de controle de fronteiras, situações em que podem ser reduzidos a simples pontos de informação. Ele afirmou que decisões que afetam a vida humana, a liberdade e o uso da força devem permanecer sempre sujeitas a uma supervisão humana eficaz, informada e responsável.

Proibição de Armas Autônomas Letais

Com base nesse entendimento, o papa incentivou os países que se reunirão em Genebra, em novembro, a tomar medidas concretas para proibir armas autônomas letais. A preocupação também marcou o discurso de seu antecessor, Francisco, durante o encontro do G7 em 2024. Na ocasião, ele classificou a inteligência artificial como uma ferramenta empolgante e assustadora e afirmou que nenhuma máquina deveria ter o poder de decidir tirar a vida de uma pessoa.

Benefícios e Responsabilidades

O pontífice também chamou a atenção para a necessidade de instituições capazes de transformar princípios éticos em medidas concretas. Para isso, defendeu três mecanismos fundamentais: padrões compartilhados internacionalmente para orientar o desenvolvimento da IA; supervisão independente das tecnologias e de suas aplicações; mecanismos de responsabilização, contestação de decisões e reparação por danos.

Conclusão

Leão XIV encerrou o discurso agradecendo aos participantes pelas contribuições ao debate e incentivando a continuidade da cooperação internacional em torno do desenvolvimento responsável da inteligência artificial.