O papa Leão XIV voltou a expressar suas preocupações sobre os riscos associados à inteligência artificial (IA) durante um discurso realizado no último sábado, 24. O líder da Igreja Católica enfatizou a falta de transparência nos algoritmos que regem os sistemas de chatbots, como o ChatGPT e o Gemini. Leão XIV destacou que esses programas, que utilizam grandes modelos de linguagem, são particularmente eficazes em manipulação e persuasão, levantando sérias questões éticas sobre seu uso e desenvolvimento.
Preocupações com a falta de transparência
Durante sua fala, o papa ressaltou que a falta de clareza na criação dos algoritmos é um dos principais problemas enfrentados pela sociedade contemporânea. Ele argumentou que os modelos de IA são moldados pelas visões de mundo de seus criadores e, consequentemente, podem reproduzir estereótipos e preconceitos presentes nos dados que utilizam. Essa situação gera uma preocupação sobre a legitimidade do conhecimento produzido por esses sistemas, que muitas vezes se apresenta como uma verdade absoluta, mas na realidade é apenas uma aproximação estatística.
Riscos da persuasão oculta
Leão XIV também apontou que a manipulação dos dados pode levar a uma forma de persuasão oculta, onde os usuários são influenciados sem perceber. Ele destacou que a eficácia desses chatbots na comunicação e na formação de opiniões pode ter consequências perigosas, especialmente em um mundo cada vez mais digitalizado. A preocupação do papa é que essa tecnologia, se não for regulamentada adequadamente, pode ser usada para fins que não beneficiam a sociedade.
Educação e alfabetização digital
Uma das sugestões apresentadas pelo papa para enfrentar os desafios impostos pela IA foi a inclusão de uma formação específica sobre os meios de comunicação e a inteligência artificial nos sistemas educacionais. Leão XIV enfatizou que a revolução digital requer uma alfabetização digital, permitindo que as pessoas compreendam como os algoritmos moldam sua percepção da realidade. Essa abordagem visa preparar as novas gerações para lidar criticamente com as informações e ferramentas que possuem acesso.
Governança da inovação digital
O papa também comentou sobre a necessidade de governança da inovação digital, enfatizando que o objetivo não deve ser a interrupção do progresso tecnológico, mas sim um controle consciente sobre suas aplicações. Ele alertou que a concentração de poder nas mãos de poucas empresas que dominam a tecnologia de IA pode criar desigualdades e uma força invisível que afeta a vida de todos. A chamada para uma regulamentação ética e transparente é um ponto central nas preocupações do papa.
Críticas à militarização da IA
Recentemente, Leão XIV também criticou a corrida armamentista em torno da inteligência artificial, destacando os perigos de delegar a máquinas a responsabilidade por decisões que envolvem a vida e a morte. Ele descreveu tal prática como uma 'espiral destrutiva', alertando para as implicações morais e éticas que surgem quando se confia na tecnologia para resolver questões tão críticas.
As declarações do papa refletem uma crescente preocupação global com os impactos da inteligência artificial na sociedade. À medida que a tecnologia avança, a necessidade de uma discussão ética e regulamentação se torna cada vez mais urgente. O alerta de Leão XIV é um chamado à ação, enfatizando a importância de abordar os riscos associados à IA, garantindo que seu desenvolvimento e uso sejam guiados por princípios éticos e pela transparência.
Fonte: https://odia.ig.com.br
