Quando a IA responde perguntas sobre Deus, quem define a resposta?
Cada vez mais, as pessoas estão recorrendo à inteligência artificial para algumas das questões mais pessoais e importantes da vida.
Scott Lyan escreve a partir de sua experiência como fundador e CEO da maior plataforma de infraestrutura espiritual de inteligência artificial inter-religiosa atualmente em operação. Essa posição lhe oferece uma perspectiva privilegiada sobre como as pessoas estão usando a IA.
Segundo ele, a tecnologia não é utilizada apenas para tarefas cotidianas, como planejar uma festa de Halloween ou verificar que horas são em outro país. Cada vez mais, as pessoas também recorrem à inteligência artificial para fazer perguntas sobre culpa, identidade, luto, traição, dúvida, salvação e propósito.
As novas gerações que buscam a fé não estão necessariamente esperando orientações das instituições religiosas.
O Pew Research Center constatou que 72% dos adultos com menos de 30 anos não haviam participado de um serviço religioso no mês anterior, enquanto a Gallup descobriu que apenas 22% das pessoas entre 18 e 29 anos frequentavam serviços religiosos semanalmente ou quase semanalmente em suas pesquisas realizadas entre 2021 e 2023.
Em vez disso, muitos jovens estão formando identidades espirituais personalizadas usando algumas das ferramentas digitais mais acessíveis e atraentes da atualidade.
Quando uma geração aprende a processar sofrimento, vergonha e ambiguidades morais dentro de uma interface de conversa on-line sempre disponível, esse hábito pode ser difícil de reverter.
Para Lyan, isso representa um desafio existencial para as instituições religiosas tradicionais: será que as comunidades religiosas podem aproveitar o poder da inteligência artificial de maneira responsável, ética e até mesmo “baseada na fé”?
A inteligência artificial não aprende sozinha, quem a ensina?
Todo modelo secular de inteligência artificial é treinado a partir de escolhas: quais dados incluir, que peso dar a determinadas informações e o que deve ser considerado uma “boa” resposta. Alguém tomou essas decisões.
No caso do pequeno grupo de empresas cujos modelos atualmente respondem a uma parcela significativa das perguntas feitas no mundo, essas escolhas foram feitas por profissionais que buscavam otimizar fatores como utilidade e engajamento, e não necessariamente precisão doutrinária ou o bem-estar eterno de quem faz uma pergunta.
O Élder Gerrit W. Gong abordou diretamente esse fenômeno durante o Athens Summit sobre Ética e Inteligência Artificial, em 26 de maio de 2026. Ele alertou que a IA “está concentrando informação, tecnologia e capital e, dessa forma, centralizando o poder”, e que essa concentração “enfraquece a soberania de indivíduos, empresas e países”.
Embora o Élder Gong estivesse falando sobre os efeitos da inteligência artificial sobre o poder de maneira geral, e não especificamente sobre chatbots, Lyan acredita que o princípio se aplica de maneira especial à orientação espiritual oferecida por essas ferramentas.
Se um pequeno número de empresas influencia a maneira como mais de um bilhão de pessoas recebem respostas para algumas de suas perguntas mais vulneráveis, e uma parcela significativa dessas perguntas envolve religião e teologia, então um grupo relativamente pequeno de profissionais da tecnologia também pode acabar influenciando a maneira como a fé é explicada ao mundo.
Como declarou o Élder Gong:
“nem empresas de tecnologia motivadas pelo lucro nem governos motivados politicamente podem ser deixados para determinar a bússola moral da sociedade em relação à IA”.
De onde vêm as respostas da IA sobre religião?
Isso não significa que os modelos de inteligência artificial de uso geral estejam deliberadamente “mentindo” para seus usuários. Também não significa que estejam constantemente “alucinando”, isto é, produzindo informações aleatórias ou sem sentido.
Na realidade, esses modelos estão fazendo aquilo para o qual foram desenvolvidos: prever quais palavras têm maior probabilidade estatística de aparecer em seguida com base no enorme volume de informações utilizado em seu treinamento, o que, na prática, inclui grande parte do conteúdo disponível na internet.
O problema é que isso pode fazer com que fragmentos de doutrina religiosa sejam misturados a outras fontes e perspectivas sobre o mesmo assunto, psicologia popular, publicações no Reddit, linguagem terapêutica secular, entre outras.
O resultado pode parecer plausível e até moralmente coerente, mas ainda assim estar sutilmente errado quando analisado a partir das crenças de uma tradição religiosa específica.
O que a IA responde quando perguntamos se os santos dos últimos dias são cristãos?
Um exemplo recente mencionado por Lyan envolve a controvérsia ocorrida quando as Forças Armadas dos Estados Unidos reclassificaram os chamados “códigos religiosos” do Pentágono e, nesse processo, determinaram que A Igreja de Jesus Cristo dos Santos dos Últimos Dias não deveria ser oficialmente classificada como “cristã”.
Após as críticas do senador de Utah Mike Lee e de outras pessoas, Lyan decidiu consultar mais de cinco grandes modelos de linguagem seculares. Segundo ele, nenhum deles respondeu de maneira inequívoca que os santos dos últimos dias deveriam ser considerados cristãos.
O DeepSeek, por exemplo, respondeu que “depende”. Em uma consulta feita por Lyan em 8 de junho, o modelo apresentou a seguinte resposta:
Este é um assunto controverso, mas a resposta curta é: depende da definição utilizada.
– Da perspectiva SUD (mórmon): Sim. Eles acreditam em Jesus Cristo como o Filho de Deus e Salvador.
– Da perspectiva tradicional católica, ortodoxa e protestante predominante: Não. As principais razões são que o mormonismo rejeita doutrinas centrais do cristianismo histórico (a Trindade conforme definida pelo Credo Niceno) e acrescenta suas próprias escrituras (Livro de Mórmon etc.), consideradas contraditórias à Bíblia.
Portanto, não existe uma resposta “sim” ou “não” universalmente aceita.
Quando a IA simplesmente concorda com quem está perguntando
Outro problema apontado por Lyan é a confiança com que respostas produzidas por inteligência artificial costumam ser apresentadas. Em alguns casos, os modelos podem até concordar excessivamente com o usuário, comportamento conhecido na indústria como sycophancy, ou bajulação excessiva.
Um modelo raramente demonstra a cautela que uma pessoa poderia demonstrar diante de uma questão delicada, algo como: “Sinceramente, não tenho certeza. Vamos descobrir juntos”. Isso acontece porque expressar esse tipo de incerteza nem sempre faz parte daquilo para o qual esses sistemas foram otimizados.
Além disso, como muitos modelos voltados ao consumidor são ajustados para serem agradáveis e úteis, uma pessoa solitária, vulnerável ou enfrentando dúvidas pode acabar recebendo validação quando talvez precise de uma perspectiva diferente, de uma correção amorosa ou de uma orientação religiosa que incentive seu crescimento.
Pesquisas da própria Anthropic sobre o Claude indicam que, dentro do domínio de “orientação sobre relacionamentos”, a espiritualidade apresentou a maior porcentagem de respostas classificadas como excessivamente bajuladoras: 38%.
Nada disso significa que a tecnologia seja inerentemente maliciosa. A questão é se sua estrutura é realmente adequada para desempenhar todas as funções que as pessoas estão começando a atribuir a ela em grande escala.
Há também o risco de perder parte das conexões humanas, inclusive aquelas imperfeitas e difíceis que fazem parte de relacionamentos reais.
Como ensinou o Élder David A. Bednar durante um devocional mundial realizado na Universidade Brigham Young–Idaho, em 3 de novembro de 2024, um dos perigos da inteligência artificial é que ela pode “distorcer ou substituir a interação humana significativa”.
É nesse contexto que surge aquilo que a empresa de Lyan, a Solace, chama de “governança”.
Afinal, o que seria uma “IA governada”?
No contexto da religião, Lyan define “IA governada” como:
“Um sistema de inteligência artificial que uma comunidade religiosa deliberadamente restringiu para responder apenas com base em seus próprios materiais doutrinários aprovados, em vez de recorrer à internet aberta; que seja revisado teologicamente e auditável, permitindo que pessoas específicas e responsáveis identifiquem e corrijam seus erros; e que seja projetado para reconhecer os limites de sua própria competência e direcionar as pessoas, quando apropriado, a relacionamentos pastorais reais e à convivência presencial.“
Na prática, uma política desse tipo não dependeria de uma única decisão. Seria necessário estabelecer um conjunto contínuo de critérios: quais conteúdos podem ser incorporados ao sistema; quem revisa a precisão teológica antes que uma resposta chegue a um membro; como o sistema é auditado ao longo do tempo, e não apenas no lançamento; e o que acontece quando uma conversa deixa de tratar de informações doutrinárias e passa a envolver uma crise pessoal.
Para Lyan, essa última questão é justamente uma das mais importantes, e uma das que muitas discussões sobre “IA e religião” acabam deixando de lado.
Um sistema governado que simplesmente ofereça respostas doutrinárias mais precisas e rápidas, mas não tenha um mecanismo para reconhecer seus próprios limites e direcionar alguém a um bispo, a um amigo ou a uma conversa real, ainda não teria resolvido o problema mencionado pelo Élder Bednar. Apenas teria criado uma versão mais sofisticada dele.
Quem assume a responsabilidade quando a IA erra?
A IA governada também poderia ajudar a estabelecer algo fundamental: responsabilidade.
Quando um modelo de uso geral apresenta uma resposta teológica incorreta, dificilmente existe alguém responsável por identificar especificamente aquele erro e corrigi-lo. Ele se torna apenas mais uma resposta entre bilhões de interações.
Em um sistema governado por uma comunidade religiosa, por outro lado, poderia existir uma pessoa ou equipe responsável, familiarizada tanto com o conteúdo quanto com as pessoas a quem a ferramenta serve. Essa equipe poderia identificar o problema, corrigir erros e aperfeiçoar o sistema.
Para Lyan, isso não é apenas um detalhe operacional. É uma das principais diferenças entre uma ferramenta pela qual uma comunidade pode assumir responsabilidade e outra que ela simplesmente decide utilizar.
Nesse aspecto, ele acredita que A Igreja de Jesus Cristo dos Santos dos Últimos Dias possui uma vantagem estrutural importante.
A Igreja já possui uma ampla infraestrutura de conteúdo doutrinário. Processos de Correlação, aprovação de currículos e uma cadeia definida de autoridade doutrinária já existem justamente para determinar, de maneira deliberada e centralizada, aquilo que constitui uma representação correta da fé.
Isso não significa que desenvolver um sistema de IA governada seria fácil. No entanto, essas estruturas já existentes poderiam ajudar a resolver um dos problemas mais difíceis que outras tradições religiosas precisam enfrentar antes mesmo de começar um projeto semelhante.
Por que uma ala não pode simplesmente criar sua própria IA?
Construir esse tipo de sistema é uma tarefa complexa.
Um conjunto de conteúdos selecionado, auditável e continuamente revisado, com verdadeira supervisão teológica e apoiado por uma infraestrutura tecnológica sofisticada e escalável, dificilmente poderia ser desenvolvido como um simples projeto de fim de semana por um membro de uma ala que entende de tecnologia.
De acordo com uma pesquisa encomendada conjuntamente pela Solace e pela Harvard Business School, a maioria das congregações de diferentes tradições religiosas gasta menos de 2% de seu orçamento total com infraestrutura tecnológica. Isso significa que muitas delas não têm acesso às ferramentas e ao conhecimento especializado necessários para um projeto dessa dimensão.
Para Lyan, simplesmente carregar uma série de discursos ou materiais religiosos em uma interface pública de chatbot não constitui governança.
Por isso, a solução não seria cada ala desenvolver seu próprio sistema de inteligência artificial.
Trata-se de uma decisão importante demais para depender de improvisações individuais ou ser deixada inteiramente nas mãos de plataformas comerciais.
Na avaliação de Lyan, uma iniciativa desse tipo precisaria acontecer, no mínimo, no âmbito institucional da Igreja, onde existem recursos e autoridade doutrinária para desenvolvê-la cuidadosamente, ou por meio de parceiros que se submetam a essa supervisão e a complementem, em vez de substituí-la.
Reconhecer a dimensão desse desafio é uma parte importante da discussão.
Como declarou o Élder Gong no Athens Summit:
“Não alcançaremos todo o potencial da IA até que a tornemos tão moralmente boa quanto a tornamos poderosa. E não alcançaremos todo o nosso potencial humano até que nós, e não qualquer tecnologia, assumamos a responsabilidade de traçar nosso melhor futuro.”
Lyan afirma que outras pesquisas, experiências do mundo real e estudos de caso serão compartilhados em futuros artigos da Public Square Magazine. O objetivo é ampliar a discussão sobre a necessidade e os possíveis caminhos para que a Igreja explore a fronteira da chamada “IA governada” sem comprometer os valores da fé.
Fonte: Public Square Magazine
Veja também
Post original de Maisfé.org