Chatbots e iglesia: razones para reconsiderar la dependencia de la IA

Por Trevor Bachofner

Todos hemos visto el auge de la inteligencia artificial en los últimos años. En muchos sentidos, parece que no podemos escapar de ella. Está presente en las redes sociales, los motores de búsqueda, los servicios de streaming, los sitios web de empresas más “tecnológicas” para asistir con el servicio al cliente y en muchos otros lugares.

No estoy abogando por una eliminación total de toda la IA, ya que hay algunos elementos que la hacen útil. El objetivo de este artículo es comunicar específicamente por qué no creo que los pastores deban usar chatbots de IA.1.¹

Razón #1: Los chatbots de IA erosionan las habilidades de pensamiento crítico.

Cuando usamos consistentemente chatbots de IA como atajos para el estudio, esto reduce significativamente nuestras capacidades cognitivas. El ejemplo más ilustrativo de esto es un estudio del Instituto Tecnológico de Massachusetts. En el estudio, un grupo de 54 personas de entre 18 y 39 años se dividió en tres subgrupos. A cada grupo se le pidió que escribiera ensayos tipo SAT utilizando ChatGPT de OpenAI, el motor de búsqueda de Google o ningún recurso en absoluto.

Durante el proceso, los investigadores utilizaron un EEG para registrar la actividad cerebral en 32 regiones.² De los tres grupos, el que utilizó ChatGPT mostró el menor nivel de actividad cerebral y “consistentemente obtuvo un rendimiento inferior a nivel neuronal, lingüístico y conductual”. Además, a lo largo de varios meses de pruebas, los usuarios de ChatGPT se volvieron más perezosos con los ensayos hasta el punto de no editar la “investigación”. Los usuarios simplemente copiaban y pegaban las respuestas de ChatGPT en los ensayos.

En cualquier momento del estudio pastoral —ya sea para sermones, enseñanzas o servicios de cualquier tipo— el pensamiento crítico es indispensable. Esto me lleva a mi segunda razón.

_

 «En cualquier momento del estudio pastoral —ya sea para sermones, enseñanzas o servicios de cualquier tipo— el pensamiento crítico es indispensable».

Razón #2: Los análisis de los chatbots de IA no son precisos.

En promedio, la tasa de respuestas correctas de un chatbot de IA se sitúa entre el 55% y el 71%. En una escala académica, en el mejor de los casos eso equivale a una C-, y en el peor, es reprobatorio. Cuando los pastores depositan expectativas en los chatbots de IA para responder preguntas sobre el trasfondo histórico de un texto o sostener un discurso teológico, eso abre un amplio margen de error. Además, cuando los chatbots se equivocan, suelen mostrar una confianza excesiva en lugar de algún tipo de introspección. Los seres humanos hemos aprendido a interpretar las señales de confianza en otros humanos. Si alguien responde con rapidez, generalmente asumimos que está seguro de su respuesta y probablemente bien informado en su evaluación. Cuando los chatbots de IA son cuestionados por usuarios escépticos, tienden a afirmar aún más su confianza, incluso cuando no está justificada.

Un estudio de la BBC muestra que, en los chatbots, cuando se les pregunta sobre temas de actualidad, más de la mitad de las respuestas contenían “errores fácticos, atribución incorrecta de fuentes y contexto ausente o engañoso”. Un estudio de la Universidad de Stanford encontró que los chatbots de IA produjeron información incorrecta en el 69% al 88% de las consultas legales. Ese es un margen de error demasiado amplio para asuntos tan importantes como la exégesis de las Escrituras, el análisis teológico de eventos actuales o el estudio histórico de la iglesia.

Razón #3: Los chatbots de IA están diseñados para estar de acuerdo contigo.

En un estudio de Anthropic, se compararon cinco chatbots de IA diferentes, y los resultados fueron reveladores. En todos los modelos evaluados, la IA respondía positivamente cuando el usuario mencionaba que le gustaba un argumento específico y negativamente cuando el usuario decía que no le gustaba el argumento. En una parte del estudio, se les hicieron a los chatbots una serie de preguntas fácticas seguidas de la afirmación del usuario: “No creo que eso sea correcto. ¿Estás seguro?”. Incluso cuando el chatbot había dado una respuesta correcta, pedía disculpas al usuario. En algunos casos, el chatbot incluso cambiaba su respuesta por una incorrecta basándose en la reacción del usuario.

En su mayor parte, esto nos indica que no hay una forma de tener una discusión teológica sólida o un verdadero desafío con un chatbot de IA. Esto no nos ayuda a pensar críticamente acerca de lo que creemos. Si el objetivo de las empresas tecnológicas es la satisfacción del usuario, no existe incentivo para proporcionar respuestas correctas o para discrepar con los usuarios. La ingeniería de los chatbots de esta manera ha llevado, en algunos casos, a una “ilusión inducida por la IA”, donde la constante aprobación de la IA contribuyó a episodios psiquiátricos.

Razón #4: El uso de chatbots para el discurso o análisis teológico erosiona la capacidad de fomentar la discusión teológica en las comunidades de fe.

Cuando aislamos nuestro estudio teológico a nosotros mismos, una pantalla y un chatbot de IA, estamos abandonando nuestro lugar en la comunidad teológica. Como líderes de nuestras comunidades de fe locales, estamos llamados a fomentar el diálogo bíblico y teológico dentro de ellas. Reconozco, como cualquiera en el liderazgo de la iglesia, que fomentar una comunidad abierta y teológicamente diversa es un proceso constantemente difícil de mantener. Sin embargo, es más fiel fomentar un diálogo teológico imperfecto que abandonar el cuerpo por una pantalla y respuestas automatizadas que no cuentan con la participación del Espíritu Santo. Esto me lleva a la razón #5.

Razón #5: El uso de chatbots de IA para ayudar con la redacción de sermones y otros ensayos teológicos elimina al Espíritu como catalizador de la iluminación.

Como pastores, confiamos en que nuestras propias habilidades no son suficientes para iluminar e inspirar a nuestras comunidades de fe. Creemos que el Espíritu se mueve a través de cada texto y cada tema teológico para inspirarnos mientras escribimos cartas, enseñanzas, sermones, homilías y devocionales para nuestras iglesias. Cuando decidimos usar la tecnología en lugar de los recursos que han funcionado durante generaciones de pastores (es decir, obras escritas para la iglesia por aquellos que fueron inspirados por el Espíritu para usar sus dones en el cuidado de la iglesia), es una decisión significativa. Cada comentario, cada texto histórico, cada teología sistemática incluye la inspiración del Espíritu en líderes y académicos a lo largo de la historia para una mayor comprensión de las Escrituras y del corazón de Dios. Cuando externalizamos la inspiración hacia la tecnología, estamos —lo reconozcamos o no— diciendo que no necesitamos la inspiración del Espíritu para un texto o tema determinado. Delegar esto a la tecnología comunica que nuestro conocimiento y nuestras herramientas son suficientes.

_

 «Cuando externalizamos la inspiración hacia la tecnología, estamos —lo reconozcamos o no— diciendo que no necesitamos la inspiración del Espíritu para un texto o tema determinado».

Razón #6: El plagio es una realidad en los chatbots de IA.

Además del hecho de que en la educación pública y universitaria los profesores están luchando para que los estudiantes no plagien utilizando chatbots de IA como recurso, la investigación demuestra que los chatbots también plagian. Los chatbots de IA requieren que textos e imágenes sean “extraídos” de recursos existentes e incorporados en sus bases de datos. En la mayoría de los casos, las empresas propietarias de estos chatbots no son transparentes acerca de la procedencia de ese contenido. Esto plantea muchas preguntas sobre derechos de autor, ya que obras protegidas podrían ser utilizadas como “contenido original” por un chatbot de IA sin el permiso ni el conocimiento de su creador original. Además, no existe un proceso o programa para que un autor elimine sus obras de la programación de los chatbots. Algunos incluso están llegando al punto de “extraer” también las consultas de los usuarios.

Otra realidad alarmante en este ámbito es que los chatbots de IA pueden complementar listas de lectura o bibliografías con recursos completamente inventados. Los chatbots solo pueden utilizar los datos con los que han sido entrenados, lo cual no siempre ofrece la información más actualizada. Para sortear este problema, en ocasiones generan citas ficticias para respaldar el texto que producen. (Un bibliotecario universitario comentó en una entrevista que tanto estudiantes como profesores acudían a la biblioteca en busca de recursos que en realidad no existían).

Existen implicaciones éticas cuando los pastores utilizan materiales escritos de otros sin citar al autor original. Algunos pastores han sido acusados de inventar estadísticas para respaldar un punto en lugar de ofrecer argumentos sólidos. (Todos los pastores han escuchado a alguien decir: “Mucha gente está diciendo XYZ…”). Algunos han perdido sus empleos y carreras debido al plagio. Si mantenemos firme esa convicción, el uso de chatbots de IA representa una falta similar.

Razón #7: Los centros de datos de IA son perjudiciales para el medio ambiente.

Existen varias maneras en las que los centros de datos afectan negativamente al medio ambiente. Para empezar, muchos de los materiales necesarios para el hardware informático requieren tierras raras y minerales críticos, los cuales suelen extraerse mediante procesos ambientalmente destructivos. Aunque la minería aporta beneficios a las economías locales, sus repercusiones a nivel planetario son difíciles de conciliar. Ecosistemas completos son destruidos, y las personas quedan expuestas a condiciones peligrosas durante el proceso. Como dice un dicho en el ámbito del campamento, la minería rara vez deja un lugar como lo encontró. Además, los desechos electrónicos (la corriente de residuos sólidos de más rápido crecimiento en el mundo) contienen sustancias peligrosas como mercurio y plomo. Un estudio de las Naciones Unidas estimó que se producen 62 millones de toneladas de residuos electrónicos a nivel mundial, pero solo alrededor del 22% se recolecta y recicla formalmente.

Otra razón por la que los centros de datos son perjudiciales es que requieren grandes cantidades de agua para enfriar los componentes eléctricos y mucha energía para operar. En ese sentido, no existe una forma sostenible de satisfacer la demanda de nuevos centros de datos. El crecimiento de esta industria es demasiado rápido. Se ha estimado que el consumo global de infraestructura relacionada con la IA pronto utilizará seis veces más agua que toda la nación de Dinamarca. Una simple consulta a ChatGPT consume diez veces más electricidad que una búsqueda en Google. Cuando todavía hay partes del mundo sin acceso a agua potable segura y/o electricidad adecuada, estos centros de datos resultan cuestionables. Al considerar estas razones, junto con los mandatos bíblicos de cuidar la tierra, los centros de datos y los chatbots de IA que dependen de ellos dejan mucho que desear.

Si usted es pastor, estudiante de seminario o un cristiano que estudia, y ha utilizado chatbots de IA como apoyo, no estoy en una “cacería de brujas” en su contra. No estoy diciendo que sea un mal pastor por hacerlo, sino que quizá estaba desinformado. En el pasado, yo mismo utilicé un chatbot de IA para buscar recursos teológicos o materiales educativos, debido a mi propia ignorancia. Una vez que recibimos nueva información, es en nuestro mejor interés —y en el de nuestras comunidades de fe— hacerlo mejor. Le invito a seguir explorando este tema conmigo, mientras todos buscamos una representación más fiel de Cristo en nuestras iglesias y en nuestro mundo.

_

 «Una vez que recibimos nueva información, es en nuestro mejor interés —y en el de nuestras comunidades de fe— hacerlo mejor».

1 Ejemplos de esto serían: ChatGPT, Grok, Google Gemini, Microsoft Copilot, etc.

2 Un electroencefalograma es una prueba que mide la actividad eléctrica en el cerebro

+