Este artículo se sitúa en un momento crucial de convergencia entre el avance tecnológico exponencial y la reflexión ética profunda. La reciente publicación de la encíclica Magnifica Humanitas por el Papa León XIV, un documento sin precedentes dedicado íntegramente a los desafíos que plantea la inteligencia artificial (IA), ha impulsado un debate global sobre las implicaciones de esta tecnología en la sociedad contemporánea. En este contexto, la voz de figuras académicas y religiosas adquiere una relevancia particular. El rector de la Universidad Alberto Hurtado (UAH), Cristián del Campo SJ, ha ofrecido una perspectiva crítica y anticipatoria en una conversación radial con Radio Concierto, subrayando la complejidad del fenómeno y la imperiosa necesidad de una reflexión multidisciplinaria. Su análisis destaca que la IA no es meramente una herramienta tecnológica, sino un «temazo» que redefine múltiples ámbitos de la existencia humana, desde la geopolítica y el medioambiente hasta la esencia misma de la responsabilidad individual y colectiva.
La relevancia de Magnifica Humanitas y las subsiguientes reflexiones como las de del Campo radican en su capacidad para elevar la discusión sobre la IA más allá de los foros técnicos y económicos, insertándola en el corazón del diálogo ético, moral y humanista. Este movimiento busca cimentar un marco de entendimiento que guíe el desarrollo y la implementación de la IA, asegurando que sus beneficios potenciales no eclipsen los riesgos inherentes y las consecuencias no intencionadas. La advertencia del rector jesuita sobre la utilización de la IA «sin ninguna idea somera de cuáles pueden ser las consecuencias» resalta una brecha crítica en la comprensión pública y en los marcos regulatorios, una brecha que, si no se aborda con urgencia, podría tener repercusiones incalculables a largo plazo.
La Dimensión Ética y Social de la Inteligencia Artificial: La ‘Caja Negra’ y Sus Ramificaciones
La disertación de Cristián del Campo SJ profundiza en la naturaleza intrínseca de los sistemas de inteligencia artificial, especialmente en el concepto de la «caja negra». Esta metáfora describe la incapacidad de comprender completamente cómo un algoritmo de IA llega a una determinada conclusión o decisión, a pesar de conocer sus entradas y salidas. A diferencia de las tecnologías industriales tradicionales, donde los mecanismos y resultados eran predecibles, la IA, como señaló del Campo, «no necesariamente va a tener un output conocido, porque hay una caja negra». Esta característica intrínseca plantea desafíos fundamentales para la rendición de cuentas, la transparencia y la confianza pública, elementos cruciales en cualquier sistema social o legal. Cuando los sistemas autónomos toman decisiones con consecuencias significativas, desde diagnósticos médicos hasta sentencias judiciales o despliegues militares, la opacidad de su funcionamiento interno diluye la responsabilidad humana y complica la atribución de culpas o la corrección de errores sistémicos.
Las repercusiones a largo plazo de esta opacidad algorítmica son vastas. Podríamos ver una erosión de la autonomía individual, ya que las decisiones algorítmicas, percibidas como objetivas, podrían influir de manera desproporcionada en la vida de las personas sin una vía clara para la impugnación o la apelación. Además, la proliferación de IA sin una comprensión adecuada de sus sesgos inherentes —derivados de los datos con los que fueron entrenadas— podría perpetuar y amplificar desigualdades sociales, discriminación y exclusión. La sociedad se enfrenta al riesgo de delegar progresivamente la cognición y la toma de decisiones a entidades no humanas, transformando fundamentalmente la naturaleza del trabajo, la interacción social y la gobernanza. Este escenario evoca debates sobre la ética de la mejora humana y las fronteras de la intervención tecnológica en el deporte y la vida, donde la búsqueda de ventajas puede llevar a resultados ambiguos y cuestionables, como se ha explorado en discusiones sobre «Los Juegos Mejorados»: Un Experimento Sobre el Futuro del Deporte y el Dopaje, con Resultados Ambivalentes. La necesidad de una alfabetización en IA, no solo técnica sino también ética, se vuelve imperativa para que los ciudadanos y los responsables políticos puedan discernir y moldear críticamente el futuro que la IA está ayudando a construir.
IA y el Dilema de la Guerra y la Paz: La Autonomía en el Campo de Batalla
Uno de los ámbitos más críticos y potencialmente catastróficos que la IA interpela es el de la guerra. La posibilidad de desarrollar y desplegar sistemas de armas autónomas letales (SALA) que puedan seleccionar y atacar objetivos sin intervención humana directa es un punto de inflexión ético y estratégico. La encíclica Magnifica Humanitas y la reflexión de del Campo abordan explícitamente este riesgo. La delegación de decisiones de vida o muerte a algoritmos plantea interrogantes insoslayables sobre la moralidad de la guerra, el derecho internacional humanitario y la naturaleza misma de la responsabilidad en el conflicto armado. ¿Quién es responsable cuando un sistema autónomo comete un error fatal? ¿El programador, el fabricante, el comandante que autorizó su uso, o la propia máquina? La falta de una respuesta clara a estas preguntas crea un vacío de responsabilidad que podría socavar los principios éticos que han buscado mitigar los horrores de la guerra.
Las repercusiones a largo plazo de la autonomía letal en el campo de batalla incluyen la deshumanización del conflicto, la reducción de los umbrales para la intervención armada y el riesgo de una carrera armamentista de IA que desestabilice la seguridad global. La velocidad y la escala con la que estos sistemas podrían operar superan la capacidad humana de respuesta, aumentando el riesgo de escalada no intencionada de conflictos. Este escenario exige un diálogo urgente entre estados, organizaciones internacionales, expertos en tecnología y líderes éticos para establecer límites claros y prohibiciones efectivas sobre el uso de sistemas de armas autónomas. La ausencia de un marco regulatorio internacional sólido y la persistente ambigüedad en la atribución de responsabilidades podrían llevar a un futuro donde la guerra se transforme en un cálculo algorítmico carente de humanidad y juicio moral. La implicación de la IA en la seguridad y el orden social no se limita al ámbito militar; también se manifiesta en la capacidad de las tecnologías para ser utilizadas en actividades ilícitas o para fortalecer la capacidad de organizaciones criminales, como se ha visto en operaciones de desarticulación de infraestructuras complejas.
El Impacto Ambiental de la IA: Un Costo Oculto de la Digitalización
Más allá de las dimensiones éticas y militares, la inteligencia artificial también ejerce una presión considerable sobre el medioambiente, un aspecto crucial que Cristián del Campo SJ incluye en su análisis. La infraestructura necesaria para el desarrollo, entrenamiento y operación de sistemas de IA, especialmente los modelos de lenguaje grandes y las redes neuronales profundas, es intensiva en recursos. Los centros de datos globales consumen vastas cantidades de energía eléctrica, gran parte de la cual aún proviene de fuentes de combustibles fósiles, contribuyendo significativamente a las emisiones de gases de efecto invernadero. La fabricación del hardware especializado, como los chips de procesamiento gráfico (GPU), requiere metales raros y tierras raras, cuya extracción a menudo conlleva prácticas mineras destructivas y una cadena de suministro con una alta huella de carbono.
Las repercusiones a largo plazo de este impacto ambiental son contrarias a los objetivos de sostenibilidad global. Un desarrollo desenfrenado de la IA sin una atención explícita a su eficiencia energética y a la circularidad de sus componentes podría acelerar el cambio climático y agotar recursos críticos. La paradoja reside en que la IA también se presenta como una herramienta poderosa para abordar desafíos ambientales, desde la modelización climática hasta la optimización de redes energéticas. Sin embargo, si la solución genera un problema de una magnitud comparable, la balanza no se inclina hacia el progreso sostenible. Es imperativo que la industria tecnológica y los gobiernos prioricen la investigación en IA de bajo consumo energético, la adopción de energías renovables en los centros de datos y el diseño de hardware más sostenible y reciclable. La discusión sobre el impacto ambiental de la IA debe integrarse en la agenda más amplia de desarrollo sostenible, alineándose con las prioridades regionales y las estrategias para un crecimiento respetuoso con el entorno, un tema central en las conversaciones sobre Prioridades Regionales y Desarrollo Sostenible.
La Noción de Responsabilidad Humana en la Era Algorítmica: Un Paralelismo con Rerum Novarum
La comparación que establece Cristián del Campo SJ entre la encíclica Magnifica Humanitas y la histórica Rerum Novarum de fines del siglo XIX es particularmente reveladora. Mientras Rerum Novarum abordó la cuestión social en el contexto de la Revolución Industrial, sentando las bases de la doctrina social de la Iglesia en relación con el trabajo, la propiedad y los derechos de los trabajadores, Magnifica Humanitas se enfrenta a un desafío de una naturaleza distinta y quizás más fundamental. Las máquinas de la Revolución Industrial sustituyeron la fuerza física humana; la IA moderna, en cambio, comienza a emular y, en ciertos aspectos, a superar las capacidades cognitivas humanas. Este cambio no es una mera extensión de la mecanización; es una reconfiguración de la inteligencia y la toma de decisiones.
La «caja negra» que caracteriza a la IA contemporánea y la capacidad de estas máquinas para generar «output no conocido» desafían la noción misma de responsabilidad humana. Si no podemos prever o comprender plenamente cómo una IA llega a sus conclusiones, ¿cómo podemos asignar responsabilidad moral o legal por sus acciones o por las consecuencias de su implementación? Esta pregunta se vuelve crítica en un mundo donde la IA influirá en todos los aspectos de la vida, desde el empleo y la educación hasta la salud y la seguridad. Las repercusiones a largo plazo de esta dilución de la responsabilidad podrían socavar los fundamentos de la ética, el derecho y la gobernanza democrática. La encíclica, y la reflexión de del Campo, son un llamado urgente a reafirmar la primacía de la dignidad humana y la responsabilidad en la era digital. No se trata simplemente de regular una tecnología, sino de repensar cómo la humanidad se define a sí misma y cómo ejerce su agencia moral en un entorno cada vez más mediado por la inteligencia artificial. La necesidad de una reflexión profunda sobre las implicaciones de esta nueva tecnología es tan acuciante como lo fue en su momento la reflexión sobre las condiciones laborales y la justicia social en la era industrial.
En síntesis, la publicación de Magnifica Humanitas y las reflexiones como las de Cristián del Campo SJ marcan un hito estratégico en la conversación global sobre la inteligencia artificial. La encíclica no es solo un documento religioso; es una intervención ética de alto nivel que subraya la urgencia de establecer marcos de gobernanza y responsabilidad que trasciendan las fronteras nacionales y las disciplinas académicas. Las implicaciones estratégicas de este llamado son multifacéticas: exigen una colaboración sin precedentes entre tecnólogos, filósofos, teólogos, juristas y formuladores de políticas para abordar las ramificaciones de la IA en la guerra, el medioambiente y la redefinición de la responsabilidad humana. La metáfora de la «caja negra» subraya la necesidad de desarrollar una IA interpretable y transparente, así como de educar a la sociedad para comprender las limitaciones y los riesgos inherentes a estos sistemas. La comparación con Rerum Novarum resalta que estamos ante una transformación societal de magnitud histórica, requiriendo una reflexión tan profunda y abarcadora como la que generó la era industrial. El futuro de la IA no es un destino predeterminado, sino un camino que la humanidad debe decidir consciente y éticamente, asegurando que el progreso tecnológico sirva al bien común y preserve la dignidad intrínseca de la persona humana. La inacción o la delegación pasiva de la toma de decisiones a sistemas autónomos conducirá a un futuro donde las consecuencias no deseadas podrían superar con creces los beneficios esperados, con impactos irreversibles en la estructura social, la moralidad y la sostenibilidad planetaria. Este es un momento de definición para la humanidad, donde la sabiduría, la prudencia y la colaboración ética son más cruciales que nunca.
https://www.uahurtado.cl/extension/opinion/cristian-del-campo-sj-rector-la-enciclica-plantea-multiples-ambitos-como-la-guerra-el-medioambiente-y-la-responsabilidad-humana/
