ECOS PROV. | Los derechos humanos como expresión histórica de la dignidad humana (Magnifica Humanitas) (3)

 ECCLESIA 2026

Los derechos humanos como expresión histórica de la dignidad humana (Magnifica Humanitas) (3)

Estamos viendo el capítulo segundo de la Carta Encíclica Magnifica Humanitas, del papa León XIV, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial, vincula la dignidad de la persona y los derechos humanos.

Considerando como principio fundamental el siguiente: La tecnología no puede utilizarse para reducir a la persona humana a un objeto de vigilancia, manipulación, clasificación o explotación. Cuando esto sucede, se altera la relación correcta entre el ser humano y la tecnología: el instrumento deja de servir a la persona y comienza a ejercer poder sobre ella.

Desde esta perspectiva, la revolución digital genera nuevos interrogantes, los cuales abordaremos ya tres de ellas y ahora continuamos con las siguientes:

4) ¿Qué ocurre cuando una persona es sometida a vigilancia permanente?

Se pone en riesgo su libertad, intimidad y autonomía, y puede generarse un ambiente de control social.

La vigilancia permanente consiste en recopilar, almacenar, analizar y utilizar continuamente información sobre las actividades, desplazamientos, comunicaciones, relaciones y comportamientos de las personas.

El problema no es toda forma de vigilancia. Existen mecanismos legítimos de seguridad, protección institucional y prevención de delitos. El problema surge cuando la vigilancia es desproporcionada, indiscriminada, secreta, injustificada o carece de controles efectivos.

Lo que ocasiona, sin duda, una autocensura, las personas pueden dejar de expresar libremente sus opiniones por temor a ser observadas, se da una pérdida de intimidad: desaparecen espacios legítimos de privacidad, se lleva a cabo un control del comportamiento, la información recopilada puede utilizarse para condicionar decisiones futuras, ocasiona un abuso de poder, quienes controlan los datos pueden adquirir una capacidad desproporcionada de influencia sobre la persona y dejar vulnerable a la persona, ya que la información acumulada puede utilizarse para extorsionar, discriminar o perjudicar.

La vigilancia también puede producir un fenómeno psicológico y social importante: la persona comienza a comportarse como si siempre estuviera siendo observada.

Esto puede afectar su espontaneidad, sus relaciones y su libertad de expresión.

Aplicación práctica: cualquier sistema de vigilancia debe responder a una finalidad legítima, ser necesario y proporcional, contar con límites temporales y materiales, proteger los datos obtenidos y estar sujeto a supervisión independiente.

Desde la ética cristiana, proteger la intimidad significa reconocer que la persona tiene derecho a conservar un espacio de libertad que no debe quedar sometido arbitrariamente al poder de otros.

5) ¿Qué ocurre cuando un sistema automatizado decide sobre el empleo, el crédito, la educación o el acceso a determinados servicios públicos, sin posibilidad real de impugnar la decisión?

Se produce un problema especialmente grave: la persona queda sometida a una decisión que puede afectar profundamente su vida, sin conocer suficientemente sus fundamentos ni tener oportunidad efectiva de defenderse.

Pensemos en cinco ejemplos clasicos:

Ámbito	Posible situación	Consecuencia humana
Empleo	Un algoritmo descarta automáticamente a un candidato, por su raza, color, creencias religiosa, etc.	El individuo, experimenta una pérdida injustificada de oportunidades laborales, ya que no tiene ninguna oportunidad para demostrar su real capacidad.
Crédito	Un sistema financiero rechaza una solicitud sin explicar los criterios o motivos que orillaron a la toma de esta decisión	La persona sufre de una exclusión financiera y utilización de dicho sistemas, sin tener la menor oportunidad de explicar su situación y lograr ser aprobada su solicitud.
Educación	Una plataforma clasifica a un estudiante como de bajo rendimiento o no tener las capacidades para recibir la educación solicitadas o el ingreso a una institución educativa..	Estigmatización del individuo y limitación de oportunidades para acceder a los sistemas educativos y de desarrollo personal.
Salud	Un sistema automatizado condiciona el acceso a determinados servicios o especialidades de una institución pública, dependiendo de ciertas cualidades o características de las persona.	Existe un aumento considerable de riesgo para la atención y el bienestar de la población ya que los sistemas de salud estarían sujetos a que los pacientes cumplan con los requerimiento registrados en dichos sistemas.
Servicios públicos	Un algoritmo determina que una persona no reúne los requisitos para recibir un apoyo, sin considerar las características de la misma o los factores que puedan afectar su determinación.	Existe una posible vulneración de derechos sociales de los individuos.

El problema fundamental es la ausencia de responsabilidad de las autoridades y de las personas y de mecanismos de defensa para el ciudadano.

Un algoritmo no tiene conciencia moral, no experimenta compasión, no comprende integralmente la historia de una persona y no puede asumir, bajo ninguna circunstancia, por sí mismo, responsabilidad moral o jurídica.

Por eso, una decisión automatizada no debe convertirse en una sentencia incuestionable.

Si esto ocurre, el ciudadanos puede sufrir alguna consecuencias, como: Estar en un estado de total indefensión de la persona afectada, la cual, puede sufrir una discriminación algorítmica. 

Se pueden dar errores de sistema que pueden reproducirse a gran escala, como el caso de los bancos, que en algunos países han dejado de funcionar, dejando indefensos a los ciudadanos

Al depender de un algoritmo, existe una imposibilidad de corregir información incorrecta, que este manejando, ya que este depende exclusivamente de la información con que fue entrenado.

Hay una despersonalización de los procedimientos institucionales, dejando que un algoritmo o bot, sea el que se relacione con el ciudadano, y

Se da una dilución de la responsabilidad entre programadores, proveedores y autoridades, haciendo que ninguno de ellos se haga responsable de los resultados obtenidos.

Que hacer?

Buscar que toda institución que utilice sistemas automatizados para tomar decisiones relevantes que afecten la vida y desarrollo del individuo, debe garantizar que:

1. Exista una información comprensible y clara, de los alcances, sobre la utilización del sistema.

2. Esten plenamente identificados los criterios relevantes en la toma de decisiones que afecten al ciudadano.

3. Exista una real y oportuna posibilidad de corregir datos incorrectos, cargados en los sistemas.

4. Existan procesos de auditoría y revisión claros por una institución con autoridad para modificar el resultado, sin menoscabo de los derechos humanos del individuo.

5. Existan los canales suficiente claros y accesibles para que el ciudadano tenga el derecho a presentar inconformidades y obtener respuesta, expedita y confiable.

6. Existan los procesos de verificación y análisis de resultados, para la identificación de los responsables institucionales, encada una de las decisiones tomadas,  y.

7. Que existan procedimientos claros y confiables para brindar una reparación, conforme a las leyes vigentes, de cuando se produzcan daños atribuibles a decisiones indebidas, en el manejo de la información o de os resultados obtenidos por su  operación.

La eficiencia administrativa nunca debe justificar la indefensión de una persona.

Continuamos la próxima semana.