El Despertar de la Autonomía Artificial: Análisis de las implicaciones éticas de los Agentes Morales Artificiales

Abstract

El artículo analiza las implicaciones éticas del desarrollo de los Agentes Morales Artificiales (AMAs), sistemas autónomos diseñados para tomar decisiones morales en diversos contextos. Utilizando como marco conceptual la “heurística del temor” de Hans Jonas, se evalúan los riesgos asociados con la creación de máquinas que pueden asumir la responsabilidad moral, especialmente en escenarios de alta complejidad como la medicina, la justicia y el transporte autónomo. El trabajo propone que, aunque la tecnología de los AMAs promete mejoras en eficiencia y precisión, también plantea amenazas significativas a la moralidad humana y a la agencia ética tradicional. Se examinan los enfoques top-down y bottom-up en la construcción de AMAs, destacando la importancia de un enfoque híbrido. Finalmente, se argumenta que, ante la falta de consenso moral y los riesgos de sesgo y desfiguración moral, es esencial adoptar una ética orientada al futuro que priorice la responsabilidad intergeneracional y el respeto por los valores fundamentales de la humanidad.