Consideraciones éticas sobre el diseño, desarrollo y aplicación de los sistemas autónomos de decisión

Autores/as

  • José Luis Verdegay Universidad de Granada

Palabras clave:

Inteligencia Artificial, Ética, Sisistemas Automáticos de Decisión

Resumen

El tema de debate actual es el de la cuarta revolución industrial, en la que las tecnologías digitales conviven y colaboran con las ciencias clásicas en la automatización de procesos y servicios en todas las áreas de la vida humana. Esta cooperación tiene importantes consecuencias en muchos contextos y entornos sociales. Además, la velocidad vertiginosa a la que llegan las nuevas tecnologías y su supuesto social, más a menudo que la deseada, impiden la asimilación de los cambios por parte de la sociedad y, lo que es más importante, produce una imposibilidad práctica de ofrecer respuestas éticas, legales y sociales que se adapten correctamente a los ritmos y alcance del proceso de transformación. Esta disrupción tecnológica genera nuevos problemas y conflictos, que incluso pueden dañar los derechos humanos. Por este motivo, desde muchas instituciones, áreas y organismos profesionales, se han iniciado acciones dirigidas a analizar las repercusiones que los sistemas automáticos basados en aprendizaje computacionales pueden tener en nuestra forma de vida actual. Este artículo está dedicado a presentar algunas de las iniciativas diseñadas desde la perspectiva profesional, sociopolítica o científica, con un énfasis especial en aquellas orientadas a los aspectos éticos asociados con estos sistemas y una referencia particular a los casos europeos y español.

Citas

Agencia Digital for Italy. (2018). White Paper on Artificial Intelligence at the service of citizens. AGID. Obtenido de https://ia.italia.it/assets/whitepaper.pdf

AI/Robotics researches. (2017). ASILOMAR AI PRINCIPLES. Obtenido de Future of life: https://futureoflife.org/ai-principles/

Bluedot. (2020). BlueDot. Obtenido de https://bluedot.global/

COTEC. (2020). Proyectos. Obtenido de Fundación COTEC: https://cotec.es/proyectos/

Council, S. (2017). New Generation of Artificial Intelligence Development Plan. China: The Foundation for Law and International Affairs. Obtenido de https://flia.org/wp-content/uploads/2017/07/A-New-Generation-of-Artificial-Intelligence-Development-Plan-1.pdf

CRT. (2020). Civil Resolution Tribunal. Obtenido de https://civilresolutionbc.ca/

Department of Business, Energy & Industrial Strategy - Department for Digital, Culture, Media & Sport. (21 de May de 2019). AI Sector Deal - Policy Paper. Obtenido de GOV.UK: https://www.gov.uk/government/publications/artificial-intelligence-sector-deal/ai-sector-deal

Dutton, T. (28 de June de 2018). An Overview of National AI Strategies. Obtenido de Politics-AI: https://medium.com/politics-ai/an-overview-of-national-ai-strategies-2a70ec6edfd

European Commission. (2018). Statement on A.I., Robotics and ‘Autonomous’ Systems. European Group on Ethics in Science and New Technologies (EGE). Directorate-General for Research and Innovation, Unit RTD.01. Bruselas: European Union. Obtenido de Statement of AI Robotics: https://ec.europa.eu/info/research-and-innovation/strategy/support-policy-making/scientific-support-eu-policies/ege_en

European Commission. (8 de April de 2019). Ethic Guidelines for trustworthy AI. Obtenido de Shaping Europe’s digital future: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

Feldman, M. (30 de August de 2016). Market for Artificial Intelligence Projected to Hit $36 Billion by 2025. Obtenido de Top500: https://www.top500.org/news/market-for-artificial-intelligence-projected-to-hit-36-billion-by-2025/

Foot, P. (1967). “The Problem of Abortion and the Doctrine of Double Effect. ... 1978. Virtues and Vices. Oxford: Basil Blackwell.

Harhoff, D., Heumann, S., Jentzsch, N., & Lorenz, P. (2018). Outline for a German Strategy for Artificial Intelligence. Berlin: Beisheim Center.

Huawei. (2017 de diciembre de 2017). Huawei analiza la toma de decisiones de los europeos. Obtenido de Tribuna Digital China: https://www.tribunadigitalchina.com/huawei-analiza-la-toma-de-decisiones-de-los-europeos-con72965

Keenon Robotics. (2020). Productos Robots Keenon. Obtenido de http://keenon.com/Product/pro2.html

Larson, D. A. (2019). Designing and Implementing a State Court ODR System: From Disappointment to Celebration. Journal of Dispute Resolution(2), 77-102.

Larus, J., Hankin, C., Carson, S. G., Christen, M., Crafa, S., Grau, O., & al, e. (2018). When Computers Decide: European Recommendations on Machine-Learned Automated Decision Making. Informatics Europe & EU ACM .

Matterhorn. (2020). Matterhorn online dispute resolution (ODR). Obtenido de ODR Solutions: https://getmatterhorn.com/

Metabiota. (3 de February de 2020). Monitoring and risk analytics for the 2019 novel coronavirus (COVID-19) epidemic. Obtenido de Metabiota Risk Report No. 3: https://metabiota.com/sites/default/files/inline-files/Metabiota_Risk_Report_No.3-25Feb2020-COVID-2019_0.pdf

Ministerio de Ciencia, Innovación y Universidades. (2019). Estrategia Española de I+D+I en Inteligencia Artificial. Secretaría General Técnica del Ministerio de Ciencia, Innovación y Universidades.

National Science and Technology Council. (2016). THE NATIONALARTIFICIAL INTELLIGENCE RESEARCH AND DEVELOPMENT STRATEGIC PLAN. U.S. Government. Obtenido de https://www.nitrd.gov/PUBS/national_ai_rd_strategic_plan.pdf

Niti Aayog. (2018). National Strategy for Artificial Intelligence- Discussion Paper. Obtenido de https://niti.gov.in/writereaddata/files/document_publication/NationalStrategy-for-AI-Discussion-Paper.pdf

Sandel, M. (2015). M. Sandel. Justice: What's The Right Thing To Do? Episode 01 "THE MORAL SIDE OF MURDER. Obtenido de Lecture of Harvard University: https://www.youtube.com/watch?v=kBdfcR-8hEY

Steering Group of the Artificial Intelligence Programme. (2017). Finland’s Age of Artificial Intelligence. Helsinky: Ministry of Economic Affairs and Employment-MEAE reports 47/2017. Obtenido de http://julkaisut.valtioneuvosto.fi/bitstream/handle/10024/160391/TEMrap_47_2017_verkkojulkaisu.pdf

Thaler, R.H. and Sunstein, C.R. (2008): Nudge: Improving Decisions about Health, Wealth, and Happiness. Yale University Press.

Tan, V. (August de 2019). Online Dispute Resolution for Small Civil Claims in Victoria: A New Paradigm in Civil Justice. Deakin Law Review, 24, 01-138. doi:https://doi.org/10.21153/dlr2019vol24no1art873

Villani, C. (2018). For a Meaningful Artificial Intelligence. aiforhumanity.fr.

Descargas

Publicado

2020-04-24

Cómo citar

Verdegay, J. L. (2020). Consideraciones éticas sobre el diseño, desarrollo y aplicación de los sistemas autónomos de decisión. Revista Cubana De Transformación Digital, 1(1), 75-95. Recuperado a partir de https://rctd.uic.cu/rctd/article/view/6

Número

Sección

Artículos de reflexión