En el mundo actual, la ética desempeña un papel fundamental en diversas áreas, como la tecnología, la medicina y la política. Actúa como una guía para tomar decisiones justas y responsables, asegurando que nuestras acciones contribuyan al bienestar de la sociedad en su conjunto. Sin embargo, surge una pregunta esencial: ¿qué es realmente ético? Esta interrogante nos invita a reflexionar sobre los principios y valores que deberían orientar nuestras conductas y decisiones, marcando el camino hacia un comportamiento más consciente y equilibrado.

«Llamaré moral al discurso normativo e imperativo que resulta de la oposición entre el Bien y el Mal, considerados como valores universales y absolutos. Es el conjunto de nuestros deberes. La moral responde a la pregunta “¿Qué debo hacer?”. Pretende ser única y universal. Tiende hacia la virtud y culmina en la santidad.

Llamaré ética a todo discurso normativo, pero no imperativo (sin otro imperativo que el hipotético, es decir, sin un imperativo en el sentido usual del término) que resulta de la oposición entre lo bueno y lo malo, considerados como valores relativos. Es el conjunto reflexivo de nuestros deseos. Una ética responde a la pregunta “¿Cómo vivir?”. Siempre es particular a un individuo o a un grupo. Es un arte de vivir. Tiende generalmente hacia la felicidad y culmina en la sabiduría. »

Comte-Sponville André

Aplicar la ética a la incorporación de la Inteligencia Artificial en una organización implica establecer normas de gobernanza que, más que ser imperativas, son de carácter hipotético. Estas normas delimitan pautas sugeridas por el gobierno corporativo, pero no impuestas, permitiendo su adaptación a las necesidades y circunstancias específicas de cada organización y momento. Esta flexibilidad facilita la transición de un enfoque jerárquico, basado en “¿Qué debo hacer?”, hacia una perspectiva colaborativa que se pregunta: “¿Cómo vivimos esta integración?”. Este enfoque considera tanto los riesgos inherentes como las reacciones psicológicas de los usuarios, promoviendo una implementación más consciente y equilibrada.

La incorporación de la IA exige una comunicación transparente y abierta que sea multidisciplinar y aborde las cuestiones éticas asociadas. Más allá de enseñar cómo utilizar la tecnología, es fundamental explicar cómo convivir con esta transformación. Asimismo, las empresas deben comprometerse a clarificar cómo mantendrán un equilibrio adecuado entre humanos y la IA, de manera similar al equilibrio entre el trabajo y la vida personal.

A partir de lo mencionado anteriormente, planteamos preguntas esenciales como: ¿sobre quién recae la responsabilidad de estas decisiones? ¿Existe un marco ético diseñado específicamente para regular la IA?

Es crucial enfatizar la importancia de la transparencia como un pilar fundamental dentro de la ética de la IA. Cuando un sistema toma decisiones, no lo hace de manera transparente, ya que las personas no pueden comprender ni explicar la lógica subyacente de cada decisión. Aunque los desarrolladores del código pueden entender lo que hace la IA en términos generales, a menudo carecen de claridad sobre cómo se procesan los datos específicamente (Coeckelbergh, 2020).

Aparentemente, los desarrolladores han creado un sistema basado en la ética y la responsabilidad en el uso de esta tecnología. Este sistema abarca dos conceptos clave, estrechamente relacionados, que consideran los valores éticos durante el proceso del diseño. El primero es la innovación responsable, que se refiere a procesos de diseño alineados con principios éticos. El segundo es el diseño éticamente sensible, que hace énfasis en la creación de diseños que respeten y promuevan valores fundamentales (Coeckelbergh, 2020).

La Unión Europea (UE) ha establecido el Reglamento General de Protección de Datos (GDPR), que define las normas que deben seguir las empresas y los gobiernos para el almacenamiento, procesamiento y protección de los datos personales. A su vez, las empresas tienen la responsabilidad y el derecho de garantizar la protección de dicha información. No obstante, en caso de una amenaza o violación de los datos, las empresas deben actuar con rapidez y notificar a las autoridades competentes (Scheire, 2023).

El objetivo del Reglamento es optimizar el funcionamiento del mercado interior mediante la creación de un marco jurídico que regule el desarrollo, introducción, implementación y uso de sistemas de IA, siempre alineado con los valores de la UE. Promoviendo la adopción de una IA centrada en el ser humano, que sea confiable y que al mismo tiempo garantice un alto nivel de protección en cuanto a la salud, la seguridad y los derechos fundamentales establecidos en la Carta de los Derechos Fundamentales de la Unión Europea. Esto incluye la protección de la democracia, el Estado de Derecho y el medio ambiente, minimizando los efectos perjudiciales de los sistemas de IA en la UE, mientras se fomenta la innovación (Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, 13 de junio de 2024).

En este reglamento también se establecen normas para la introducción en el mercado, la prestación de servicios y el uso de sistemas de IA, así como prohibiciones de prácticas específicas. Se definen requisitos particulares para los sistemas de IA de alto riesgo, imponiendo obligaciones a los operadores de estos sistemas. Además, se incluyen normas de transparencia aplicables a ciertos sistemas de IA, así como directrices para la introducción de modelos de IA de uso general en el mercado. También se abordan aspectos clave como el seguimiento, vigilancia, gobernanza y garantía de cumplimiento. Asimismo, se implementan medidas para apoyar la innovación, con un enfoque especial en las pymes, incluidas las empresas emergentes (Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, 13 de junio de 2024).

Es importante destacar que, según el artículo 114 del Reglamento de IA, los proveedores de modelos de IA de uso general que presenten riesgos sistémicos deben cumplir con la obligación de identificar, evaluar y mitigar dichos riesgos, asegurando la protección de la ciberseguridad. Para garantizar el cumplimiento de esta normativa, los proveedores deben realizar evaluaciones pertinentes mediante pruebas internas y externas independientes de los modelos, incluyendo la ejecución y documentación de pruebas contradictorias antes de que los modelos sean comercializados (Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, 13 de junio de 2024).

Estudios previos han concluido que un número creciente de empresas está optando por integrar algún tipo de IA en sus operaciones. Se estima que, para 2030, la IA estará presente en entre el 60% y el 70% de las empresas, convirtiéndose en una de las áreas clave para el crecimiento económico, con la generación de ingresos que superarán las expectativas (McKinsey Global Institute, 2023).

La visión futurista sobre la IA es que su utilización será fundamental para la reorganización de la economía, con el potencial de mejorar el funcionamiento de la sociedad. Se espera que la IA ofrezca una forma innovadora y poderosa de conectar a productores y consumidores, dando lugar a nuevos productos, generando valor adicional para los existentes y mejorando significativamente los procesos de producción. Además, puede optimizar los procedimientos administrativos, haciéndolos más eficientes y de mayor calidad. La IA, también contribuirá a un acceso más amplio al conocimiento digital, proporcionando herramientas que fomenten la creatividad y faciliten la difusión de fenómenos culturales como la música o la literatura (Steels, 2017).

Conclusiones

A lo largo de la historia, el trabajo ha experimentado una evolución significativa, desde una actividad orientada a la subsistencia hasta convertirse en procesos más automatizados e intelectuales. Hoy en día, esta transformación continúa con la incorporación de la IA, lo que redefine la concepción del trabajo, no solo como una simple transferencia de energía, sino como una actividad humana enriquecida por la tecnología.

La integración de la IA en el ámbito laboral representa una transformación profunda que exige un enfoque ético y bien estructurado. Tanto la IA conexionista como la simbólica tienen un impacto notable en los aspectos psicológicos y sociales de los individuos, lo que hace imprescindible una gestión cuidadosa de su implementación en las empresas. El objetivo es maximizar los beneficios mientras se minimizan los riesgos asociados.

Desde la perspectiva de los empleadores, la IA se presenta como una herramienta clave para alcanzar metas comerciales, optimizar la eficiencia y fomentar la innovación. No obstante, su implementación requiere una reorganización de las estructuras laborales y una aceptación activa del apoyo que la IA puede ofrecer en la toma de decisiones. Por su parte, para los empleados, la IA tiene el potencial de reducir las tareas repetitivas, mejorar la colaboración y potenciar el desarrollo de nuevas habilidades, lo que exige una mayor capacidad de adaptación a los cambios tecnológicos.

Es fundamental abordar los riesgos inherentes a la IA, tales como la desinformación, la discriminación, el abuso y los impactos negativos sobre la privacidad y la seguridad. Un enfoque ético es esencial para equilibrar las oportunidades transformadoras con los posibles desafíos que esta tecnología plantea.

La influencia de la tecnología en nuestra vida cotidiana es indiscutible. Los dispositivos electrónicos tienen un control creciente sobre nuestras actividades, desde la forma en que socializamos hasta la manera en que pensamos y actuamos. Aunque internet, las redes sociales y otras tecnologías emergentes son vistas como motores de progreso, han desplazado aspectos fundamentales del ser humano, como el pensamiento crítico, la creatividad y las interacciones sociales genuinas. Estamos tan inmersos en la tecnología que nuestras habilidades sociales y el contacto humano se han visto deteriorados. Además, la proliferación de fuentes de información poco confiables ha contribuido a la propagación de noticias falsas, generando confusión y desinformación (Coeckelbergh, 2020).

Finalmente, es crucial que las normas de gobernanza y regulación de la IA sean claras y accesibles, no solo para los desarrolladores y expertos en la materia, sino también para los usuarios en general. Asegurar que todos comprendan estas reglas es esencial para fomentar un uso ético y responsable de la tecnología.

En conclusión, la IA ofrece grandes oportunidades para el mundo laboral, pero su integración debe basarse en principios éticos sólidos y una gobernanza reflexiva, asegurando que sus beneficios sean accesibles para todos los involucrados.

Referencias

• Aanbevolen citeerwijze: Luc Steels (ed.), Artificiële intelligentie. Naar een vierde industriële revolutie? KVAB Standpunt 53, 2017. 
• Altomare, M. (2005). Modernidad y subjetividad en la socilogía de Max Weber: la racionalidad puritana y la racionalidad capitalista. Subjetividad y procesos cognitivos, 7, 20-44.
• Arrigain García, I. (2020). Regulación de las invenciones relacionadas con Inteligencia Artificial en el campo de la Propiedad Intelectual. Universidad Pontifica Comillas. 
• BATHAEE, Y. (2018). “The Artificial Intelligence Black Box and the Failure of Intent and Causation”. En Harvard Journal of Law & Technology, vol. 31(2) pág. 905. Véase también, PARALAMENTO EUROPEO (2020). Resolución 2020/2012(INL), Op. cit., apartado 23.
• Blanc, B. F. L. (S.F) Sesgos cognitivos, toma de decisiones e Inteligencia Artificial a reflexión.
• Cárdenas, J. (2023). Inteligencia artificial, investigación y revisión por pares: escenarios futuros y estrategias de acción. Revista Española de Sociología, 32(4), a184. https://doi.org/10.22325/fes/res.2023.184
• (Centre National de Ressources Textuelles et Lexicales, 2012) 
• Coeckelbergh, Mark. (2020). AI ethics. Hoe omgaan met artificiële intelligentie? 
• Dávila Morán, R. C., & Agüero Corzo, E. D. C. (2023). Desafíos éticos de la inteligencia artificial: implicaciones para la sociedad y la economía. Conrado, 19(94), 137-144.
• Duckett, S., & Pearson, S. (2018). Agricultural Robotics: Robotics: The Future of Robotic Agriculture. UK-RAS.
• Estupiñán Ricardo, J., Leyva Vázquez, M. Y., Peñafiel Palacios, A. J., & El Assafiri Ojeda, Y. (2021). Inteligencia Artificial y propiedad intelectual. Revista Universidad y Sociedad, 13(S3), 362-368. 
• Gracia, J. L. B. (2024). El Sesgo algorítmico en la inteligencia artificial. Implicaciones para la seguridad global y la política criminal. GEOCONFLICTS & INTELLIGENCE: Revista sobre Seguridad Global y Terrorismo, 2(2), 183-203.
• García, J. S. C., Delgado, M. A. P., Pionce, B. S. M., & Quijije, G. S. B. (2024). USO ESTRATÉGICO DE LA INTELIGENCIA ARTIFICIAL EN LA GESTIÓN DE LA CADENA DE SUMINISTRO EMPRESARIAL. Ciencia y Desarrollo, 27(2), 267-276.
• Goldbach, Dumitru & Cetina, Iuliana & Manea, Natalia. (2018). The 14 th International Scientific Conference eLearning and Software for Education Academika-Online Learning Platform. 10.12753/2066-026X-18-057.
• González, N (2024). Algunos parámetros jurídicos y éticos en torno a la Inteligencia Artificial. Una visión humanista de la tecnología. Editoral ABC 
• Hoza, B., Waschbusch, D. A., Pelham, W. E., Molina, B. S. G., & Milich, R. (2000). Attention-Deficit / Hyperactivity Disordered and Control Boys ’ Responses to Social Success and Failure. 71(2), 432–446
• Icarte Ahumada, G. A. (2016). Aplicaciones de Inteligencia Artificial en procesos de cadenas de suministros: una revisión sistemática.  Ingeniare. Revista chilena de ingeniería, 24(4), 663-679 
• John Lygeros, Lecture Notes on Hybrid Systems, Department of Electrical and Computer Engineering – University of Patras (2004). http://robotics.eecs.berkeley.edu/~sastry/ee291e/lygeros.pdf
• Kopitowski, K. (2016). La falacia de la evidencia incompleta o “cherry picking”. Evidencia, actualizacion en la práctica ambulatoria, 19(2).
• Massachusetts Institute of Technology. (n.d.). The AI Risk Repository. Retrieved April 26, 2025, from https://airisk.mit.edu/
• Martín, L., & Álvarez, A. (2000). Sesgos cognoscitivos del gerente: su influencia en la toma de decisiones. Revista Cubana de Salud Pública, 26(1), 5-11. Recuperado de: http://scielo.sld.cu/scielo.php?script=sci_arttext&pid=S0864-34662000000100001
• McKinsey Global Institut, (2023). El estado de la IA en 2023: El año clave de la IA generativa. 
• Quirumbay Yagual, D. I., Castillo Yagual, C. A., & Coronel Suárez, I. A. (2022). Una revisión del aprendizaje profundo aplicado a la ciberseguridad. Revista Científica y Tecnológica UPSE (RCTU), 9(1), 57-65. 
• REGLAMENTO (UE) 2024/1689 DEL PARLAMENTO EUROPEO Y DEL CONSEJO. 13 de junio de 2024. (Reglamento de Inteligencia Artificial) ELI: http://data.europa.eu/eli/reg/2024/1689/oj ISSN 1977-0685 (Electronic edition) 
• Rothman, K. J., Huybrechts, K. F., & Murray, E. J. (2024). Epidemiology: an introduction. Oxford university press.
• Russell, S.J. y P. Norvig (2004). Inteligencia artificial. Un enfoque moderno. Pearson Educación, S.A.  
• Serrahima de Bedoya, Á. (2022). Avances y desafíos de la inteligencia artificial. 
• Scheire Lieven (2023) A.I Artificiële intelligentie. Over een wonderlijke nieuwe vorm van software die nu al overal om ons heen is. Gent, België ISBN 9789463939591 
• Torres, C. E. T. (2014). Inteligencia colectiva: enfoque para el análisis de redes.  Estudios Gerenciales, 30 (132), 259-266  
• Todolí-Signes, A. (2019). En cumplimiento de la primera Ley de la robótica: Análisis de los riesgos laborales asociados a un algoritmo/Inteligencia Artificial dirigiendo el trabajo (Complying With the First Law of Robotics: An Analysis of the Occupational Risks Associated With Work Directed by an Algorithm/Artificial Intelligence). Labour & Law Issues, 5(2).
• Tversky, A., y Kahneman, D. (1974). El juicio bajo incertidumbre: heurísticas y sesgos. Pensar rápido, pensar despacio. Buenos Aires: Debate. 
• Valencia Mendoza, G. E., Barragán Merino, R. del L., Ledesma Trujillo, S. C., & Moraima Peña, P. (2024). Impacto de la Inteligencia Artificial Generativa en la creatividad de los estudiantes universitarios. Technology Rain Journal, 3(1), e33. https://doi.org/10.55204/trj.v3i1.e33
• XIN, Yang; KONG, Lingshuang; LIU, Zhi; CHEN, Yuling; LI, Yanmiao; ZHU, Hongliang; GAO, Mingcheng; HOU, Haixia y WANG, Chunhua. Machine Learning and Deep Learning Methods for Cybersecurity. IEEE Access [En línea]. 2018, vol. 6, pág. 35365-35381. ISSN 21693536. Disponible en: 10.1109/ACCESS.2018.2836950
• Zambrano, P. J. S., Cedeño, G. D. R. B., & Rivadeneira, M. R. L. (2016). La teoría constructivista de Jean Piaget y su significación para la pedagogía contemporánea. Dominio de las Ciencias, 2(3), 127-137. 

Por una gestión humana de la Inteligencia Artificial - Introducción a través de la ética y la gobernanza

(1) Por una gestión humana de la Inteligencia Artificial – Introducción a través de la ética y la gobernanza (Parte 1)

(2) Por una gestión humana de la Inteligencia Artificial – Introducción a través de la ética y la gobernanza (Parte 2)

(3) Por una gestión humana de la Inteligencia Artificial – Introducción a través de la ética y la gobernanza (Parte 3)

(4) Por una gestión humana de la Inteligencia Artificial – Introducción a través de la ética y la gobernanza (Parte 4)

(5) Por una gestión humana de la Inteligencia Artificial – Introducción a través de la ética y la gobernanza (Parte 5)

(6) Por una gestión humana de la Inteligencia Artificial – Introducción a través de la ética y la gobernanza (Parte 6)

(7) Por una gestión humana de la Inteligencia Artificial – Introducción a través de la ética y la gobernanza (Parte 7)