Los riesgos y los desafíos del uso de la IA en el contexto laboral
Es fundamental destacar los riesgos asociados con la introducción de la IA en el entorno laboral, entre los cuales se incluyen:
- la desinformación, que proporciona información engañosa a los diversos actores y distorsiona los resultados, lo que genera una pérdida de conexión con la realidad del propio trabajo;
- la discriminación y toxicidad de la IA, donde la creación y el uso de información discriminatoria y tóxica puede tener consecuencias legales, dada su relación con cuestiones éticas;
- actores maliciosos y el abuso de la IA, dado que aún no se han establecido regulaciones adecuadas para controlar el uso de la IA dentro de las empresas;
- las nuevas reglas y restricciones derivadas de las interacciones “hombre-máquina” que surgen con el uso de la IA;
- las amenazas adicionales a la privacidad y seguridad de los sistemas de información que la IA conlleva;
- los nuevos daños socioeconómicos y ambientales provocados por la adopción de la IA; y finalmente,
- la seguridad, los errores y las limitaciones de los sistemas de IA (AI Risk Repository, 2024).
Uno de los riesgos específicos asociados con la introducción de la IA es el impacto de su interfaz en la interacción con los usuarios. Si existe un riesgo relacionado con las reacciones psicológicas de los usuarios al interactuar con los sistemas de IA, las empresas y sus empleados corren el peligro de volverse excesivamente dependientes de esta tecnología, lo que podría resultar en la pérdida de autonomía y en una exagerada delegación de tareas a expensas de la intervención y el juicio humano (AI Risk Repository, 2024).
Al igual que los riesgos de abuso y la acción de actores malintencionados, los relacionados con la falta de protección de la privacidad y la seguridad de los sistemas de información recaen bajo la responsabilidad de las empresas.
Para abordar estos desafíos, se han desarrollado regulaciones y estándares como el GDPR (Reglamento General de Protección de Datos), NIS 2 (Seguridad de la Red y de la Información 2) e ISO27001 (Sistema de Gestión de Seguridad de la Información), que ayudan a las organizaciones a fortalecer la protección de la información. Sin embargo, como se señaló previamente, la IA también puede causar daño socioeconómico, ya sea de manera indirecta, al amplificar otros riesgos, o de forma directa, cuando se emplea para centralizar el poder de decisión y las ganancias corporativas. Además, este riesgo se materializa cuando la IA contribuye a deshumanizar el trabajo, reduciendo la calidad laboral, eliminando puestos de trabajo o fomentando nuevas formas de discriminación entre usuarios y diseñadores. Por último, aunque los centros de datos y la IA ofrecen simplicidad y eficiencia en su uso, representan un riesgo medioambiental significativo debido a su alto consumo energético (AI Risk Repository, 2024).
Como se mencionó anteriormente, los sesgos derivados de los datos representan uno de los desafíos éticos más significativos que enfrenta la IA. Los algoritmos suelen estar influenciados por los sesgos inherentes a los datos utilizados, y el gran reto radica en garantizar que dichos sesgos sean tratados de manera neutral y justa, evitando consecuencias negativas o positivas injustificadas (Baeza, 2021, como se citó en González, 2024).
Los macrodatos, comúnmente conocidos como Big Data, han generado importantes disrupciones en términos de privacidad y seguridad en el manejo de datos personales. Por ello, se propone que los gobiernos implementen marcos éticos y legales que garanticen tanto el bienestar de la población como la protección de su información (Arrigain, 2020). En este contexto, no solo se ven afectadas las personas que son conscientes del uso de tecnologías de IA, sino también grupos vulnerables y fácilmente manipulables, como niños y personas mayores. Además, las grandes empresas se benefician y enriquecen mediante la recopilación de datos generados gratuitamente por los usuarios en general (Coeckelbergh, 2020).
Riegos de la IA en el contexto laboral: La automatización es uno de los riesgos mas importantes dentro del uso de la IA en contextos laborales, ya que esta puede desempeñar un desempleo estructural especialmente en tareas rutinarias y repetitivas por ejemplo, Foxconn redujo 60,000 empleos tras introducir robots en sus procesos (Corvalán, 2019, p. 38). En este mismo, sentido, Goñi, 2019 señala que la automatización masiva podría reducir la interacción humana en el entorno laboral y afectar su calidad generando una deshumanización del empleo.
Otro de los riesgos asociados a la Inteligencia Artificial en el trabajo es la desigualdad y polarización laboral, que afecta la demanda de trabajadores de mediana calificación. A medida que la automatización avanza, se observa un crecimiento en la contratación de empleados altamente calificados para tareas especializadas y de baja calificación para labores menos complejas, lo que amplía la brecha salarial y genera una distribución desigual de oportunidades en el mercado laboral (Bravo et al., 2018, pp. 13-14).
En este mismo sentido, los empleados se encuentran expuestos a dispositivos digitales que permiten un monitoreo invasivo, afectando su privacidad y generando riesgos de vigilancia corporativa lo cual genera vulnerabilidad de los datos personales (Goñi, 2019, pp. 63-64). Asimismo, la discriminación en la selección de candidatos se convierte en un riesgo, ya que puede reforzar los sesgos en contrataciones si los algoritmos no están bien diseñados, perjudicando la equidad en el acceso al empleo (Cheatham et al., 2019).
Desafíos de la IA en el contexto laboral : La capacitación constante, la cual requiere una transformación del mercado laboral impulsada por la IA, exigiendo a los trabajadores que adopten un enfoque de aprendizaje permanente. La adaptación a un entorno automatizado implica adquirir habilidades digitales avanzadas, como el pensamiento creativo y la inteligencia emocional, elementos clave para colaborar con tecnologías emergentes (Corvalán, 2019, pp. 43-44). La educación y el desarrollo profesional deben ajustarse a las nuevas demandas del empleo, fomentando programas de formación que garanticen la inserción efectiva de los trabajadores en la era digital.
Asimismo, se debe establecer una legislación y regulación para mitigar los efectos negativos de la automatización, fundamentalmente estableciendo un marco legal sólido que proteja los derechos laborales y garantice un uso ético de la IA. La Unión Europea ha avanzado en la creación de propuestas legislativas que abordan el impacto de la IA en el empleo, promoviendo regulaciones que aseguren la transparencia y equidad en su implementación (Parra y Concha, 2021, p. 9). Este tipo de normativas resultan esenciales para evitar prácticas discriminatorias y definir límites en la automatización de procesos laborales.
En cuanto a la humanización de la IA “la cobotización”, entendida como la colaboración entre humanos y máquinas, representa una alternativa para integrar la IA sin reemplazar completamente la mano de obra humana. En este modelo, la tecnología actúa como un complemento, potenciando las capacidades de los trabajadores y permitiendo una inteligencia aumentada en la gestión de tareas laborales (Corvalán, 2019, pp. 44-45). Esta interacción equilibrada podría optimizar la productividad y mejorar la calidad del empleo sin generar una sustitución total de los trabajadores por sistemas automatizados.
En lo que respecta a la protección de la privacidad, el uso de herramientas digitales en el ámbito laboral ha generado preocupaciones sobre la privacidad de los empleados.
La recopilación masiva de datos, el monitoreo constante y la vigilancia digital pueden afectar los derechos individuales, requiriendo mecanismos de protección que regulen la gestión de información personal dentro de las empresas (Goñi, 2019, pp. 63-64). Para evitar vulneraciones, las organizaciones deben garantizar un uso responsable de los sistemas de IA, asegurando que no se vulneren la privacidad y el bienestar de los trabajadores.
La recopilación masiva de datos, el monitoreo constante y la vigilancia digital pueden afectar los derechos individuales, requiriendo mecanismos de protección que regulen la gestión de información personal dentro de las empresas (Goñi, 2019, pp. 63-64). Para evitar vulneraciones, las organizaciones deben garantizar un uso responsable de los sistemas de IA, asegurando que no se vulneren la privacidad y el bienestar de los trabajadores.
Como último desafío importante, se debe contemplar la idea de una reconfiguración del mercado laboral, ya que, si bien la IA puede reemplazar ciertas ocupaciones, también impulsa la creación de nuevas oportunidades en modalidades como el trabajo freelance y la economía colaborativa. La digitalización permite el desarrollo de formas de empleo más flexibles, donde los trabajadores pueden adaptar sus habilidades a sectores emergentes y participar en proyectos dinámicos sin depender exclusivamente de empleadores tradicionales (Corvalán, 2019, pp. 42-43). Esta transformación requiere una actualización constante de competencias para aprovechar los beneficios de un entorno laboral digitalizado.
Referencias
- Arrigain García, I. (2020). Regulación de las invenciones relacionadas con Inteligencia Artificial en el campo de la Propiedad Intelectual. Universidad Pontifica Comillas.
- Bravo, J., García, A. y Schlechter, H. (2018). Automatización e Inteligencia Artificial: desafíos del mercado laboral. Centro Latinoamericano de Políticas Económicas y Sociales.
- Cheatham, B., Javanmardian, K. y Samandari, H. (2019, 26 de abril). Enfrentando los riesgos de la Inteligencia Artificial. McKinsey & Company. https://www.mckinsey.com/capabilities/ quantumblack/our-insights/confronting-the-risks-of-artificial intelligence/es-CL#/
- Corvalán, J. G. (2019). El impacto de la Inteligencia Artificial en el trabajo. Revista de Direito Econômico e Socioambiental, 10(1), 35 51. https://doi.org/10.7213/rev.dir.econ.soc.v10i1.25870
- Coeckelbergh, Mark. (2020). AI ethics. Hoe omgaan met artificiële intelligentie?
- González, N (2024). Algunos parámetros jurídicos y éticos en torno a la Inteligencia Artificial. Una visión humanista de la tecnología. Editoral ABC
- Goñi, J. L. (2019). Innovaciones tecnológicas, Inteligencia Artificial y derechos humanos en el trabajo. Documentación Laboral, 2(117), 57-72. https://dialnet.unirioja.es/servlet/ articulo?codigo=7095888
- Massachusetts Institute of Technology. (n.d.). The AI Risk Repository. Retrieved April 26, 2025, from https://airisk.mit.edu/
- Parra, D. y Concha, R. (2021). Inteligencia Artificial y derecho. Problemas, desafíos y oportunidades. Vniversitas, 70, 1-25. https://doi.org/10.11144/Javeriana.vj70.iadp
Ley de IA: normas diferentes para niveles diferentes de riesgo
La nueva normativa establece obligaciones para proveedores y usuarios en función del nivel de clasificación del riesgo de IA. Aunque muchos sistemas de IA plantean un riesgo mínimo, es necesario evaluarlos todos.
Riesgo inaceptable
Los sistemas de IA de riesgo inaceptable que están prohibidos en la UE incluyen :
- manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños
- puntuación social: clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales;
- sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial en espacios públicos;
Existen algunas excepciones a esta calificación. Por ejemplo, los sistemas de identificación biométrica a distancia “a posteriori”, en los que la identificación se produce tras un retraso significativo, se permitirán para perseguir delitos graves y sólo cuando haya previa aprobación judicial.
Alto riesgo
Los sistemas de IA que afecten negativamente a la seguridad o a los derechos fundamentales se considerarán de alto riesgo y se dividirán en dos categorías.
- Los sistemas de IA que se utilicen en productos sujetos a la legislación de la UE sobre seguridad de los productos.
Esto incluye juguetes, aviación, automóviles, dispositivos médicos y ascensores. - Los sistemas de IA pertenecientes a ocho ámbitos específicos que deberán registrarse en una base de datos de la UE :
- identificación biométrica y categorización de personas físicas;
- gestión y explotación de infraestructuras críticas;
- educación y formación profesional;
- empleo, gestión de trabajadores y acceso al autoempleo;
- acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas;
- gestión de la migración, el asilo y el control de fronteras;
- asistencia en la interpretación jurídica y aplicación de la ley.
Todos los sistemas de IA de alto riesgo serán evaluados antes de su comercialización y a lo largo de su ciclo de vida. Los ciudadanos y ciudadanas tendrán derecho a presentar reclamaciones sobre los sistemas de IA a autoridades nacionales específicas.
Requisitos de transparencia
La IA Generativa, como ChatGPT, no se considerá de alto riesgo, pero tendrá que cumplir requisitos de transparencia y con la legislación de la UE en materia de derechos de autor :
- revelar que el contenido ha sido generado por IA;
- diseñar el modelo para evitar que genere contenidos ilegales;
- publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento.
Los modelos de IA de uso general que cuenten con un alto impacto y que pudieran plantear un riesgo sistémico, como el modelo de IA más avanzado GPT-4, tendrán que someterse a evaluaciones exhaustivas e informar a la Comisión de cualquier incidente grave.
0 Comments