El análisis parte de una realidad cada vez más extendida en el ámbito empresarial: herramientas capaces de evaluar candidatos, puntuar perfiles, recomendar decisiones o incluso ejecutar tareas de forma autónoma. Durante años, la participación de una persona al final del proceso se interpretó como una salvaguarda frente a posibles errores. Sin embargo, la expansión de la inteligencia artificial está poniendo en cuestión esa premisa. Según destaca Albert Castellanos, "la supervisión humana sobre la inteligencia artificial deje de ser una garantía y pase a funcionar como una especie de coartada".
El artículo recoge varios casos recientes que reflejan esta problemática. Uno de ellos tiene como protagonista a la Agencia Española de Protección de Datos (AEPD), que recientemente advirtió a una empresa que pretendía implantar una herramienta de inteligencia artificial para analizar currículos, asignar puntuaciones y priorizar candidaturas. Aunque la decisión final iba a recaer formalmente en una persona, la Agencia recordó que esa intervención solo puede considerarse válida cuando quien decide tiene capacidad real para evaluar críticamente el resultado generado por el sistema.
Según la fuente, "para que la intervención humana sea efectiva, quien decide debe poder valorar críticamente la puntuación del sistema y adoptar su propia decisión, sin limitarse a asumir el resultado". La diferencia resulta clave porque la normativa en materia de protección de datos establece obligaciones específicas cuando las decisiones se basan exclusivamente en tratamientos automatizados.
El análisis también pone el foco en la transparencia algorítmica dentro del ámbito laboral. Desde hace años, las empresas están obligadas a informar a la representación de los trabajadores sobre los criterios utilizados por algoritmos o sistemas de inteligencia artificial que influyen en contrataciones, evaluaciones o condiciones laborales. Además, la normativa más reciente refuerza el derecho de cada trabajador a conocer la existencia de estos sistemas y los criterios con los que operan. No obstante, el despacho subraya que informar no equivale a legitimar una decisión: la transparencia permite comprender el funcionamiento del sistema, pero no sustituye el juicio humano.
Otro de los ámbitos analizados es el de los denominados agentes de IA, herramientas capaces de planificar tareas, consultar información, utilizar aplicaciones externas y actuar en representación de terceros. En este terreno, CECA MAGÁN Abogados destaca las orientaciones emitidas por la AEPD, que alertan sobre el riesgo de trasladar automáticamente la responsabilidad a los supervisores cuando se produce un error.
En palabras recogidas por el artículo, la autonomía de estos sistemas puede favorecer el llamado "sesgo de automatización", es decir, la tendencia de los usuarios a aceptar las recomendaciones de la máquina sin someterlas a un análisis crítico suficiente. Para el despacho, este riesgo exige definir claramente las responsabilidades y reforzar los mecanismos de gobernanza de estas tecnologías.
La cuestión adquiere una dimensión todavía más relevante en materia de ciberseguridad. El artículo recuerda que la AEPD informó recientemente de una brecha de datos personales en la que el ataque habría sido ejecutado mediante un agente de inteligencia artificial capaz de buscar vulnerabilidades de forma autónoma y acceder a información sensible. Según el análisis, este episodio demuestra que "la seguridad de los tratamientos no puede depender únicamente de la intervención manual".
Ante este escenario, Albert Castellanos sostiene que las organizaciones deben avanzar hacia modelos de supervisión que puedan acreditarse de forma objetiva. "Una supervisión sin tiempo, sin información o sin capacidad para modificar el resultado no protege a nadie", afirma el autor. Por ello, recomienda que las discrepancias entre el criterio humano y las propuestas de la inteligencia artificial queden registradas, ya que constituyen la mejor evidencia de que la supervisión existe realmente.
La conclusión del análisis es clara. El debate ya no gira en torno a si una persona participa o no en el proceso, sino sobre el grado real de control que ejerce. Como resume el propio Albert Castellanos, "la cuestión no es si existe una persona en el proceso. La cuestión es qué puede hacer realmente esa persona y si la organización es capaz de demostrarlo".
VER POST
