En este reportaje especial desentrañamos diferentes aspectos de una pregunta clave del momento actual: ¿será el liderazgo del futuro ‘ciberhumano’? ¿Cuáles serán las implicaciones legales y bioéticas del cambio de modelo? ¿Y cómo se puede mantener la mirada humanista?

Javier Mata es Senior Partner de Andersen y Diputado de la Junta de Gobierno del Ilustre Colegio de la Abogacía de Madrid.

“En mi caso”, explica el experto a CyberLideria MGZN, “con 64 años y por mi condición de abogado, después de casi cuarenta en el ejercicio de esta profesión he podido comprobar, disfrutar y sufrir, la enorme evolución de la técnica y de los elementos y herramientas tecnológicas”.

“Desde las tediosas búsquedas de doctrina y jurisprudencia en los viejos tomos de Aranzadi”, explica Javier Mata, “cuando pasábamos muchas horas analizando decenas de tomos en papel biblia, hasta las bases de datos jurídicas digitales y la nube, con ahorro de miles de horas de trabajo. Y, por último, la irrupción de la inteligencia artificial que permite no solo búsquedas automáticas rapidísimas, sino también análisis del entorno de los asuntos y propuestas de líneas de ataque o defensa procesal. La evolución ha sido inconcebible, tanto que llega a superar la capacidad de adaptación de los profesionales de una cierta edad y con formación analógica”.

“Desde el punto de vista de la gestión, de una empresa o despacho profesional”, añade, “el despacho del que formo parte, en su oficina de Madrid, en veinte años, ha pasado de 4 a 400 profesionales. La capacidad de gestión que los elementos informáticos proporcionan implica, también la posibilidad de realizar tareas de gestión en mucho menos tiempo y con muchos más datos, que se pueden analizar por la IA para obtener diagnósticos y propuestas de actuación, de forma tal que la gestión es no solo más eficaz y productiva, sino también con mucho menos riesgo”.

En su visión, “el líder del futuro contará con unas herramientas de apoyo extremadamente potentes, que facilitarán un mayor conocimiento tanto general como focalizado de todas las cuestiones, aspectos y problemáticas de cada Organización, y podrá tomar decisiones más rápidas y documentadas, limitando enormemente los riesgos asociados a su gestión. Evidentemente, lo que no se va a producir es la sustitución de la inteligencia humana por la inteligencia artificial. Las decisiones estratégicas y las tácticas no las puede tomar la máquina sino el hombre”.

El reto más importante será “tratar de interpretar y sistematizar el enorme caudal de información que tendrá a su disposición para ejecutar sus decisiones como líder”. Además, “discriminar el origen de los elementos digitales que sirven de apoyo. Me explico:  Cuando se contratan elementos y sistemas tecnológicos de apoyo a la gestión, es esencial conocer dónde y cómo se ha gestado ese producto tecnológico y dónde pueden encontrarse sus limitaciones o posibles errores o, incluso, posibles sesgos, originados por razones políticas o ideológicas”.

La confianza ciega en la tecnología y la confianza no crítica “solo conducen a dejar al criterio de la máquina decisiones que solo corresponden al líder, o ser mediatizado, de forma inconsciente, por sesgos que perjudican el apoyo a la gestión. La máquina es, y debe seguir siendo, un elemento auxiliar, todo lo potente que la tecnología permita. En cambio, las decisiones deben ser tomadas por el líder, que conoce y controla parámetros de carácter subjetivo que no son capaces de ser valorados por la inteligencia artificial más avanzada”.

Las organizaciones supranacionales, “y me refiero concretamente a la Unión Europea, están tratando de uniformizar la legislación de los países relativa a los avances en la tecnología. De un lado, para que los sistemas de los países sean compatibles, de otro, para que la prevención de los riesgos que genera el uso de la tecnología sea también uniforme”.

Por ello “se están regulando toda una serie de medios de prevención sobre el uso de tecnología, y un complejo elenco de controles que son válidos en todo el ámbito de la Unión Europea, para evitar, sobre todo en los sectores e industrias que se califican como críticos o estratégicos, que las distorsiones que eventualmente se puedan producir sean capaces de afectar a toda la Unión”.

Asimismo “la regulación del cumplimiento normativo y las sanciones por incumplimiento de los controles, así como las obligaciones de comunicación de incidencias, están llenando los boletines oficiales tanto de la Unión Europea como de cada uno de los países que la componen, tratando de tener una regulación común tanto en el uso de la tecnología como en la prevención de los riesgos que se usó genera”.

“Es evidente”, añade, “que los países cabecera en las áreas de influencia que se han conformado a nivel mundial están actuando en el mismo sentido, creando elementos de autoprotección que tienden a chocar con otros bloques de influencia internacional. “El reto es que esas diferentes regulaciones, que pueden estar influídas por cuestiones políticas o ideológicas, no colisionen entre sí, para evitar la producción de incidentes internacionales, e incluso, de conflictos”.

En definitiva, para Javier Mata, el liderazgo ciberhumano “está condicionado por la enorme cantidad de regulación que establece limitaciones en el uso de la tecnología y de la inteligencia artificial. Por tanto, el líder tiene que tener un asesoramiento muy profundo sobre esas limitaciones para no superar los límites impuestos y no provocar riesgos que pueden tener una compleja solución, en tanto que proceden de la falta de control de la tecnología”.

“Aunque los líderes cada vez son más jóvenes”, concluye, “y por tanto, tienen un conocimiento mucho más profundo de las nuevas herramientas tecnológicas, existe todavía una base muy importante de presidentes y altísimos directivos de grandes empresas, que tienen una edad más avanzada: no hace falta más que analizar las empresas del IBEX”.

“Cierto es que se está produciendo una evolución cada vez más rápida hacia el acceso a la dirección de grandes empresas y corporaciones, tanto en edad como en género”, señala, “pero que falta todavía casi una generación para que los líderes de las compañías e instituciones más importantes tengan, por vía natural, una formación profunda en las nuevas herramientas digitales de gestión”.

El reto sería por tanto “que los actuales presidentes y líderes que aún no hayan adquirido las capacidades de control de la tecnología tengan a su lado a quienes les vayan a suceder, con conocimiento profundo de las herramientas de gestión y de la inteligencia artificial. El riesgo es minusvalorar estas herramientas”. Y concluye: “no veo, de futuro, que la máquina, que lo digital, que la inteligencia artificial vaya a sustituir al criterio humano”.

Susi Torres es Afiliada independiente de 4Life Research

“Creo que el liderazgo del futuro será cada vez será más humano, más cercano, más sensible”. Con esta delicada declaración comienza su entrevista con CyberLideria MGZN la experta Susi Torres. “Para mí el liderazgo es liderazgo, y no hago una distinción entre presente y futuro”.

“El liderazgo es un rasgo intrínseco del ser humano”, señala categóricamente, “que ante todo es un ser emocional. El liderazgo tiene que ver con la capacidad de liderar primero nuestra propia vida, empezando por saber quiénes somos, hacia donde vamos, por qué y para que voy a hacer algo. Y, desde luego, creo que liderazgo es asumir la responsabilidad de nuestras propias decisiones”.

En su definición, “un líder ha de ser alguien de influencia, debe tener la capacidad de inspirar a otros a creer en ellos mismo y en sus posibilidades de éxito. No será de manual de libro, de postureo, de apariencias, de fachada, impositivo, exigente”.  

Respecto a los hallazgos recientes en biotecnología y medicina, la experta de 4Life Research explica que “para mí uno de los mayores descubrimientos en el mundo de la medicina son los Factores de Transferencia y gracias precisamente al desarrollo de la Bio y Nano tecnología, los hemos podido filtrar y en capsular para poderlos llevar al mundo”.

“Entiendo que el liderazgo ciberhumano será la combinación de la capacidad humana con la artificial, a fin de lograr algo”, añade. Y subraya la colaboración de todas las posibles fórmulas como una clave.

En relación con los retos de esta transición hacia un liderazgo en el que lo humano y lo digital se relacionan de modo directo, Susi Torres señala que “creo que el gran reto es que sepamos poner cada cosa en su sitio, que lo digital llegue a ser una herramienta maravillosa para hacer que brillemos mucho más como humanos y creemos un mundo mejor”.

Por ejemplo, vuelve en la conversación a señalar “este descubrimiento de los factores de transferencia precisamente como el resultado de la idea de un científico, que buscaba mejorar la vida de las personas reforzando su sistema inmune, y nunca lo hubiese logrado si no se hubiese valido de aparatos de bio y nanotecnología (combinación de lo humano y lo artificial)”.

“Los humanos somos”, termina esta entrevista, “personas y las máquinas son cosas que nos pueden ayudar a vivir mejor y a tomar mejores decisiones. Nunca debemos dejar que anulen nuestra capacidad de pensar, de razonar, de sentir, en definitiva, nuestra humanidad”.

María Enciso es Decana de la facultad de Ciencias Jurídicas y Políticas y Catedrática de Derecho Mercantil en la Universidad Rey Juan Carlos

Para la reputada académica, el liderazgo del futuro será híbrido y colaborativo. “Liderar consistirá en combinar capacidades humanas, es decir, juicio ético, empatía y visión, con herramientas digitales que amplifican la toma de decisiones, es decir, analítica avanzada, IA explicable y entornos de colaboración remota”.

Basándose tanto “en datos” como “en propósito”. Las decisiones podrán ser “sin duda más informadas por datos, pero tendrán que estar orientadas por un propósito —sostenibilidad, impacto social, ética—: el buen líder sabrá interpretar datos y contextualizarlos. El liderazgo será adaptativo y formativo, exigirá aprendizaje continuo y tendrá la capacidad de reconfigurar equipos rápidamente ante cambios tecnológicos y regulatorios”.

Asimismo, se dirige hacia “lo multidisciplinar y orquestador: será menos de “jefe experto” y más “orquestador” de talentos técnicos, jurídicos, humanos, integrando perspectivas diversas. Será transparente y responsable. La ética, la transparencia algorítmica y la rendición de cuentas serán exigencias básicas de legitimidad”.

No podrá ser ya, explica María Enciso, “tecnocrático ni deshumanizado. No triunfarán líderes que deleguen todo en algoritmos y olviden la dimensión humana —motivación, valores, justicia—. No será autoritario desconectado: el estilo jerárquico rígido y la toma de decisiones opaca quedarán obsoletos frente a entornos que requieren consenso y explicación. Tampoco será impermeable al escrutinio legal y social, ignorar privacidad, sesgos o impactos laborales será insostenible jurídica y reputacionalmente”.

La responsabilidad y la gobernanza sobre decisiones asistidas por IA, según la experta, “plantean la cuestión de quién responde cuando la decisión es sugerida por un sistema, por lo cual clarificar los deberes de supervisión, diligencia y documentación resulta crítico. En este contexto, la protección de datos y la privacidad exigen que los líderes garanticen el cumplimiento del GDPR y sus desarrollos, minimicen el uso de datos, apliquen evaluaciones de impacto y protejan los derechos digitales”.

Uno de los riesgos “es la posible discriminación y sesgo algorítmico. Para hacer frente a ello hay que prevenir y remediar sesgos en modelos que afectan empleo, crédito, seguros o acceso a servicios. En paralelo, el derecho laboral y la reconversión profesional requieren una regulación adecuada del teletrabajo, de los mecanismos de vigilancia y de los derechos digitales de los trabajadores, junto con marcos de formación y recualificación obligatorios”.

“El gobierno corporativo y los deberes fiduciarios”, subraya, “deben integrar los riesgos tecnológicos en el deber de supervisión de los consejos y en la responsabilidad de los administradores. También la contratación y las compras públicas de IA deben regirse por reglas de transparencia, integridad y responsabilidad en las relaciones con los proveedores tecnológicos”.

A ello se suman “las obligaciones de ciberseguridad y resiliencia operativa, necesarias para garantizar la continuidad de servicios críticos y la protección frente a ataques. El marco transfronterizo y la jurisdicción constituyen otro desafío, ya que es preciso establecer soluciones claras a los conflictos cuando los datos, modelos y servicios cruzan fronteras. Finalmente, los seguros, el compliance y la evidencia judicial deberán adaptarse mediante nuevas coberturas profesionales y estándares probatorios adecuados para actuaciones asistidas por IA”.

Los marcos legales influirán decisivamente en este liderazgo ciberhumano, “ya que estructuran incentivos y límites, promoviendo usos responsables, por ejemplo, obligaciones de transparencia, auditorías independientes o evaluaciones de impacto, y al mismo tiempo sancionar prácticas arriesgadas relacionadas con la privacidad o la discriminación”.

Definiendo nuevos roles y responsabilidades, “pues las normas sobre responsabilidad civil, penal o administrativa obligarán a que el liderazgo institucional incorpore el compliance tecnológico dentro de su modelo de gobernanza, exigen procesos documentales que convierten la trazabilidad y el registro —a través de logs y decisiones explicadas— en una práctica habitual de la dirección”.

Impulsando la formación obligatoria, “ya que la legislación sectorial puede requerir que determinados cargos reciban formación en inteligencia artificial, protección de datos y ética. Finalmente, facilitan la confianza pública, porque marcos claros como certificaciones o etiquetas de confianza legitiman el uso de tecnologías y permiten a los líderes explicar y defender sus decisiones frente a los distintos stakeholders”.

Uno de los principales riesgos será para ella “la sobredependencia tecnológica que puede conllevar pérdida de habilidades críticas —pensamiento jurídico crítico, juicio moral—, si se delega excesivamente en la máquina. La opacidad y explicación insuficiente, con sistemas opacos que impiden justificar decisiones ante clientes, tribunales o trabajadores son asimismo riesgos típicos. En esta misma línea se sitúa la vigilancia y la erosión de privacidad por el uso indiscriminado de datos para control en el trabajo o la gestión organizativa”.

También alude a “la posible desigualdad y exclusión, las brechas entre organizaciones que pueden adoptar tecnologías y las que no; entre trabajadores re-cualificados y obsoletos constituyen una importante amenaza, como lo es la concentración de poder con monopolios tecnológicos que limitan competencia y autonomía organizativa. Asimismo, entre los riesgos ocupan un lugar destacado los ciberataques y riesgos sistémicos con impacto reputacional y operativo por brechas en sistemas que soportan decisiones críticas”.

Los retos del ciberliderazgo exigen “un enfoque humano-centrado que integre tecnologías capaces de potenciar la dignidad, la autonomía y la corresponsabilidad de las personas. Este propósito debe apoyarse en un modelo de governance by design, con comités especializados, políticas claras y auditorías permanentes que orienten la implantación tecnológica bajo criterios de transparencia y cumplimiento”.

“Al mismo tiempo”, concluye, “resulta imprescindible impulsar la capacitación continua mediante programas de formación obligatorios para los equipos directivos y para toda la plantilla, enfocados en la alfabetización digital y la ética. Los contratos y la cadena de suministro deben incorporar cláusulas responsables que aseguren la ‘no discriminación’, el mantenimiento adecuado de los sistemas y la trazabilidad de los proveedores. Y se requiere un marco sólido de rendición de cuentas con protocolos claros de revisión, apelación y reparación frente a decisiones automatizadas, de modo que se garantice la confianza y la legitimidad en el uso de la IA”.

Rubén Fernández-Costa O’Dogherty

Periodista, Asesor y Miembro del Comité Editorial de CyberLideria MGZN