Sin categoría
La irrupción del modelo R1 de DeepSeek, con su código abierto y bajo coste, pone en jaque a gigantes como ChatGPT y NVIDIA, mientras revoluciona el sector de la IA y reconfigura el panorama bursátil. El panorama de la inteligencia artificial ha sido sacudido por la llegada de DeepSeek, una empresa china que ha irrumpido con fuerza gracias a su modelo R1. Este sistema ha demostrado ser más eficiente y económico que competidores de renombre como ChatGPT o Google Gemini. Con un enfoque basado en el código abierto, DeepSeek no solo está transformando el desarrollo de la IA, sino que también está causando estragos en los mercados financieros, afectando especialmente a empresas estadounidenses como NVIDIA, que ha perdido más de 440.000 millones de dólares en valor bursátil tras esta sorpresa tecnológica. R1: Eficiencia y Revolución El modelo R1 destaca por su capacidad para competir con los gigantes de la IA a una fracción de su coste. Con un presupuesto de entrenamiento de apenas 5,5 millones de dólares, DeepSeek ha logrado superar en pruebas de razonamiento matemático y programación a modelos como GPT-4, entrenado con un coste de 80 millones. Además, su modelo de código abierto permite a desarrolladores de todo el mundo examinar, modificar y personalizar la tecnología, marcando una gran diferencia frente a los sistemas cerrados de las grandes empresas occidentales. Impacto Global: Mercados en Crisis El éxito de DeepSeek ha generado una caída masiva en las bolsas internacionales. Empresas como NVIDIA (-12%), AMD (-4,77%), y otras como ASML (-7,2%) han registrado pérdidas importantes, afectando al Nasdaq, que cayó más del 4%. Los analistas temen que la eficiencia de DeepSeek ponga en peligro los modelos de negocio de estas compañías, cuyas valoraciones dependen de grandes inversiones en infraestructura y propiedad intelectual. Un Reto a la Hegemonía Tecnológica de EEUU Además de los mercados, DeepSeek plantea un desafío estratégico para el dominio tecnológico estadounidense. Con un enfoque más económico y accesible, expertos consideran que DeepSeek podría democratizar el uso de la IA, reduciendo la dependencia de costosas infraestructuras y sistemas occidentales. El Futuro de la Inteligencia Artificial DeepSeek ha cambiado las reglas del juego, marcando un antes y un después en el desarrollo de inteligencia artificial. Mientras los mercados financieros intentan ajustarse a esta nueva realidad, la comunidad tecnológica celebra un enfoque más inclusivo y eficiente, que promete abrir nuevas oportunidades para el desarrollo global de la IA. ¿Estamos ante el inicio de una nueva era tecnológica? La carrera ha comenzado.
28 Enero 2025
Sin categoría
Juan Perteguer, CEO y Cofundador de Supercademy La llegada de tecnologías disruptivas como ChatGPT está revolucionando el entorno educativo. Estas herramientas inteligentes, capaces de generar respuestas en tiempo real y adaptarse a diversos estilos de aprendizaje, han introducido una dinámica transformadora en la manera en que se adquiere el conocimiento. Sin embargo, su adopción plantea retos clave: ¿cómo fomentar el pensamiento crítico cuando las soluciones están al alcance de un clic? ¿Qué rol desempeña el docente en este nuevo ecosistema? ¿Por qué la IA es vista como enemiga en algunas circunstancias? Según el informe Revolutionizing Education with Artificial Intelligence de la UNESCO (2023), más del 70% de los educadores considera que la integración de la inteligencia artificial (IA) podría redefinir los métodos tradicionales de enseñanza si se implementa correctamente. Los modelos educativos tradicionales, donde todos los alumnos aprenden al mismo tiempo, están siendo reemplazados por enfoques más singulares. Un estudio reciente de McKinsey & Company, The State of Personalized Learning (2024), revela que los sistemas educativos personalizados pueden aumentar en un 30% la retención de conocimientos entre los estudiantes. Esta capacidad de personalización no solo ayuda a impartir conocimientos, sino también a fomentar la autonomía de los alumnos, permitiéndoles resolver dudas y reforzar su aprendizaje de manera autosuficiente. A pesar de los avances que trae consigo la inteligencia artificial, también surgen nuevos retos. Entre ellos, destaca la necesidad de garantizar la equidad en el acceso a estas tecnologías, especialmente en contextos socioeconómicos desfavorecidos, donde el acceso a herramientas digitales aún es limitado. También es crucial fomentar el pensamiento crítico, evitando que los estudiantes dependan exclusivamente de respuestas automáticas. Además, los docentes enfrentan la tarea de adaptarse a un entorno donde la IA actúa como complemento, pero no como sustituto. Esto requiere formación específica en su uso pedagógico. El informe de la Asociación Europea de Innovación Educativa, Bridging the AI Divide in Schools (2023), subraya la importancia de superar estas barreras para garantizar un aprendizaje inclusivo. Uno de los principales problemas en los centros escolares, especialmente en secundaria y bachillerato, es la dificultad para controlar el uso que los estudiantes menores de edad hacen de herramientas como ChatGPT, muchas de las cuales no están diseñadas específicamente para la educación. La solución que se ha desarrollado permite a los colegios ser los dueños de la IA, en lugar de meros espectadores del uso que los alumnos hacen de ella. Esto les otorga control gracias a una herramienta especializada al 100 % en educación y probada con éxito, que potencia las habilidades de los estudiantes a través de la inteligencia artificial. Así, el maestro vuelve a ocupar un rol central como guía hacia el conocimiento, mientras que tareas más mecánicas, como la creación de ejercicios o la repetición, se gestionan desde la plataforma. El papel del docente ha evolucionado para guiar a los estudiantes en el uso adecuado de estas tecnologías, combinando la interacción humana con el apoyo que proporciona la inteligencia artificial. Este enfoque permite a los profesores centrarse más en los aspectos emocionales y creativos del aprendizaje, ayudando a construir experiencias educativas más personalizadas y motivadoras. El impacto de sistemas como ChatGPT va más allá de los resultados académicos. Estas innovaciones no solo están preparando a los estudiantes para un mundo donde el acceso a la información es inmediato, sino también ayudándoles a desarrollar competencias esenciales como la interpretación, el análisis y la aplicación del conocimiento. En un contexto donde las habilidades avanzadas de resolución de problemas y pensamiento crítico serán imprescindibles para más del 50% de los trabajos en 2030, según el Foro Económico Mundial, la integración de tecnologías como la inteligencia artificial es un paso necesario para asegurar que las próximas generaciones estén preparadas para liderar el futuro. Juan Perteguer, CEO y Cofundador de Supercademy
27 Noviembre 2024
Rincón del CISO
La directora de tecnología de OpenAI, Mira Murati presentó su dimisión, alegando que quiere "tiempo y espacio para explorar por mi cuenta". Murati ha sido una de las tres ejecutivas más importantes de la empresa detrás de ChatGPT, y fue brevemente su líder el año pasado mientras los miembros del consejo de administración se debatían sobre el destino del CEO Sam Altman. "Nunca es el momento ideal para alejarse de un lugar que uno aprecia, pero este es el momento adecuado", escribió en un mensaje al personal de OpenAI que publicó en X. Altman respondió a la publicación de Murati en X escribiendo que "es difícil exagerar lo mucho que Mira ha significado para OpenAI, nuestra misión y para todos nosotros personalmente", y añadió que siente "gratitud personal hacia ella por el apoyo y el amor durante todos los tiempos difíciles". No se anunció quién la sustituye Murati, a través de un portavoz personal, declinó hacer más comentarios. OpenAI tampoco quiso hacer comentarios y remitió las consultas al tuit de Murati. Murati trabajó en Tesla y Leap Motion antes de unirse a OpenAI en 2018. En ese momento, OpenAI era un pequeño laboratorio de investigación sin fines de lucro centrado en desarrollar un sistema de IA capaz de reflejar una amplia gama de tareas humanas. Pero a raíz del asombroso éxito de ChatGPT, la organización se ha inflado y su enfoque se ha vuelto cada vez más comercial. La empresa se ha replanteado su estructura sin fines de lucro, mientras que los inversionistas se han mostrado cada vez más dispuestos a apostar miles de millones de dólares por su futuro. Murati llegó a OpenAI creyendo que la IA "sería el conjunto de tecnologías más importante que la humanidad haya construido jamás", declaró a Fortune el año pasado. "La misión de OpenAI realmente resonó conmigo: construir una tecnología que beneficie a las personas". ¿Abandono masivo? OpenAI se vio sacudida por un dramático golpe de la junta directiva el pasado mes de noviembre que vio cómo el CEO Sam Altman era destituido de su cargo y sustituido brevemente por Murati. Después de que la mayoría del personal amenazara con dimitir, y tras las peticiones de inversionistas como Microsoft, que había invertido miles de millones en la empresa, Altman fue restituido en su puesto con un consejo totalmente nuevo. En los meses siguientes, varios miembros de la dirección de OpenAI han abandonado la empresa, junto con altos cargos de ingeniería. Ilya Sutskever, uno de los primeros contratados de la compañía, cerebro técnico de gran parte de su trabajo anterior y miembro del consejo que había votado a favor de la destitución de Altman antes de retractarse, dimitió en mayo. La marcha de Sutskever fue seguida poco después por la de Jan Leike, un ingeniero que dirigió con él los trabajos sobre seguridad a largo plazo de la IA. John Schulman, el ingeniero que asumió la dirección de los trabajos de seguridad, dimitió en agosto. Greg Brockman, cofundador de OpenAI y miembro del consejo de administración junto a Altman, señaló que se tomaba un año sabático en la empresa hasta finales de año. Varios antiguos ejecutivos e investigadores de OpenAI han fundado nuevas empresas de IA. Sutskever lanzó este año Safe Superintelligence, centrada en el desarrollo de inteligencia artificial segura. El antiguo jefe de investigación de OpenAI, Dario Amodei, y su hermana Daniela, fundaron en 2021 Anthropic, que ahora es uno de los principales rivales de la empresa en la captación de clientes. Una fuente familiarizada con la situación sostiene que aún no se ha decidido el último día de Murati en OpenAI y que se están manteniendo conversaciones entre ella y la dirección de OpenAI para garantizar una transición fluida.
27 Septiembre 2024
Sin categoría
TaxDown presenta AsesorIA, el primer chatbot fiscal de España que responde al instante cualquier duda sobre la declaración de la renta. La inteligencia artificial está transformando diversos sectores, y la asesoría fiscal no es una excepción. TaxDown, empresa líder en implementación de tecnología avanzada, se sitúa a la vanguardia con la incorporación de IA para mejorar la eficiencia y la atención al cliente. Este chat experto gratuito, disponible 24 horas al día, 7 días a la semana, responde a cualquier pregunta sobre la declaración de la renta de forma clara y sencilla, desde las más básicas hasta las más complejas. Gracias a la IA y al conocimiento fiscal de TaxDown acumulado en 5 años, AsesorIA ofrece información precisa y actualizada sobre normativa fiscal, deducciones, plazos y más. Más allá del chatbot, TaxDown utiliza IA para optimizar la gestión de declaraciones de la renta y otros trámites. Los asesores fiscales cuentan con sistemas que les proporcionan información fiscal actualizada en tiempo real, garantizando la precisión y el cumplimiento de las normativas. En palabras de Álvaro Correa, responsable de IA y Data de TaxDown: "nuestro objetivo es ayudar al mayor número posible de usuarios en materia fiscal. Para ello, la IA ha sido clave en esta última campaña de la renta y lo seguirá siendo con los próximos proyectos que llevemos a cabo. Con el lanzamiento de este chat fiscal damos un paso más en nuestro propósito de ayudar a los clientes con sus impuestos y liberarles de burocracia gracias a una herramienta que utiliza la tecnología más puntera a la vez que usa un lenguaje fácil y sencillo para todo el mundo". La incorporación de IA a sus servicios consolida a TaxDown como empresa líder en innovación fiscal. Su compromiso con la tecnología y la atención al cliente la convierte en la aliada ideal para gestionar tus impuestos de forma fácil, rápida y segura.
1 Julio 2024
Sin categoría
Una escena se repite: en una reunión de amigos, un encuentro informal o una comida de trabajo, de repente, alguien muestra una oposición feroz a la IA y alguien responde en un tono tecno-optimista. Del mismo modo que ocurre con otros temas claves de esta época, ambos discursos se han vuelto arquetípicos. Todos, en distintos momentos, hemos podido usar uno o varios de estos discursos tópicos. En este reportaje para Cyberlidera Mgzn, diferentes expertos nos hablan sobre el doble filo de la IA, pero usando argumentos no excluyentes para elaborar una perspectiva más completa y sistémica sobre oportunidades y riesgos. Carlos Garriga, sobre el futurible: CIO Transformacional, profesor de IE University Para el experto Carlos Garriga, “normalmente los perfiles técnicos están más centrados en las posibilidades, en lo que se puede hacer y en buscar soluciones a los problemas”. En paralelo, “otras personas están mostrando dudas, preguntas, consideraciones éticas y preocupación sobre sesgos e impactos. Muchos estamos interesados en la regulación. Creo que se trata de un momento tan disruptivo y las cosas están cambiando a tal velocidad que a todos nos falta perspectiva, y tenemos que tener cuidado al trazar la curva, para no salir despedidos, como el skynet de Terminator”. En palabras del experto, los discursos sólo catastrofistas no movilizan, sino que provocan ansiedad, y los demasiado tecnológicos necesitan un contrapeso precisamente ahora que el futuro es posibilidad. “A qué revolución se va a parecer esta, aún no lo sabemos”, continúa. “Por proximidad, quizás a la llegada de la informática básica, que nos ayudó a automatizar tareas repetitivas, de poco valor añadido. Hace pocos años, la contabilidad se llevaba en libros con lápices y plumas enormes, que se ven en los museos. Cuando llegaron las hojas de cálculo y el software, porque fue así empezó la informática, al principio se llevaron contabilidades en paralelo, pero pronto todo cambió. El cambio actual tiene esa componente de ‘inteligencia’ que le da otro aspecto, y debe servir para poner aún más el foco en aquello que nos hace a los seres humanos diferentes”. “Lo cierto es que ese futuro dependerá también de nuestra posición”, señala Garriga. “En muchas industrias se dice la misma frase: ‘me encantaría tener más tiempo para dedicar a mi equipo y a mis clientes, a las interacciones de calidad. Quizás sea el momento de sacar ese tiempo, eliminando tareas como resumir documentos complejos, escribir correos en otros idiomas o en reuniones nada productivas, tarde o temprano las empresas tendrán que decidir si llevar esa productividad al margen o empezar a competir en aspectos más humanos”. “Lo artificial tiene el potencial de hacer las empresas más humanas”, Carlos Garriga “La IA puede venir precisamente a recuperar lo que perdimos al llegar la automatización y la informática. Pongamos un caso concreto”, propone el experto, “la industria sanitaria. En cada encuentro de diagnóstico muchas veces el médico especialista tiene que realizar tediosas tareas con el ordenador, rellenar formularios y accesos que se podrán automatizar perfectamente para que pudiera centrarse en aspectos más humanos. La IA podrá recoger la información con un micrófono o una cámara, incluirla en tu registro médico enriquecido, mostrarle al médico datos relevantes, patrones, sugerencias de diagnóstico… por eso pienso que lo artificial hará ciertas interacciones más humanas”. ¿Una nueva edad de trato más humano en ciertos sectores? Para Garriga, “en educación, también nos interesa un trato más cercano, humano, a otra escala. Ahora pasamos horas y horas en campus virtuales, rellenando encuestas de satisfacción, ¿podría la automatización de la IA devolver el foco a lo humano más íntimo y humano? La demo de ChatGPT reciente mostraba cómo ayudar a resolver una ecuación. ¿Será mejor que el profesorado tenga como labor orientar, evaluar, ayudar, intuir lo que encaja con las habilidades de cada estudiante? La ciencia ficción en muchas maneras nos puede inspirar: ahí está La fundación de Isaac Asimov, que describe sociedades en las que las máquinas cultivan”. “¿Por qué se diferencian las empresas?”, cuestiona. “El ejemplo paradigmático más reciente es el de Apple: el salto cualitativo en su propuesta es la calidad del producto, pero también la atención en sus tiendas, el modo de ofrecerlo, y muchas personas están interesadas en ese carácter premium. La informática aún está en la Edad de Piedra. Los programadores son como los orfebres del siglo XXI, y esto va a cambiar, porque esas tareas se automatizarán. De nuevo, la IA nos permitirá que el tiempo dedicado a esas tareas, ahora sirva para relacionarse: esto tendrá consecuencias sociales de mucho más calado, no necesariamente negativas”. Para él, “un cambio lento, y más profundo de lo que se anticipa se avecina. Hay que evitar que los conflictos lleguen a mayores: sin castigar injustamente a la tecnología, sino con el objetivo de ser más humanos, gracias a la IA. Quizás mi asistente virtual hablará con otro asistente para un tema de facturación pendiente. Ciertas tareas no necesitarán la intermediación de personas, en realidad malgastar en trato humano ese margen ocioso. Pero siempre humanizando la tecnología, dando la vuelta a ese concepto. ¿Podrá la automatización volver a ayudar a una persona de más edad a operar con su banco, el trato al cliente, podrá ser más humano”. “Un sesgo no tiene por qué ser siempre estructuralmente negativo: quizás la IA no tenga que huir de todos los sesgos, sino adoptar los más útiles”, Carlos Garriga En relación a los sesgos, explica que “un problema de la implantación. Al tratar de modelos con un entrenamiento supervisados por personas, cuenta un sesgo. Hay multitud de artículos sobre ello, porque esta tecnología se ha generado en la Bahía de San Francisco. Una vez identificados, ya existen maneras de corregirlos”. Para él, los sesgos pueden no ser siempre negativos. “¿Qué significa que una persona nos atienda mejor? Quizás estemos hablando de una colección de sesgos. Un sesgo no tiene por qué ser siempre estructuralmente negativo. Algunos sí que son de discriminación, y esto está legislado, se han detectado problemas y con gran agilidad todas las grandes tecnológicas lo están trabajando muy activamente. ¿Qué es lo que hace que personas de una misma cultura se entiendan mejor?”. “A corto plazo, tenemos que poner más foco en la verdadera innovación”, Carlos Garriga En el curso 2024-25, explica, vamos a ver una ‘early adoption’: “en el corto plazo vamos a tener que gestionar mucha frustración porque hemos echado rienda suelta a la imaginación, ¡para el asistente de las películas queda mucho! Tras esa primera fase de frustración, veo un claro avance al eliminar las tareas repetitivas, vamos a reinventar la forma en la que hacemos las cosas”. “En la producción artística existe una idiosincrasia. Sin duda, mucha de la música que escuchamos en la radio está basada en matemáticas, ritmos y algoritmos. Un Picasso o Dalí que rompieron con lo establecido y crearon un canon hay pocos. En el placer de escuchar música en directo, por ejemplo, la voz de una persona genera un impacto emocional cuando se detecta un cambio en el timbre de la voz en un momento dado, eso lo hace natural. La actual de la IA es una falsa creatividad, porque los LLM son imitativos y dan como solución la que creen más probable. El impresionismo no se le habría ocurrido jamás a una inteligencia artificial como mejor solución, ni el arte abstracto. Lo realmente nuevo se consideraría usando este lenguaje como una alucinación: hasta que se empiece a dar contexto a las alucinaciones, estas ideas fuera de la caja, como inventar un estilo musical, no son el territorio de estas nuevas inteligencias. Nos falta mucha perspectiva”. “La creatividad automatizada probablemente incluirá errores en el algoritmo para hacer el resultado más humano, para adaptarlo a nuestro gusto”, Carlos Garriga ¿Serán los nuevos artistas los grandes programadores? “No lo sé” (sonríe), responde el experto. “Más bien, yo preguntaría ¿seguirá habiendo programación, tal como la conocemos? Posiblemente la construcción de sí mismas, esa parte productiva, pasará a ser labor de las propias máquinas, el software sin fallo y la parte humana estará más en la creación de los nuevos algoritmos y en la mejora de las formas de hacer las cosas”. La visión del sector público: Esther Mateo, Directora General de Seguridad, Procesos y Sistemas Corporativos en ADIF “Como cualquier avance tecnológico, la IA generativa trae asociados riesgos y ventajas que es necesario gestionar, para ello es necesario tener información cualificada”, explica a CyberLideria MGZN la ingeniera industrial Esther Mateo, Directora General de Seguridad, Procesos y Sistemas Corporativos de ADIF. “Es fundamental no perder el espíritu crítico sobre lo que leemos. Hay demasiadas opiniones iguales basadas en expresiones similares, que son frases hechas, ya sean optimistas o pesimistas, en las que el criterio está copiado y es superficial”. Para ella, la clave está en “adoptar una actitud proactiva y crítica, constamente informada, en la que se apueste por aquellos casos de uso que aporten valor a la comunidad y no incrementen los riesgos o que estos sean asumibles”. Se trataría, por tanto, de “promover la protección de datos y la defensa de la ética en primer lugar, puesto que el aparente beneficio que aporte el caso de uso, nunca puede estar justificado si se vulnera la protección de datos o no se protege la ética, la transparencia o la equidad”. ¿Cómo salir del pensamiento dicotómico en la conversación sobre la IA? Para la directiva, está claro, “no podemos no asumir la IA, pero tampoco tendría sentido un despliegue masivo sin analizar cómo se va a implantar en diferentes casos de uso: tiene que crear valor, es decir, tiene que existir una ventaja y no afectar al resto de procesos, en esto estamos de acuerdo muchas empresas, en ser prudentes. Es necesario un estado de ánimo de ilusión comedida, basado en casos concretos de uso. No, de hecho una de las conclusiones recientes de los estudios de Gartner es que no todos los entornos están preparados”. “Es más lógico un estado de ánimo de ilusión comedida, basado en casos concretos de uso” ¿Dónde aportará la IA más valor? “Para que tenga aplicación auténtica, la documentación y los datos tienen que estar gobernados, por lo tanto, las organizaciones que necesitan pasar por un proceso de gobernar el dato deben comenzar por ahí: si no, no puedes implantar la IA. ¿En qué entornos funcionará muy bien? En términos jurídicos, por ejemplo, porque la legislación está curada y es estable en su mayor medida. Ahí se ven claramente las mejoras de tiempo, la automatización aporta especialmente. En un ámbito operacional no siempre será útil”. Para ella, es importante, en orden, “primero, una capa de revisión de la automatización de procesos, de aquellas actividades que aportan menos valor; segundo, una capa de gobierno del dato; tercero, una capa de IA tal como la conocíamos; y por último, una de IA generativa”. “La IA no será útil para toda una organización” En paralelo, añade Mateo, “hay que recordar que quizás la IA no sea útil para toda una organización, la moda parece indicar que sí, y esa puede ser una causa de ansiedad. Entender la empresa como un todo en términos de IA puede no tener sentido, puesto que esta tecnología no tiene aún un conocimiento tácito, las verificaciones serán durante mucho tiempo tal como las conocemos irremediables: puede perder el contexto, alucinar… el propio modelo se puede alejar de aquello para lo que está programado, hay un montón de aspectos que cuidar desde una ‘oficina de IA’ y yo creo también en licitar aquellos casos en los que no tengamos la capacidad de gestión interna, no en sobrecargar los recursos propios”. Las empresas e instituciones, señala, “tenemos un papel crucial en la adopción y aprovechamiento de la IAG para maximizar su potencial”. Para ello, según la explicación a CyberLideria MGZN de Esther Mateo, son necesarios seis puntos que formarían un modelo de implantación de IA en sí mismo: 1. Proporcionar formación para que los empleados comprendan las capacidades y imitaciones y eso permita identificar los casos de uso que más valor aportan a la empresa. 2. Vincular los objetivos estratégicos de la empresa con esos casos de uso de la IA Generativa. 3. Vincular el desarrollo de casos de uso primero al gobierno de dato. 4. Abordar la Gestión del cambio con una comunicación transparente: es necesario promover la experimentación y sostener las debilidades y los errores. 5. Fomentar el desarrollo de nuevas habilidades necesarias entre los trabajadores y usuarios. 6. Establecer controles medibles para garantizar la confianza de la IA que fomente un uso ético y responsable. La visión de un CISO Raúl Ruiz Iguzquiza, CISO y responsable de operaciones TI de Pelayo “Al principio de la llegada a Internet”, comparte Raúl Ruiz con CyberLideria MGZN, “había mucho miedo. La situaicón actual me recuerda mucho la época en que se abrió Internet, esta misma dicotomía hizo que muchas empresas se encerraran en castillos rodeados por fosos, y un puente. Poco a poco se empezó a ver la potencialidad que tenía estar conectados, aunque aún había miedo. Primero cambiamos las cartas por el correo electrónico, luego comenzamos a usar más y más Internet, teniendo cuidado de hasta dónde abrías y cómo. Es verdad que la IA es un cambio más radical, pero actualmente esa situación de un castillo rodeado de agua no existe”. Para Ruiz, “no se trata sólo de lo que marcamos en una estrategia, es que la propia innovación te va llevando. Esa dicotomía existe, es una herramienta muy potente para los que atentan contra la seguridad, porque les da muchas herramientas de suplantación de identidad, de fuerza bruta de ataque, pero también es buena para nosotros desde el punto de vista de la defensa. Hablando de innovación pura de negocio, se trata de lo mismo”. “Con la IA, la clave está en dónde va a parar tu conocimiento: aunque tus datos no salgan de tu zona, quizás lo que aprende sí” Una de las claves, en su opinión, está en la concentración: Google, Amazon y Microsoft ofrecen ahora servicios con los que es imposible competir. En su opinión, “la llegada de los grandes hiperescalares impide esa situación. Porque con la IA la clave no está sólo en qué pasa con el dato, la clave es adónde va a parar mi conocimiento”. Y señala un riesgo “aunque un proveedor nos asegure que nuestros datos no van a salir de su zona, lo que aprenda puede que sí”. ¿Habrá grandes sistemas de datos que decidan nunca compartirse con la IA? “Yo creo que aquí va a ser muy importante la regulación”, señala, “como la que en Europa está apareciendo ya. Sin embargo, vamos a lo que nos ha pasado con la globalización: el conocimiento se está compartiendo, quién va a ser el primero y cómo vamos a seguir innovando después”. Para él, “el salto importante es la unicanalidad, que implica un riesgo también. Lo más novedoso es la velocidad a la que va. Respecto a la unicanalidad, hasta ahora podías introducir automatización o inteligencia no generativa, yendo canal a canal, voz o escrito, el tema de las imágenes ha tenido su propio desarrollo, pero ahora el deseo de todas las compañías es la unicanalidad para relacionarte con el usuario final”. “Igual que otras tecnologías, tiene una potencialidad muy grande, el uso sin control es algo peligroso”, señala. “Una regulación adecuada es importante, porque puede producir una brecha pero para mí lo más importante es que tenemos que ser eficaces para no llegar a esos sesgos, a no engañar al usuario, esto me preocupa. Que las imágenes generadas por IA se deban etiquetar, por ejemplo, cambia todo. La brecha es doble: generacional y social, con las fake news, la desinformación puede servir para intentar aprovecharse de las personas, influir en la sociedad”. “El aprendizaje que turismo con los árboles de datos ha sido muy interesante”, señala. “Caso a caso, creo que se van a ir haciendo “business cases”. Meter todos los datos de pronto en la IA no tiene sentido: habrá muchas pruebas de concepto y se irá desplegando. En los casos más matemáticos ya hay modelos estadísticos muy desarrollados, ahí la IAG a priori aportará menos valor en el retorno porque el algoritmo ya existe. Nadie va a empezar por ahí. En un modelo de costes que ha costado cien años desarrollar, la mejora sobre el modelo no sea tan espectacular. Hay otras funcionalidades, en los que por ejemplo cuesta mucho encontrar un dato, o en reconocimiento automático de imagen puede ser muy interesante. Por otro lado, creo que inevitablemente vamos a tener que asumirla, y a qué velocidad depende también de con qué regulación”. A corto plazo, explica, “en el sector que más conozco, pienso que vamos a ver una adaptación y una integración en el corto, se van a dar pasos mirando el retorno, qué pasa con el dato y con su uso, y se va a trabajar con ello. En el momento que se vea su retorno, con seguridad y gestión de dato bajo regulación y sin dejar brecha abierta, empezará a coger velocidad. Con otras tecnologías fue así. Primero se buscaron procesos sencillos de usuario que fueran dando valor para quitar tareas repetitivas y aquello cogió velocidad. Hoy, en el corto vamos a ver resultados. Los primeros proyectos van a ser un acelerador de los demás (cada sector e industria tenemos ya identificadas esas primeras implementaciones y estamos poniendo el ojo encima; seguramente el que no esté empezando en esto, está haciendo los contratos, los resultados de las primeras implementaciones ya están casi terminados). Hay una apuesta muy fuerte en todas las industrias y sectores por los propietarios de la IA y los hiperescalares para poder garantizar la seguridad del dato”. “Los primeros proyectos exitosos de IA de cada sector e industria, van a ser un acelerador de los demás” A nivel de usuario, también se avecina un avance rápido. “No creo que vayamos a un cambio de habilidades, más bien que serán las mismas de siempre, pero usadas de otra manera. Creo que por ejemplo, respecto a las reuniones, algo tan sencillo como el uso de copilot de Teams de Microsoft, va a aportar un valor brutal. También en la traducción en tiempo real: la IA va a traer una mayor globalización, no como algo económico sino social. Pero seguirá siendo clave la capacidad de ver un proyecto en totalidad, de impulsar la innovación, de trabajar en equipo,…”. Rubén Fernández-Costa O’Dogherty Periodista, Asesor, y Miembro del Comité Editorial de CyberLideria MGZN.
17 Junio 2024
Opinión
La Inteligencia Artificial parece, de un modo u otro, haber invadido casi todos los espacios de nuestra vida. Recurrimos a ChatGPT buscando ayuda para revisar ese documento que tenemos pendiente, las funciones ya integradas en nuestro teléfono móvil empiezan a gestionar nuestra agenda y, en nuestro entorno laboral, los asistentes (copilotos) no solo automatizan procesos de manera autónoma, sino que gestionan nuestras reuniones, priorizando unas tareas sobre otras. En este nuevo escenario, los profesionales de Ciberseguridad comenzamos a plantearnos los beneficios que a medio y largo plazo tiene la Inteligencia Artificial a la hora de detectar, responder y prevenir amenazas, pero también nos planteamos los riesgos que supone desde un punto de vista del atacante. Sin duda, uno de los principales beneficios de la IA para ciberseguridad es su capacidad para identificar amenazas en tiempo real, al ser capaces de identificar patrones de ataque sin depender de la existencia de un patrón o una regla previamente definida. También nos van a ayudar a optimizar la gestión de vulnerabilidades, ya que seremos capaces de identificar posibles caminos de explotación de vulnerabilidades sin depender de la ejecución de ejercicios de Red Team o pentest. Y, en caso de incidente, los sistemas de respuesta basados en inteligencia Artificial son capaces de proveer una mejor capacidad de respuesta, conteniendo el incidente mediante la aplicación de bloqueos en tiempo real o de revertir cambios no autorizados en el sistema. Todo ello nos ayuda a reducir esfuerzos manuales y liberar recursos de analistas en el contexto actual de falta de profesionales de ciberseguridad. Pero del mismo modo, los profesionales de Ciberseguridad comienzan a plantearse los riesgos que la excesiva dependencia de la Inteligencia Artificial puede llegar a tener, así como el uso que los atacantes pueden hacer de la IA para lleva a cabo y optimizar sus técnicas de ataque. Por un lado, los sistemas de IA requieren grandes cantidades de datos para entrenar sus algoritmos, lo que plantea preocupaciones sobre la privacidad y la protección de datos, especialmente en un momento regulatorio tan importante como el que estamos viviendo. Por otro lado, los modelos de Inteligencia Artificial también pueden ser usados por los atacantes para automatizar y llevar a cabo ataques a gran escala. Podrían desarrollar malware más sofisticado, llevar a cabo ataques de phishing más efectivos y descubrir vulnerabilidades en tiempo real, reduciendo a segundos el periodo de tiempo que hay entre la identificación de la vulnerabilidad y el comienzo de su explotación. Todavía estamos viviendo los primeros días de lo que la IA puede hacer en el ámbito de la Ciberseguridad, y la pregunta es: ¿Qué veremos en el futuro? Una Inteligencia Artificial al servicio de los profesionales de la Ciberseguridad, ¿o modelos de ataque cada vez más eficientes gracias a una aplicación “maliciosa” de la IA? Yo personalmente quiero ser optimista, y creer que los beneficios que nos va a aportar nos van a hacer mejores y podremos ayudar a nuestras organizaciones a defenderse de una manera más efectiva. La industria tecnológica, y en especial aquellas compañías detrás del desarrollo de los modelos de IA, tienen una responsabilidad enorme para hacer que así sea y que no sean los atacantes los nos que ganen en esta batalla digital que libramos todos los días. Iván Sánchez CISO RSI
17 Junio 2024
Sin categoría
Gartner, Inc., uno de los principales referentes en investigación y consultoría, ha identificado las tendencias más relevantes en ciberseguridad para el año 2024. Estas tendencias serán analizadas en detalle en los próximos Gartner Security & Risk Management Summits, entre ellos el que se celebrará en Londres entre el 23 y el 25 de septiembre. Entre las principales fuerzas impulsoras en el ámbito de la ciberseguridad se destacan la inteligencia artificial generativa (GenAI), comportamientos inseguros de los empleados, riesgos de terceros, exposición continua a amenazas, brechas en la comunicación con el Board of Directors y enfoques de seguridad basados en laidentidad. La inteligencia artificial generativa (GenAI) está cambiando rápidamente el panorama de la ciberseguridad. Aunque inicialmente hay escepticismo, existe una esperanza considerable a largo plazo para esta tecnología. Las aplicaciones de LLM, como ChatGPT y Gemini, son solo el comienzo de suimpacto disruptivo. Gartner recomienda la colaboración proactiva con las unidades de negocio interesadas para apoyar el uso ético, seguro y eficaz de GenAI, aunque actualmente el enfoque debe estar en gestionar expectativas y fomentar experimentos. Otra tendencia destacada es la adopción de métricas de performance de ciberseguridad para mejorar la comunicación entre los líderes de seguridad y el comité ejecutivo de las organizaciones. Estas métricas permiten establecer una relación directa entre la inversión en ciberseguridad y los niveles de protecciónalcanzados, facilitando una expresión de la tolerancia al riesgo que es comprensible para ejecutivos no técnicos y respalda inversiones directas para cambiar los niveles de protección. En cuanto a los comportamientos y la cultura de seguridad, se observa un creciente enfoque en programas que promuevan cambios de comportamiento en lugar de simplemente aumentar la conciencia. Estos programas están diseñados para reducir los incidentes de ciberseguridad asociados concomportamientos de empleados, aumentando la adopción de controles de seguridad y permitiendo que los empleados tomen decisiones independientes sobre riesgos cibernéticos. El manejo de riesgos cibernéticos de terceros también está evolucionando hacia un enfoque más orientado a la resiliencia, minimizando las actividades de due diligence que se realizan al inicio. Gartner sugiere fortalecer los planes de contingencia y crear manuales específicos para incidentes relacionados con terceros, con el objetivo de proteger los activos más valiosos de manera continua. El manejo de la exposición continua a amenazas (CTEM, por sus siglas en inglés) es otra área que gana impulso. Este enfoque sistemático y pragmático permite a las organizaciones evaluar continuamente la accesibilidad y explotación de los activos digitales y físicos, enfocándose en las vulnerabilidades y amenazas que no pueden ser parcheadas. Se espera que las organizaciones que prioricen sus inversiones en seguridad basadas en programas de CTEM logren una reducción significativa en brechas de seguridad. Finalmente, la expansión del papel de la gestión de identidades (IAM) es crucial. A medida que más organizaciones adoptan un enfoque de seguridad basado en la identidad, la importancia del IAM crece, requiriendo un enfoque más centrado en la higiene fundamental y el fortalecimiento de los sistemas para mejorar la resiliencia. En resumen, las tendencias de ciberseguridad para 2024 reflejan un enfoque adaptativo y proactivo en la gestión de riesgos emergentes, promoviendo un uso más estratégico y ético de tecnologías avanzadas, y un enfoque más humano y resiliente hacia la seguridad interna y externa.
14 Mayo 2024
Suscríbete GRATIS y disfruta de contenido ilimitado sobre ciberseguridad y personas
