Sin categoría
Wehumans, solución de humanos digitales del grupo ABAI, analiza las 4 tendencias que marcarán el futuro de la IA en 2025 Entre las tendencias clave se destaca el auge de los agentes de IA autónomos, el perfeccionamiento de los asistentes de voz, la necesidad del desarrollo de una IA sostenible y el posicionamiento de Europa como líder en IA segura y ética La inteligencia artificial ha logrado importantísimos avances en 2024, lo que ha permitido que se haya avanzado considerablemente su adopción en sectores como salud, banca, seguros, educación, e-commerce, retail y viajes,entre otros. Mientras que 2023 fue el año del boom de la IA generativa y de las altas expectativas, Mckinsey reporta que en 2024 el 72% de las organizaciones planea integrar la IA en sus operaciones para 2025, un aumento considerable respecto al 50% del año anterior. En este contexto, Wehumans, solución de humanos digitales del grupo ABAI, analiza las 4 tendencias que marcarán el futuro de la IA en 2025. Un año en el que las perspectivas de la IA están marcadas por avances significativos en varias áreas clave, entre los que destaca la evolución en el desarrollo de la IA autónoma respecto a la generativa. La IA autónoma opera y toma decisiones de forma independiente Estos sistemas de IA están diseñados para operar y tomar decisiones de forma independiente en entornos complejos gracias a su capacidad para percibir su entorno, aprender de sus experiencias y adaptarse a nuevas situaciones sin intervención humana constante. De hecho, según predice Gartner, una de cada tres las aplicaciones de software empresarial en 2028 ya incluirán agentes de IA frente a menos del 1% en 2024, lo que permitirá que el 15% de las decisiones laborales cotidianas se tomarán de forma autónoma. Los asistentes de voz potencian una interacción humano-máquina más intuitiva y efectiva Paralelamente al desarrollo de los agentes autónomos, las predicciones de Astute Analytica apuntan a que el mercado mundial de los asistentes de voz, aplicaciones de IA diseñadas para interactuar con usuarios mediante comandos de voz, aumente del 36,6% del 2022 a un 46,9% esperado para 2025. Dadas las tendencias actuales, se espera que estos sistemas continúen evolucionando hacia interacciones más naturales y empáticas gracias a mejoras en el reconocimiento y adaptación al tono emocional del usuario. Este avance no solo enriquecerá la experiencia del usuario, con la disponibilidad de voces más realistas y avanzadas, sino que se adaptan en tiempo real al tono y el sentimiento de quien les habla, sino que también abrirá nuevas oportunidades para la integración de estas tecnologías en aplicaciones comerciales y personales, potenciando la interacción humano-máquina de manera más intuitiva y efectiva. Son. Los humanos digitales se posicionan a la vanguardia de la innovación en inteligencia artificial conversacional Según un estudio de Emergen Research, los humanos digitales (avatares basados en IA) se convertirán en un estándar en numerosos sectores de aquí a 2025, logrando una simbiosis entre tecnología de vanguardia y aplicabilidad práctica en entornos empresariales, para permitir interacciones personalizadas y de valor. Esta tecnología, basada en Inteligencia Artificial Generativa, procesamiento del lenguaje natural, y tecnologías de representación visual 3D, se posiciona a la vanguardia de la innovación en inteligencia artificial conversacional, redefiniendo la productividad y la atención al cliente en el proceso. Desarrollo de IA ambientalmente responsable, socialmente beneficiosa y económicamente viable Según un análisis de la revista científica Nature, una aplicación de chatbot de IA generativa que asista a 50 trabajadores de un call center, donde cada uno de ellos atienda a cuatro clientes por hora, puede generar unas 2.000 toneladas de dióxido de carbono al año. Además, el consumo de agua derivado de la adopción a gran escala de la IA generativa puede llegar igualar la ingesta anual de líquidos de más de 328 millones de adultos. Así, el objetivo pasa por el desarrollo y uso de sistemas de IA que sean ambientalmente responsables, socialmente beneficiosos y económicamente viables a largo plazo. Esto incluye desde la optimización del consumo de energía y la reducción de la huella de carbono, hasta la consideración del impacto ético y social de la implementación de esta tecnología. Regulación para posicionar a Europa como líder en IA segura y ética Por último, la regulación de la IA, especialmente en Europa con su Reglamento de Inteligencia Artificial, en su objetivo de establecer normas para el desarrollo, despliegue y uso de sistemas de IA, plantea un doble desafío: proteger derechos fundamentales y garantizar la seguridad. Aunque algunos temen que estas regulaciones más restrictivas puedan frenar la innovación y suponer una pérdida de competitividad tecnológica frente a potencias como Estados Unidos y China, también es posible que establezcan un estándar global en cuanto a transparencia y ética en la IA. En definitiva, la regulación presenta importantes desafíos para los gobiernos y las empresas, pero también establece un marco que busca fomentar la innovación responsable, proporcionar claridad regulatoria y posicionar a Europa como líder en IA segura y ética. A pesar de los obstáculos, países como Italia y España continúan apostando con fuerza por impulsar la adopción de la IA y lideran la inversión en proyectos de IA con 1.895 millones y 1.200 millones de euros respectivamente.
10 Diciembre 2024
Rincón del CISO
De cara a 2025, el panorama de la ciberseguridad evolucionará vertiginosamente a medida que los atacantes sigan perfeccionando su arte. La inteligencia artificial (IA) ya está ayudándoles a crear códigos y señuelos más convincentes, especialmente en idiomas que tradicionalmente han supuesto una barrera de entrada; así como a automatizar los ataques y a dirigirse a las personas con mayor precisión. Al mismo tiempo, los atacantes se centran más en consumidores individuales, utilizando redes sociales y aplicaciones de mensajería antes de pasar a organizaciones más grandes. Sin embargo, no sólo se transforman los vectores de ataque. Las organizaciones también se enfrentan a las complejidades de la gestión de la identidad digital, los entornos multicloud y las nuevas estrategias de datos, con nuevas normativas que exigen controles más estrictos. Por eso, garantizar que se dispone de las herramientas adecuadas se está convirtiendo rápidamente en una prioridad para los equipos de seguridad. Los expertos de Proofpoint, empresa líder en ciberseguridad y cumplimiento normativo, ofrecen sus predicciones sobre ciberseguridad para el año que viene, arrojando luz sobre tendencias y tecnologías que definirán la próxima oleada de retos y soluciones de seguridad. Los ciberdelincuentes explotarán la IA manipulando datos privados Asistimos actualmente a una fascinante convergencia en el ámbito de la IA, a medida que los modelos cuentan con más capacidades y los agentes semiautónomos de IA se integran en flujos de trabajo automatizados. Esta evolución abre interesantes posibilidades para que los ciberdelincuentes satisfagan sus propios intereses y, concretamente, en cuanto a cómo podrían manipular los datos privados utilizados por los grandes modelos de lenguaje (LLM). Dado que los agentes de IA dependen cada vez más de datos privados en correos electrónicos, repositorios de documentos SaaS y fuentes similares para su contexto, asegurar estos vectores de amenaza será aún más crítico. Según Daniel Rapp, director de IA y Datos de Proofpoint, el año que viene empezaremos a ver los primeros intentos de los atacantes de manipular fuentes de datos privados: “Cabría la posibilidad de que los ciberdelincuentes engañasen a propósito a la IA, contaminando los datos privados utilizados por los LLM, como alterar deliberadamente correos electrónicos o documentos con información falsa o engañosa, para confundir a la IA o hacer que haga algo perjudicial; y esto requerirá mayor vigilancia y medidas de seguridad avanzadas para garantizar que la IA no se deje engañar por información errónea”. La era de las máquinas para toma de decisiones a través de la IA “La IA generativa irá más allá de la generación de contenidos para convertirse en el motor de la toma de decisiones detrás de innumerables procesos empresariales, desde recursos humanos a marketing o DevOps”, explica Ravi Ithal, director general del Grupo de I+D y gestión de productos de DSPM. Así, en 2025, la IA se convertirá en una aprendiz de desarrolladores, haciendo de todo, desde automatizar la corrección de errores hasta pruebas y optimización de código. El uso de herramientas de desarrollo asistidas por IA se acelerará en el próximo año, cerrará las brechas en habilidades, reducirá las tasas de error y ayudará a los desarrolladores a seguir el ritmo de los ciclos de lanzamiento más rápidos de DevOps. La IA también potenciará DevOps mediante la predicción de posibles cuellos de botella y la sugerencia preventiva de optimizaciones. Esto transformará los procesos de DevOps en líneas de producción predictivas y creará flujos de trabajo que solucionen los problemas antes de que afecten a la producción. La IA se convertirá en parte esencial al hacer negocios, aunque bajo escrutinio Hace unos años, el cloud, la movilidad y el Zero Trust eran simplemente conceptos que estaban de moda, pero ahora forman parte de la manera en que las organizaciones hacen negocios. “Las tecnologías de IA, y en especial la IA generativa, son consideradas actualmente una amenaza para terceros; y la pregunta que se están haciendo los CISOs es cómo utilizan los empleados la IA para saber dónde pueden estar poniendo en riesgo la información confidencial, de ahí que se produzca un mayor escrutinio en torno a cómo los LLM están potenciando estas herramientas”, apunta Patrick Joyce, CISO global residente de Proofpoint. Entender el riesgo, la materialidad de ese riesgo, los beneficios, así como las garantías en fabricación y seguridad de las herramientas de IA concentrarán la preocupación de los CISOs. La geopolítica influirá en el ciberespionaje y en el aumento de poderes locales Este año se ha demostrado que el ciberespionaje alineado con estados está profundamente entrelazado con la dinámica geopolítica y, en 2025, las operaciones de APT seguirán reflejando los conflictos mundiales y regionales. Para Joshua Miller, investigador de amenazas en Proofpoint, “las campañas de ciberespionaje no se limitarán a las grandes naciones históricamente consideradas como ciberactores maduros, sino que proliferarán una variedad de grupos centrados en conflictos regionales que buscarán las ventajas del mundo cibernético”. Además, los adversarios proestado realizarán operaciones para apoyar otros objetivos nacionales, como la difusión de propaganda o la generación de ingresos. Es probable asimismo que los autores de amenazas selectivas aprovechen la continua balcanización de internet para intentar distribuir sus cargas maliciosas. Los consumidores serán el campo de pruebas para estafas “Con el tiempo, las defensas por capas y la concienciación en materia de seguridad han fortalecido a las organizaciones frente a muchas de las amenazas cotidianas, por lo que hemos asistido a un repunte de los ciberdelincuentes que vuelven a dirigirse a los consumidores particulares para sacar provecho”, declara Selena Larson, investigadora de amenazas de Proofpoint. Las estafas laborales sofisticadas o el pig butchering son dos ejemplos de ingeniería social fuera de un entorno corporativo. En 2025, veremos un resurgimiento en el número de atacantes de amenazas menos refinadas que aprovechan canales de comunicación alternativos, como redes sociales y aplicaciones de mensajería cifrada, para centrarse en desplumar a individuos fuera de la visibilidad de la empresa. El “cómo” evoluciona más rápido que el “qué” entre los ciberdelincuentes El objetivo final de los ciberdelincuentes no ha cambiado mucho en los últimos años, puesto que sus ataques siguen teniendo una motivación económica. Así sucede con el Business Email Compromise (BEC), diseñado para provocar transferencias bancarias fraudulentas o compras con tarjetas regalo, además de los ataques de ransomware y extorsión de datos tras un ataque inicial con malware o una herramienta legítima de gestión remota. “Aun así, la manera en que se ejecutan los ataques sí que está evolucionando a un ritmo vertiginoso. Los pasos y los métodos que emplean los ciberdelincuentes para inducir a una víctima a descargar malware o a efectuar un pago implican técnicas más avanzadas y complejas”, indica Daniel Blackford, jefe e investigación de amenazas de Proofpoint. En el último año, los actores de amenazas con motivaciones financieras han manipulado hilos de correo electrónico con respuestas de múltiples cuentas comprometidas o suplantadas, han utilizado técnicas ClickFix para ejecutar Powershell en vivo y han abusado de servicios legítimos como Cloudflare para añadir dificultad y variedad a sus ataques. El camino desde el clic inicial (o respuesta a la payload de primera etapa) seguirá siendo cada vez más específico y enrevesado para despistar a defensores y soluciones automatizadas. El smishing se vuelve más visual con ciberataques por MMS El abuso basado en MMS, a través de mensajes con imágenes o gráficos para engañar a los usuarios de dispositivos móviles y que proporcionen datos confidenciales o caigan en estafas, es un vector de ataque floreciente que se expandirá rápidamente en 2025. En palabras de Stuart Jones, director de la división Cloudmark, “el MMS permite el envío de imágenes, vídeos y audio, lo que lo convierte en una poderosa herramienta para que los atacantes elaboren estafas más atractivas y convincentes, incrustando enlaces maliciosos para hacerse pasar por empresas o servicios legítimos y engañar a los usuarios, quienes a menudo no son conscientes de que están utilizando MMS, creando así una tormenta perfecta para la explotación”. Cambiará el papel del CISO En 2025 se verá tanto la expansión como la contracción del papel del CISO. Ya presentes en la mayoría de las salas de juntas, muchos CISOs tienen actualmente la tarea de dirigir los debates y determinar la importancia de la ciberseguridad a un alto nivel corporativo, ampliando su responsabilidad tradicional. Y, por el lado de la contracción, también hay más casos de división o subdivisión de la función ya de por sí amplia del CISO con la justificación de que es demasiado para una sola persona. “Aunque no sea o vaya a ser una tendencia generalizada, algunos están empezando a dividir la función entre ciberarquitectura, defensa frente a amenazas y respuesta a incidentes, por un lado, y cibergobierno, riesgo y cumplimiento, por otro. Si esto continúa, se convertirá en una especie de dragón de dos cabezas, y será más difícil saber quién es responsable”, apostilla Patrick Joyce, CISO global residente de Proofpoint. Más plataformas consolidadas, menos soluciones puntuales brillantes El paso de soluciones fragmentadas a plataformas de confianza seguirá ganando impulso los próximos meses. “Las limitaciones presupuestarias y de talento, junto con la complejidad de gestionar múltiples sistemas no integrados, están convirtiendo la consolidación en prioridad para los CISOs”, apunta Nate Chessin, vicepresidente sénior de ingeniería de ventas mundiales. Los CISOs y los CIOs se centrarán en optimizar sus activos de proveedores existentes no sólo para reducir los dolores de cabeza operativos, sino también para mejorar los resultados de seguridad, proporcionando la resiliencia necesaria ante un ciberpanorama de lo más volátil.
4 Diciembre 2024
Suscríbete GRATIS y disfruta de contenido ilimitado sobre ciberseguridad y personas
