Percepción e impacto de tecnologías de IA en ciberseguridad
Rolando Fernández
Como disciplina, la ciberseguridad siempre ha sido cambiante y compleja. Esta constante transformación es lo que mantiene un alto interés para los profesionales de esta disciplina, a quienes se les desafía de forma continua a aprender algo nuevo. Sin embargo, en los últimos años, este ritmo ya acelerado de transformación se ha intensificado aún más, con avances revolucionarios en Inteligencia Artificial (IA) reescribiendo las reglas de la contienda entre atacantes y defensores. Los líderes de seguridad actuales deben construir estrategias para mantenerse a la vanguardia, de modo que las defensas puedan evolucionar junto con la sofisticación de los ataques. Se debe aprovechar el poder de la IA de una forma inmediata.
Recientemente se encuestaron a más de 1,500 profesionales de ciberseguridad y TI en todo el mundo para comprender sus actitudes sobre la IA en ciberseguridad. DARKTRACE pregunto cómo la IA está impactando las amenazas a las que se enfrentan, cómo están respondiendo y qué papel ven que la IA desempeña en los flujos de trabajo actuales y futuros de prevención, detección de amenazas, respuesta a incidentes y recuperación.
Se descubrió que un número creciente de directores de Seguridad de la información (CISO’s de sus siglas en inglés) ahora coincide en que los impactos de las amenazas impulsadas por IA en sus organizaciones son significativos. Una mayoría muy amplia (89%) cree que estas amenazas seguirán afectando a sus organizaciones durante mucho tiempo. Los profesionales de primera línea están especialmente preocupados, y los miembros de equipos de Seguridad y Operaciones de IT(SecOps por sus siglas en inglés) expresan mayores niveles de preocupación por los impactos a largo plazo de la IA que los CISOs.
Principales conclusiones de la investigación de DARKTRACE :
Las amenazas cibernéticas impulsadas por IA son una realidad, el 78% de los CISOs cree que la IA está teniendo un impacto en las amenazas cibernéticas hoy y se están moviendo rápidamente para protegerse.
Los profesionales de ciberseguridad se sienten significativamente más preparados para las amenazas cibernéticas con IA que hace 12 meses, pero el 45% aún siente que no está listo para esta realidad.
La IA proactiva se está convirtiendo en una parte integral del SOC (Security Operation Center), reforzando equipos con poco personal. A pesar de que la “insuficiencia de personal” se considera el mayor inhibidor para defenderse de amenazas impulsadas por IA, aumentar el personal de ciberseguridad está al final de la lista de prioridades de los participantes de la encuesta, con solo el 11% planeando aumentarlo en 2026 (menos que en 2024).
Los CISOs piden soluciones proactivas, basadas en plataforma, que mantengan los datos en sus instalaciones: prefieren plataformas más amplias frente a productos puntuales (89%) y soluciones que no requieren que sus datos se compartan externamente (82%). La gran mayoría confía en la capacidad de la IA para ayudarles a ser más proactivos.
Aunque las partes interesadas en ciberseguridad se sienten mejor preparadas para esta nueva realidad, casi la mitad (45%) de los encuestados aún carece de confianza en la preparación de su organización para enfrentar amenazas impulsadas por IA. Existe un fuerte deseo de mejorar la preparación cibernética y mucha conversación sobre medidas de reducción de riesgo como implementar una política de seguridad de IA en toda la organización. Sin embargo, más organizaciones han debatido políticas formales para el uso seguro y protegido de la IA que las que realmente las han implementado.
La educación en IA va en aumento, y la comprensión de la IA (en todas sus formas) por parte de las partes interesadas está creciendo, pero aún queda un largo camino por recorrer. Más de la mitad (56%) de los participantes de la encuesta admitió que no sabía exactamente qué tipos de IA se estaban utilizando en las soluciones de ciberseguridad que sus organizaciones estaban usando. También persiste una tendencia para sobreestimar el papel que desempeña la IA generativa en la ciberdefensa.
La educación y la capacitación serán claves para que los profesionales maximicen el valor que obtienen de las tecnologías de IA. Pero los líderes también deben entender las diferencias entre los distintos tipos de IA, cómo se aplican en las soluciones de ciberseguridad y cómo pueden reforzar las capacidades de los analistas humanos para permitir que los equipos de SecOps logren más con los mismos recursos. A medida que las organizaciones adopten estas herramientas, beneficiándose de su capacidad para optimizar flujos de trabajo, reducir falsos positivos y permitir la detección de amenazas nunca vistas, la necesidad de educación en IA solo se volverá más urgente.
Los actores maliciosos compiten por aprovechar el potencial transformador de la IA, y los programas líderes de SecOps hacen lo mismo. Los atacantes siempre buscan los objetivos más fáciles. Cada vez más, estos serán organizaciones que no han implementado soluciones eficaces impulsadas por IA que ayuden a mejorar la visibilidad, reducir la complejidad y aumentar la productividad.
De acuerdo con la investigación, el informe arroja luces sobre los riesgos crecientes y puede ayudar a las organizaciones a evitarlos, lo mismo que algunas recomendaciones importantes:
El 88% de los equipos de seguridad ya está experimentando ahorros de tiempo significativos gracias al uso de IA.
El 84% de los participantes de la encuesta prefiere soluciones de IA que no requieran que sus datos se compartan externamente para entrenamiento de modelos u otros fines.
El 95% de los encuestados cree que la IA puede mejorar la velocidad y la eficiencia de la ciberdefensa.
El 88% de los encuestados coincide en que el uso de IA dentro de la estructura de datos de seguridad es fundamental para liberar tiempo, de modo que los equipos de seguridad puedan ser más proactivos.
El 63% de los participantes cree que sus herramientas de ciberseguridad usan solo o mayormente IA generativa, aunque probablemente no sea el caso.
La adopción de IA en las empresas ha avanzado desde el inicio de 2024, pero la cantidad de brechas y las pérdidas por ciberdelincuencia no han disminuido en paralelo. Esto sugiere que los atacantes están adoptando IA al menos tan rápido como los defensores. Con la industria de ciberseguridad apresurándose a integrar IA en los flujos de trabajo de prevención, detección, respuesta y recuperación, las tecnologías están evolucionando mucho más rápido que las habilidades.
Contratar suficiente talento nuevo para resolver problemas persistentes en las operaciones de seguridad, como el agotamiento, las permanencias cortas en los puestos y la rotación excesiva, es casi imposible en el clima actual. La buena noticia es que existe una mayor conciencia entre las partes interesadas de que la IA, aplicada en los lugares correctos, puede ayudar a las organizaciones a superar estos desafíos. También hay mayor conciencia de que el momento de tomar estas medidas es ahora, antes de que los actores de amenazas avancen significativamente su capacidad de aprovechar esta tecnología.
Ya hay señales de que se está produciendo un cambio. Desde el lanzamiento de ChatGPT, los investigadores de amenazas han visto campañas de ingeniería social más novedosas. El análisis de correos electrónicos maliciosos revela que estas amenazas se vuelven cada vez más capaces de eludir las herramientas convencionales de seguridad de correo electrónico. También se están volviendo mucho más dirigidas, evidencia de que los actores de amenazas están aprovechando la IA generativa para crear mensajes a la medida para organizaciones selectas o incluso individuos.
La rápida adopción de tecnologías impulsadas por IA está imponiendo nuevas exigencias a los defensores. Quienes toman decisiones necesitan entender cómo funcionan los productos y las características para poder elegir con inteligencia qué implementar. Analistas de seguridad, respondedores a incidentes y arquitectos necesitan aprender a trabajar con esta nueva tecnología de forma práctica. Sin embargo, los malentendidos sobre la IA siguen siendo frecuentes. Para mí es necesario trabajar con ética en la convivencia de herramientas y operadores humanos.
Estoy de acuerdo con el informe que alienta ver un progreso significativo entre los líderes en madurez de IA y ciberseguridad, pero sigue existiendo una brecha entre estos pioneros y el resto. Dado que las amenazas impulsadas por IA son urgentes y evolucionan rápidamente, existe una necesidad apremiante de que todas las organizaciones se unan a este ritmo, pero repito con reglas de juego claras, éticamente hablando.
Menciona también el informe sobre los encuestados, que la mayoría de las industrias están siendo impactadas por las amenazas cibernéticas impulsadas por IA así:
- Comercio minorista (retail): 80% ya está viendo un impacto significativo de la IA.
- Tecnología: 79% ya está viendo un impacto significativo de la IA.
- Manufactura: 74% ya está viendo un impacto significativo de la IA.
- Gobierno: 54% ya está viendo un impacto significativo de la IA.
Debemos también tener en cuenta que las encuestas plantean lo siguiente:
El 78 % de CISOs o CIO están de acuerdo que las amenazas impulsadas por IA están teniendo un impacto hoy, según el rol laboral, vs el 65% de los profesionales de Seguridad y Operaciones de IT.
El 90% de los profesionales de seguridad están de acuerdo que las amenazas impulsadas por IA seguirán teniendo impacto a largo plazo vs. 88% de los CISOs.
Un 65% de los encuestados indicó que sus organizaciones consideran las amenazas impulsadas por IA como un tema separado de las amenazas no impulsadas por IA. En un mundo en el que es prácticamente imposible determinar si un ataque está impulsado por IA o no, y en el que las amenazas impulsadas por IA constituirán una porción progresivamente mayor de los ataques que enfrentan las organizaciones, esta distinción podría, en última instancia, volverse cada vez menos significativa. En su lugar, las organizaciones deberán centrar su atención en adoptar un enfoque de defensa proactivo y basado en el riesgo, que pueda contrarrestar de forma eficiente cantidades crecientes de amenazas únicas que llegan a velocidades cada vez mayores.
Para terminar, exploremos un poco la percepción que tienen los encuestados sobre el conocimiento y expectativas de impacto de los diferentes tipos de IA.
Darktrace ha publicado un documento técnico, que podría consultarse, donde se profundiza en los diferentes tipos de IA y técnicas que se utilizan actualmente en ciberseguridad.
Miremos entonces como los niveles de familiaridad difieren según los distintos tipos de IA, cuando se les pregunta a los profesionales encuestados si están “muy familiarizados” con cada tipo de IA , y cual de ellos tendrá mayor impacto en tres años. como en tres años:
IA generativa / modelos de lenguaje grandes (LLMs) 42%, en tres años 66%
Aprendizaje profundo y redes neuronales 36%, en tres años 53%
Aprendizaje automático supervisado (entrenado con conjuntos de datos seleccionados) 24% en tres años 53%
Redes generativas antagónicas (GANs) 30% en tres años 38%
Aprendizaje automático no supervisado (entrenado con datos sin etiquetar) 27% en tres años 39%
Procesamiento del lenguaje natural (NLP) 33% en tres años 23 %
En general, parece que los tipos de IA que resultan más familiares se perciben como más propensos a impactar en esta industria. Los ejecutivos están especialmente entusiasmados con el potencial futuro de la IA generativa para transformar SecOps, mientras que los profesionales esperan que el aprendizaje profundo, las redes neuronales y el aprendizaje automático supervisado tengan un mayor impacto que la IA generativa.
- 71% de los ejecutivos esperan que la IA generativa transforme SecOps.
- 50% de los profesionales de SecOps esperan que la IA generativa transforme SecOps.
Los ejecutivos reportan los mayores grados de familiaridad con todas las tecnologías por las que se les preguntó ,91% familiarizados con la IA generativa, 74% familiarizados con las redes generativas antagónicas GAN (Generativa Adversarial Networks por sus siglas en ingles), lo cual puede reflejar una comprensión más abstracta de lo que significa estar familiarizado con una tecnología. Quienes están en roles más prácticos pueden tener un entendimiento más profundo de lo que significa “familiar”, por lo que solo el 61% de los profesionales de SecOps dijo estar familiarizado con la IA generativa, mientras que el 60% estaba familiarizado con el aprendizaje automático supervisado y el 30% con las GAN.
Si las organizaciones quieren implementar IA de forma eficaz en sus estructuras de datos de seguridad, deberán invertir en capacitar a las partes interesadas de toda la organización (tanto en roles técnicos como no técnicos) para comprender mejor qué es la IA y cómo puede ayudar a elevar la ciberdefensa.
Las principales prioridades de los interesados en seguridad para mejorar sus defensas contra las amenazas impulsadas por IA incluyen aumentar herramientas existentes con soluciones impulsadas por IA y mejorar la integración entre sus herramientas de seguridad.
Es aquí donde sin duda empiezan claramente a convivir agentes IA y profesionales humanos para una optimización de los recursos y cobra mucha importancia tratados como el HUMANWARE de CONIA, y las diferentes mesas de trabajo lideradas también por CONIA especialmente las de Ciberseguridad e Infraestructura tecnológica para empresas, donde se deben abordar estos aspectos.