La inteligencia artificial ya está demostrando su potencial para transformar prácticamente todos los aspectos de la ciberseguridad, tanto para bien como para mal.

Si hay algo que representa la proverbial arma de doble filo, podría ser la IA: puede actuar como una herramienta formidable para crear defensas de ciberseguridad sólidas o comprometerlas peligrosamente si se usa como arma.

¿Por qué es importante la seguridad de la IA?

Las organizaciones deben comprender tanto el potencial como los problemas asociados a la ciberseguridad con IA, dada la ubicuidad de todas las formas de IA en el entorno empresarial global. Su uso por parte de agentes maliciosos ya es motivo de preocupación.

Según McKinsey, la adopción de la IA por parte de las organizaciones aumentó hasta el 72 % en 2024, frente a alrededor del 50 % en años anteriores en múltiples regiones e industrias. Pero la naturaleza compleja y los enormes requisitos de datos de los sistemas de IA también los convierten en objetivos principales para los ciberataques. Por ejemplo, los datos de entrada de los sistemas de IA pueden manipularse de forma encubierta en ataques adversarios para producir resultados incorrectos o perjudiciales.

Una IA comprometida puede tener consecuencias catastróficas, como filtraciones de datos, pérdidas económicas, daños reputacionales e incluso daños físicos. El potencial de uso indebido es enorme, lo que subraya la necesidad crítica de contar con medidas sólidas de seguridad de la IA.

Un estudio del Foro Económico Mundial reveló que casi la mitad de los directivos se preocupan sobre todo por cómo la IA elevará el nivel de riesgo de amenazas como el phishing. El informe de ciberseguridad de 2024 de Ivanti confirmó esas preocupaciones.

A pesar de los riesgos, el mismo informe de Ivanti concluyó que los profesionales de TI y seguridad se muestran en general optimistas respecto al impacto de la ciberseguridad con IA. Casi la mitad (46 %) considera que supone un beneficio neto, mientras que el 44 % cree que su impacto no será ni positivo ni negativo.

Más información: Informe sobre el estado de la ciberseguridad 2024: punto de inflexión

Posibles ciberamenazas de la IA

La IA introduce nuevos vectores de ataque que requieren defensas específicas. Algunos ejemplos son:

  • Hackeo de sitios web: Los investigadores han descubierto que el gran modelo de lenguaje de OpenAI puede reutilizarse como un agente de hackeo con IA capaz de atacar sitios web de forma autónoma. Los ciberdelincuentes no necesitan conocimientos de hacking, solo la capacidad de indicar correctamente a la IA que haga el trabajo sucio por ellos.
  • Envenenamiento de datos: Los atacantes pueden manipular los datos utilizados para entrenar modelos de IA, provocando que funcionen incorrectamente. Esto podría implicar la inyección de puntos de datos falsos que influyan en el modelo para que aprenda patrones incorrectos o priorice amenazas inexistentes, o la modificación sutil de puntos de datos existentes para sesgar el modelo de IA hacia resultados que beneficien al atacante.
  • Técnicas de evasión: La IA podría utilizarse para desarrollar técnicas que evadan la detección por parte de los sistemas de seguridad, como crear correos electrónicos o malware que no parezcan sospechosos para las personas, pero que activen vulnerabilidades o eludan filtros de seguridad.
  • Ingeniería social avanzada: Puesto que puede analizar grandes conjuntos de datos, una IA puede identificar objetivos basándose en determinados criterios, como comportamientos pasados vulnerables o susceptibilidad a ciertas estafas. Después, puede automatizar y personalizar un ataque utilizando información relevante extraída de perfiles de redes sociales o interacciones anteriores, de modo que resulte más creíble y tenga más probabilidades de engañar al destinatario. Además, la IA generativa puede redactar mensajes de phishing sin errores gramaticales ni de uso para que parezcan legítimos.
  • Ataques de denegación de servicio (DoS): La IA puede utilizarse para orquestar ataques DoS a gran escala contra los que resulta más difícil defenderse. Al analizar las configuraciones de red, puede detectar vulnerabilidades y después gestionar botnets con mayor eficacia mientras intenta saturar un sistema con tráfico.
  • Deepfakes: La IA puede generar imitaciones visuales o sonoras convincentes de personas para ataques de suplantación de identidad. Por ejemplo, podría imitar la voz de un alto directivo para engañar a empleados y conseguir que transfieran dinero a cuentas fraudulentas, compartan información confidencial como contraseñas o códigos de acceso, o aprueben facturas o transacciones no autorizadas. Si una empresa utiliza reconocimiento de voz en sus sistemas de seguridad, un deepfake bien elaborado podría engañar estas salvaguardas y acceder a áreas o datos seguros. Una empresa de Hong Kong fue víctima de un robo de 26 millones de dólares mediante una estafa con deepfake.

Una amenaza “blanda” que plantea la IA es la complacencia. Siempre existe el riesgo de depender en exceso de los sistemas de IA, lo que podría llevar a una menor rigurosidad en su supervisión y actualización. Una de las medidas más importantes para proteger a una empresa frente a los problemas de la IA es la formación y supervisión continuas, tanto si la IA se implementa en ciberseguridad como en otras operaciones. Garantizar que la IA opere teniendo presentes los mejores intereses de la organización exige una vigilancia constante.

Ver: IA generativa para InfoSec y hackers: lo que los equipos de seguridad deben saber

Beneficios de la ciberseguridad con IA

Las soluciones de ciberseguridad con IA aportan el mayor valor a una organización de las siguientes maneras:

Detección de amenazas mejorada

La IA destaca en la identificación de patrones en grandes conjuntos de datos para detectar anomalías indicativas de ciberataques con una precisión sin precedentes. Mientras que los analistas humanos se verían desbordados por el volumen de datos o alertas, la IA mejora la detección y la respuesta tempranas.

Mejora de la respuesta ante incidentes

La IA puede automatizar tareas rutinarias de respuesta ante incidentes, acelerando los tiempos de respuesta y minimizando el error humano. Al analizar incidentes pasados, la IA también puede predecir posibles vectores de ataque para que las organizaciones refuercen sus defensas.

Evaluación y priorización de riesgos

La IA puede evaluar la postura de seguridad de una organización, identificando vulnerabilidades y priorizando los esfuerzos de corrección en función de los niveles de riesgo. Esto ayuda a optimizar la asignación de recursos y a centrarse en áreas críticas.

Consideraciones de seguridad para distintos tipos de IA

Los desafíos de seguridad asociados a la IA varían en función del tipo que se implemente.

Si una empresa utiliza IA generativa, el foco debe estar en proteger los datos de entrenamiento, evitar el envenenamiento de modelos y salvaguardar la propiedad intelectual.

En el caso de la IA débil (o “estrecha”), como los chatbots de atención al cliente, los sistemas de recomendación (como Netflix), el software de reconocimiento de imágenes y los robots de líneas de montaje y quirúrgicos, la organización debe priorizar la seguridad de los datos, la solidez frente a ataques adversarios y la explicabilidad.

La IA “fuerte” autónoma (también conocida como inteligencia artificial general) es un desarrollo en curso que aún no existe. Pero si llega, las empresas deberán centrarse en defender los mecanismos de control y abordar los riesgos existenciales y las implicaciones éticas.

Ver: Cómo transformar la gestión de servicios de TI con IA generativa

Últimos avances en ciberseguridad con IA

La rápida evolución de la IA está impulsando avances correspondientes en ciberseguridad con IA, entre ellos:

  • Modelado de amenazas con IA generativa: Las herramientas de ciberseguridad con IA pueden simular escenarios de ataque para ayudar a las organizaciones a encontrar y corregir vulnerabilidades de forma proactiva.
  • Búsqueda de amenazas basada en IA: La IA puede analizar el tráfico de red y los registros del sistema para detectar actividad maliciosa y amenazas potenciales.
  • Respuesta automatizada ante incidentes: Las soluciones de ciberseguridad con IA pueden automatizar tareas rutinarias de respuesta ante incidentes, como aislar sistemas comprometidos y contener amenazas.
  • IA para la evaluación de vulnerabilidades: Puede analizar el código de software para encontrar posibles vulnerabilidades, de modo que los desarrolladores puedan crear aplicaciones más seguras.

Cursos de ciberseguridad con IA

Invertir en formación sobre ciberseguridad con IA es crucial para crear una plantilla que entienda cómo utilizar estas herramientas. Numerosas plataformas en línea y universidades ofrecen cursos que cubren diversos aspectos de la seguridad de la IA, desde conocimientos fundamentales hasta temas avanzados.

Los principales proveedores de soluciones de ciberseguridad ofrecerán una amplia variedad de cursos y formación para proporcionar a su equipo las competencias que necesita para sacar el máximo partido a su plataforma.

Mejores prácticas de ciberseguridad con IA

Implementar una estrategia integral para poner la IA en práctica en ciberseguridad es esencial.

1. Establecer políticas de gobernanza de datos y privacidad

En las primeras fases del proceso de adopción, establezca políticas sólidas de gobernanza de datos que cubran la anonimización, el cifrado y otros aspectos. Incluya a todas las partes interesadas relevantes en este proceso.

2. Exigir transparencia en la IA

Desarrolle u obtenga bajo licencia modelos de IA que puedan ofrecer explicaciones claras de sus decisiones, en lugar de utilizar modelos de “caja negra”. Así, los profesionales de seguridad podrán comprender cómo llega la IA a sus conclusiones e identificar posibles sesgos o errores. Estos modelos de “caja de cristal” los proporcionan Fiddler AI, DarwinAI, H2O.ai y herramientas de IBM Watson como AI Fairness 360 y AI Explainability 360.

3. Reforzar una gestión de datos sólida

  • Los modelos de IA dependen de la calidad de los datos utilizados para el entrenamiento. Asegúrese de utilizar datos diversos, precisos y actualizados para que su IA pueda aprender e identificar amenazas de forma eficaz.
  • Implante medidas de seguridad sólidas para proteger los datos utilizados en el entrenamiento y el funcionamiento de un modelo de IA, ya que algunos pueden ser sensibles. Cualquier filtración podría exponerlos, comprometer la eficacia de la IA o introducir vulnerabilidades.
  • Tenga en cuenta los posibles sesgos en sus datos de entrenamiento. Los sesgos pueden llevar a la IA a priorizar determinados tipos de amenazas o pasar por alto otras. Supervise y mitigue periódicamente los sesgos para garantizar que su IA tome decisiones objetivas.

Más información sobre: La importancia de contar con datos precisos para sacar el máximo partido a la IA

4. Proporcionar entrenamiento adversario a los modelos de IA

Exponga los modelos de IA a entradas maliciosas durante la fase de entrenamiento para que puedan reconocer y contrarrestar ataques adversarios como el envenenamiento de datos.

5. Implementar una supervisión continua

  • Lleve a cabo una supervisión continua y utilice sistemas de detección de amenazas para identificar sesgos y degradación del rendimiento.
  • Utilice sistemas de detección de anomalías para identificar comportamientos inusuales en sus modelos de IA o patrones de tráfico de red, con el fin de detectar posibles ataques de IA que intenten manipular datos o explotar vulnerabilidades.
  • Vuelva a entrenar periódicamente sus modelos de ciberseguridad con IA con datos nuevos y actualice los algoritmos para garantizar que sigan siendo eficaces frente a amenazas en evolución.

6. Mantener a las personas dentro del proceso

La IA no es infalible. Mantenga la supervisión humana, con profesionales de seguridad que revisen y validen los resultados de la IA para detectar posibles sesgos, falsos positivos o resultados manipulados que la IA pueda generar.

7. Realizar pruebas y auditorías periódicas

  • Evalúe de forma rutinaria sus modelos de IA para detectar vulnerabilidades. Como cualquier software, los productos de ciberseguridad con IA pueden tener debilidades que los atacantes podrían explotar. Aplicar parches con rapidez es fundamental.
  • Los modelos de IA pueden generar falsos positivos, identificando amenazas inexistentes. Adopte estrategias para minimizar los falsos positivos y evitar saturar a los equipos de seguridad con alertas irrelevantes.
  • Realice pruebas de seguridad frecuentes de sus modelos de IA para identificar debilidades que los atacantes podrían explotar. Las pruebas de penetración diseñadas expresamente para sistemas de IA pueden ser muy valiosas.

8. Contar con un plan de respuesta ante incidentes

Cree un plan integral de respuesta ante incidentes para abordar eficazmente los incidentes de seguridad relacionados con la IA.

9. Dar prioridad a la formación de los empleados

  • Forme a los empleados sobre los riesgos asociados a la IA y sobre cómo podrían utilizarse tácticas de ingeniería social para manipularlos y conseguir que comprometan sistemas de IA o la seguridad de los datos.
  • Realice ejercicios de red teaming que simulen ataques basados en IA, lo que ayuda a poner a prueba su postura de seguridad y detectar debilidades que los atacantes podrían explotar.
  • Colabore con expertos del sector e investigadores de seguridad para mantenerse al día de las amenazas de IA más recientes y de las mejores prácticas para contrarrestarlas.

10. Establecer la gestión de riesgos de IA de terceros

Evalúe cuidadosamente las prácticas de seguridad de los proveedores de IA de terceros. ¿Comparten datos con otras partes o utilizan conjuntos de datos públicos? ¿Siguen los principios de seguridad desde el diseño?

11. Otras mejores prácticas

  • Integre su solución de IA con fuentes de inteligencia de amenazas para que pueda incorporar datos de amenazas en tiempo real y adelantarse a nuevos vectores de ataque.
  • Asegúrese de que su solución de IA cumple las normas y regulaciones sectoriales pertinentes. Esto es obligatorio en determinados sectores. Por ejemplo, en los sectores de automoción y fabricación, una IA debe cumplir la norma ISO 26262 de seguridad funcional para automoción, el Reglamento General de Protección de Datos (RGPD) en materia de privacidad de datos y las directrices del National Institute of Standards and Technology. La IA en el ámbito sanitario debe cumplir la Health Insurance Portability and Accountability Act en EE. UU., el RGPD en Europa y la normativa de la FDA para dispositivos médicos basados en IA.
  • Realice un seguimiento de métricas como las tasas de detección de amenazas, los falsos positivos y los tiempos de respuesta. De este modo, conocerá la eficacia de su IA y las áreas de mejora.

Ganar con un enfoque equilibrado

Para cualquier organización que se adentre en esta audaz nueva frontera de la ciberseguridad con IA, el camino a seguir es un enfoque equilibrado. Aproveche las numerosas fortalezas de la IA, pero manténgase alerta ante sus limitaciones y posibles vulnerabilidades.

Como cualquier tecnología, la IA no es intrínsecamente buena ni mala; la utilizan tanto agentes legítimos como maliciosos. Recuerde siempre tratar la IA como cualquier otra herramienta: respétela por lo que puede hacer para ayudar, pero manténgase prudente ante lo que puede hacer para causar daño.

Leer: La postura de Ivanti sobre la inteligencia artificial