Los vientos del cambio Cómo la IA generativa está revolucionando la ciberseguridad

Las ráfagas del cambio Cómo la IA generativa revoluciona la ciberseguridad

La inteligencia artificial generativa (GenAI) está transformando los negocios en casi todas las industrias, y la ciberseguridad no es una excepción. Como una empresa de servicios de TI global de 30 mil millones de dólares, NTT DATA está a la vanguardia de aprovechar la IA generativa mientras administra los riesgos.

Recientemente hablé con Nitin Bajaj, vicepresidente de Ofertas Digitales en NTT DATA, para aprender cómo están navegando esta nueva tecnología. Él proporcionó perspicaces ideas tanto sobre las promesas como sobre los peligros de GenAI para los profesionales de la ciberseguridad.

Asegurando GenAI en sí mismo

Bajaj explicó que NTT DATA ha establecido una oficina global dedicada a GenAI para desarrollar estrategias en toda la organización masiva. Su primera prioridad fue instituir una gobernanza de seguridad para el uso de GenAI. “Hemos establecido una política de seguridad de GenAI en todas nuestras empresas operativas que se ha implementado rápidamente”, dijo Bajaj. Esto fue crucial para anticiparse al uso ad hoc de GenAI que podría salir rápidamente de control.

Con la gobernanza en su lugar, NTT Data está abriendo juiciosamente el acceso a GenAI pública como ChatGPT. Sin embargo, el plan a largo plazo es cultivar modelos propietarios ajustados a sus datos y casos de uso específicos. “Moverse hacia implementaciones privadas de lo que llamo modelos de lenguaje SLM y MLM, que son modelos de lenguaje pequeños y VoAGI entrenados en conjuntos de datos más específicos, puede ser más confiable y proporcionar un mayor nivel de confianza”, señaló Bajaj.

• Los documentos más importantes de visión por computadora de la semana del 18/9 al 24/9
• Crea e implementa aplicaciones de inferencia de ML desde cero utilizando Amazon SageMaker
• El cucaracha cibernético puede navegar por un laberinto

Aumentando la seguridad dirigida por humanos

ChatGPT puede ser hábil generando textos de marketing, pero la ciberseguridad crítica requiere soluciones más sólidas. “Sí, podrás reducir los falsos positivos porque estás aprovechando un modelo de IA. Pero el número de amenazas y posibles ataques aumentará”, advirtió Bajaj.

Esto se debe a que los ciberdelincuentes tienen fácil acceso a los mismos sistemas de GenAI públicos. “Cualquiera de esos actores tiene acceso a estas herramientas. Están ampliamente disponibles, por lo que la plausibilidad de los ataques se vuelve significativamente mayor”, dijo Bajaj. GenAI podría permitir campañas de ingeniería social más sofisticadas y altamente dirigidas.

Entonces, a corto plazo, GenAI puede generar más trabajo para los analistas humanos. “Conducirá a una mayor intervención humana requerida para apoyar el creciente número de ataques generados por GenAI”, predijo Bajaj. A largo plazo, los modelos de IA personalizados podrían ayudar a las organizaciones a anticiparse a las amenazas emergentes.

Asociaciones y capacidades

Bajaj enfatizó que las asociaciones serán cruciales para construir soluciones efectivas de ciberseguridad con IA. NTT DATA está colaborando con principales proveedores de seguridad que están desarrollando sus propias capacidades de GenAI. “Definitivamente, habrá un ángulo de socio en cómo construimos el marco de seguridad”, dijo Bajaj.

NTT DATA ha estado trabajando con el MIT durante cinco años en avatares humanos digitales e IA conversacional. Estas capacidades eventualmente estarán impulsadas por GenAI, pero primero deberán pasar por pruebas rigurosas. “Para una organización más grande, tenemos que pasar por el proceso antes de lanzarlo al mercado”, explicó Bajaj.

Asegurando en diversas industrias

Dado que NTT DATA atiende a empresas Fortune 1000 en todo el mundo, sus soluciones de ciberseguridad deben ser adaptables a diferentes sectores. “Las amenazas de ciberseguridad tienden a ser más horizontales y menos específicas de dominio”, dijo Bajaj. “Los principios de seguridad siguen siendo bastante similares, ya sea que estemos mejorando la experiencia del cliente en el transporte o implementando una aplicación para servicios de enfermería hospitalaria”.

Esto permite una amplia reutilización de estrategias en diferentes compromisos. Bajaj afirmó que la colaboración “entre regiones y clientes” es crucial para construir rápidamente sobre los éxitos.

El camino a seguir

A pesar de todos los riesgos, Bajaj afirmó que los clientes están ansiosos por aprovechar GenAI, que “es el tema más candente” en una reciente reunión del consejo asesor de NTT DATA. Sin embargo, las grandes organizaciones deben sentar las bases adecuadas. “Nos conviene construir ese marco de gobernanza, ese marco de seguridad, y luego probarlo en nosotros antes de probarlo en los clientes”, dijo.

Tomando un enfoque medido, NTT DATA tiene como objetivo crear soluciones de GenAI que sean seguras por diseño. Esto les permitirá transformar completamente los procesos comerciales y las interacciones con los clientes. Bajaj lo resumió diciendo: “Nuestro enfoque tanto en la transformación digital como en los servicios gestionados nos guía hacia modelos de creación de valor que abarcan todo el portafolio”.

En el mundo de la ciberseguridad, el IA generativo es claramente un genio que no puede volver al frasco. A medida que el GenAI se democratiza aún más, las organizaciones deben ser proactivas en cuanto a la seguridad.

Con la gobernanza adecuada, pruebas y alianzas confiables, el GenAI puede llevar la ciberseguridad al siguiente nivel. Pero requiere que las empresas evolucionen sus estrategias y conjuntos de habilidades, tal como lo está haciendo NTT DATA hoy en día.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!