Los hackers exploran formas de abusar de la IA en una importante prueba de seguridad

Hackers abusan IA en prueba seguridad

Casi 2,500 hackers en la conferencia DEFCON del AI Village pasaron el fin de semana pasado investigando y probando algunos de los modelos de lenguaje grandes más populares en busca de fallas.

El Desafío del Equipo Rojo Generativo del AI Village fue visto como un momento crucial para la industria tecnológica en general, que históricamente ha tenido dificultades para poner la seguridad en primer plano a medida que surgen nuevas innovaciones.

La demanda de pruebas, evaluación y pruebas de equipos rojos de LLM probablemente se multiplique por “10x” después del evento de fin de semana, según Russell Kaplan, jefe de ingeniería de Scale AI.

El desafío, respaldado por la Casa Blanca y varios desarrolladores importantes de IA generativa, hizo que algunos participantes esperaran una hora para asistir. Se espera que el trabajo del AI Village tenga una influencia significativa tanto en la industria de la ciberseguridad como en el mundo de las políticas.

• 15 Mejores Inicios de ChatGPT para la Gestión del Tiempo
• Dominando las pruebas A/B Un ejemplo de negocio del mundo real [Parte 1]
• OpenAI experimenta una caída de casi el 20% en el tráfico en 3 meses

De Axios Ver artículo completo

We will continue to update Zepes; if you have any questions or suggestions, please contact us!