Una investigación de Microsoft ha revelado que decenas de empresas están insertando instrucciones ocultas en las funciones de “resumir con IA” para contaminar la memoria de la IA y manipular a los usuarios. Esto puede tener consecuencias graves, ya que la IA puede proporcionar recomendaciones sesgadas sobre temas críticos como la salud, las finanzas y la seguridad. Los atacantes utilizan enlaces maliciosos, indicaciones integradas en documentos y correos, y ingeniería social para contaminar la memoria de la IA. Microsoft ha identificado más de 50 ejemplos distintos de intentos de contaminar la IA y ha proporcionado recomendaciones para evitar ser víctimas, como verificar las recomendaciones de la IA y borrar periódicamente su memoria.
🛍️ ¡Aprovecha esta tendencia!
Encuentra el Seguridad informática, software de seguridad, protección de datos aquí: