Riesgos de Shadow AI: Filtraciones de secretos empresariales con ChatGPT

0
17

Black Hat 2026: Advertencias sobre los peligros de la inteligencia artificial

La conferencia Black Hat, uno de los encuentros más destacados a nivel mundial en el ámbito de la ciberseguridad, ha centrado su atención en 2026 en los riesgos emergentes relacionados con la inteligencia artificial (IA). Durante este evento, varios expertos subrayaron las amenazas inherentes al uso no regulado de estas tecnologías en los entornos laborales, resaltando el caso del «Shadow AI».

Este fenómeno, conocido como Shadow AI, se refiere a la utilización de herramientas de inteligencia artificial en el trabajo sin la debida autorización o supervisión de los departamentos de sistemas y seguridad. Ejemplos de esto incluyen programadores que ingresan código interno en plataformas como ChatGPT para solucionar errores, empleados que suben documentos a Claude para resumir información, o quienes analizan datos sensibles de clientes con aplicaciones como Gemini.

Participa en los concursos de Joanpa Noticias: suscríbete gratis al bot de Telegram y recibe tu número personal

A menudo, el problema surge incluso si las empresas cuentan con servicios de IA aprobados, ya que un trabajador podría usar su cuenta personal para acceder a un chatbot y enviar información fuera de los controles establecidos por la organización. Esta situación no es meramente teórica. En 2023, ingenieros de Samsung fueron sorprendidos subiendo código interno a ChatGPT, lo que llevó a la empresa a restringir el uso de estas herramientas por el riesgo de exposición de información sensible. En enero de 2025, un incidente similar fue reportado cuando investigadores de Wiz descubrieron una base de datos de DeepSeek abierta al público que contenía registros de interacciones y credenciales, que fueron protegidos tras ser alertados.

Un análisis realizado por Netskope entre junio de 2025 y julio de 2026 mostró un notable aumento en los intentos de enviar información a herramientas de IA en contra de las políticas internas, con un promedio de 69 intentos semanales, en contraste con 44 el año anterior. Entre la información comprometida se encontraba código fuente, propiedad intelectual y datos regulados. Esta cifra solo contempla los intentos detectados por las herramientas de seguridad.

Alexandra Mehat, directora global de marketing de producto de Unified SASE en Fortinet, conversó con Clarín sobre la inquietud recurrente que manifestaron los asistentes a Black Hat: “¿Cómo evito que mis empleados envíen información confidencial a ChatGPT?”. Este tipo de preocupación refleja los riesgos asociados al uso de IA generativa y la estrategia de algunas empresas que optan por modelos híbridos de infraestructura.

La autenticación y los agentes de IA en las empresas

Uno de los principales temas abordados en la conferencia fue el impacto de los agentes de IA en la seguridad. Estos pueden aliviar la carga de trabajo de los empleados, pero también tienen el potencial de cometer errores severos, como eliminar información crítica. Los asistentes al evento reportaron que uno de los diálogos más recurrentes giró en torno a cómo prevenir que se envíen datos sensibles a plataformas como ChatGPT.

Mehat destacó que incluso entre las empresas que adoptan estos agentes, existe la tendencia de mantener el control final en manos humanas, un proceso conocido como «human in the loop». Las conversaciones en torno a quién utiliza la IA y cómo se monitorea su uso son de creciente importancia.

La experta también enfatizó la necesidad de autenticar lo que se denomina «identidades no humanas», implementando principios de confianza cero que aplican también a los usuarios humanos. Este enfoque busca garantizar un control adecuado sobre los privilegios y accesos de dichos agentes en el sistema empresarial.

En este sentido, se están desarrollando herramientas que protegen las comunicaciones entre agentes de IA y los sistemas corporativos. Aunque estas herramientas aún operan por separado de SASE, están diseñadas para detectar intentos de inyección de instrucciones maliciosas y monitorear el uso del modelo de IA, permitiendo la intervención en caso de actividad sospechosa.

Retorno a lo híbrido y el futuro de la infraestructura

Con el auge del trabajo remoto, muchas organizaciones han buscado equilibrar sus estructuras, manteniendo tanto servicios en la nube como en infraestructuras físicas. Los cambios hacia la nube, motivados en gran parte por su flexibilidad, han traído consigo desafíos significativos, como el aumento de costos y problemas de rendimiento, llevando a algunas empresas a regresar a sus propias infraestructuras.

En América Latina, la implementación de controles de seguridad en la nube presenta sus propios retos, donde la necesidad de enrutar tráfico a través de centros lejanos puede ocasionar demoras. Sin embargo, algunas entidades logran una ventaja al contar con servicios más cercanos que aprovechan la flexibilidad que ofrece la nube.

Mehat indicó que aún persiste un enfoque híbrido en muchas operaciones. A pesar del avance hacia la nube, hay empresas que siguen utilizando infraestructura física y buscan un equilibrio entre ambos métodos. Este contexto ha llevado a organizaciones a considerar formas de simplificar su integración de seguridad, evitando la complejidad de entrar a varias plataformas y herramientas.

A medida que las tecnologías continúan evolucionando, el diálogo sobre la inteligencia artificial y sus impactos en las operaciones laborales se vuelve cada vez más crucial. ¿Cómo se adaptarán las empresas a un entorno que sigue cambiando y redefiniendo cómo se protege la información? La respuesta quizás radique en la combinación de flexibilidad, control y apegos a los principios de seguridad que hoy más que nunca son necesarios.