La rápida evolución de las herramientas de inteligencia artificial (IA) ha despertado un creciente interés entre agencias gubernamentales, empresas de ciberseguridad e investigadores de amenazas, quienes están dedicando valiosos recursos al estudio de cómo estos poderosos instrumentos pueden ser utilizados por actores maliciosos para infiltrarse en organizaciones. Sin embargo, a medida que la IA se integra más en la infraestructura empresarial, emerge una preocupación significativa: la posibilidad de que una violación de seguridad se origine por un insider que manipula la herramienta, ya sea de manera maliciosa o debido a la falta de controles de seguridad adecuados.
Investigaciones compartidas exclusivamente con CyberScoop por parte de investigadores de DTEX han revelado cómo un flujo de trabajo común en Claude Cowork, una herramienta de Anthropic utilizada en entornos corporativos, ofrece una comodidad notable para el despliegue de agentes de IA, pero a su vez concede acceso casi total al sistema. Claude Cowork incluye herramientas que permiten a los usuarios controlar sus agentes de manera remota. Una herramienta en particular, conocida como Dispatch, transmite comandos desde el teléfono del usuario hacia su agente de Claude en el escritorio. Además, cuenta con un plugin que facilita la comunicación con agentes de IA de Salesforce, permitiendo el acceso y la transferencia de datos.
Los investigadores de DTEX llevaron a cabo pruebas en dos escenarios. En el primero, se solicitó a Claude que resumiera información de Salesforce y la pegara en un borrador de correo electrónico en Outlook. En el segundo, el agente fue encargado de archivar archivos seleccionados y transferirlos mediante la aplicación Cowork. En ambos casos, los investigadores utilizaron indicaciones simples y de una sola vuelta, dedicando entre 10 y 30 minutos a preparar la extracción de datos.
Alex Desmond, director de inteligencia sobre amenazas internas e innovación en DTEX, comentó a CyberScoop que tanto las mejoras en los modelos de frontera como la integración más profunda de herramientas de IA en las operaciones de redes de TI han reducido considerablemente el tiempo que los defensores tienen para reaccionar ante una brecha de seguridad. “En los ciberataques, se habla del tiempo de ejecución de los adversarios que ingresan y despliegan ransomware; ahora estamos viendo que la cadena de muerte se reduce a 30 y 10 minutos, dependiendo de lo que estén haciendo”, afirmó Desmond. “Hace seis meses, eso eran un par de horas”.
No obstante, esa velocidad, combinada con el acceso directo a redes empresariales o servicios en la nube, puede crear una pesadilla de amenaza interna para las organizaciones, que deben monitorizar tanto a actores maliciosos como a posibles errores de empleados legítimos que utilizan esta tecnología. En los últimos años, las empresas de TI y ciberseguridad en Occidente han recibido una avalancha de solicitudes de empleo de personas que, en secreto, trabajan para el gobierno de Corea del Norte. Los salarios de estos individuos se utilizan para evadir sanciones internacionales y financiar el programa nuclear de Pyongyang, pero también les permite acceder o robar datos sensibles o activos de estas empresas.
“Se tiene a un actor de un estado-nación ingresando en un entorno de manera legítima”, explicó Desmond. “Ahora, si se les proporciona acceso a herramientas de IA, es como decirles ‘aquí están las llaves de todo y aquí tienes esta herramienta asombrosa que solo facilitará tu trabajo – robar nuestros datos’”.
Las pruebas realizadas por DTEX confirmaron que los agentes tenían acceso a sistemas, aplicaciones y datos sensibles, incluyendo la capacidad de descargar datos corporativos de SharePoint, documentación de producción en OneDrive, acceder a correos electrónicos de Outlook, datos de Salesforce (y toda la información a la que pueden acceder), así como cualquier otro archivo en el dispositivo del usuario. Para cada una de estas aplicaciones, Claude Cowork dispone de un plugin o API dedicado que permite compartir información externamente si se le solicita. Cabe aclarar que la investigación de DTEX no implica la explotación de un fallo de software o una vulnerabilidad de configuración, ni está asociada a un CVE. Se trata más bien de un problema de gobernanza y visibilidad en TI. Las empresas están apresurándose por integrar herramientas de IA en sus flujos de trabajo y presionando a los empleados para que utilicen esta tecnología, mientras que no implementan los controles de seguridad, políticas de acceso y monitoreo necesarios para detectar problemas.
Por ejemplo, puede no ser posible determinar cómo ocurrió una violación o fuga de datos que involucra a un agente de IA si una organización no está registrando y auditando sus indicaciones, o si el incidente fue resultado de un agente que se comporta de manera errática o que responde a instrucciones potencialmente maliciosas. Aunque el monitoreo de redes y de la nube puede identificar cuándo se accede o se descarga información de SharePoint, es posible que esa señal no sea suficientemente contundente para destacar ante los defensores.
“Si el flujo de trabajo normal de un usuario es bajar archivos sensibles para trabajar localmente todo el tiempo, y no hay un monitoreo de punto final, al introducir un agente de IA, este tendrá acceso a todos esos datos, junto con la capacidad de exfiltrarlos”, afirmó Desmond.
Este escenario resalta la necesidad urgente de que las organizaciones evalúen y fortalezcan sus controles de seguridad en un entorno donde la inteligencia artificial está cada vez más presente. En conclusión, la integración de herramientas de IA en entornos corporativos no solo amplifica la eficiencia, sino que también introduce nuevos vectores de riesgo que deben ser gestionados con la máxima atención para evitar que se conviertan en amenazas internas significativas.