Norton anunció este jueves la llegada y disponibilidad de Safe AI, un conjunto de funciones de seguridad integrado en Norton 360 que busca reducir los riesgos asociados al uso de asistentes y agentes de inteligencia artificial. La solución incorpora herramientas para supervisar determinadas acciones ejecutadas por estos sistemas, controlar los permisos sobre archivos personales y detectar enlaces potencialmente maliciosos.
El anuncio local aparece luego de su presentación internacional el pasado 26 de octubre, como parte de la estrategia de Gen, compañía propietaria de Norton. Su despliegue se realiza para ampliar sus herramientas de ciberseguridad frente a las nuevas amenazas relacionadas con sistemas de inteligencia artificial capaces de interactuar con archivos, aplicaciones y servicios digitales.
Los riesgos de los agentes y asistentes de IA
A diferencia de los chatbots tradicionales, que principalmente generan respuestas a partir de instrucciones, los agentes de inteligencia artificial pueden ejecutar acciones en nombre de los usuarios. Dependiendo de los permisos concedidos, estas herramientas pueden modificar archivos, ejecutar comandos, instalar programas e interactuar con servicios externos.
Esta autonomía también introduce riesgos de seguridad. Uno de ellos es la inyección de instrucciones o prompt injection, una técnica mediante la cual un atacante introduce instrucciones maliciosas en documentos, páginas web u otros contenidos que un agente puede consultar, buscando que ignore las indicaciones originales y realice acciones no deseadas.
Gen Threat Labs señaló que el contenido malicioso entregado a sus usuarios mediante chatbots como ChatGPT y Claude aumentó un 54% a nivel mundial durante los 90 días anteriores al anuncio. La compañía también indicó que más de dos tercios de las personas consultadas manifestaron preocupación por la privacidad, las filtraciones de datos y la pérdida de control al utilizar asistentes autónomos.
Action Shield, Safe Zone y Safe Links: cómo funciona Norton Safe AI
La propuesta incorpora tres herramientas que intervienen en diferentes momentos de la interacción con sistemas de inteligencia artificial. En conjunto, estas funciones buscan abordar tres áreas diferentes: las acciones que ejecuta la IA, la información a la que puede acceder y los enlaces que recomienda o comparte.
Action Shield supervisa las acciones que intentan ejecutar determinados agentes de IA antes de que se lleven a cabo. Su función es identificar operaciones potencialmente peligrosas, como comandos destructivos, instrucciones maliciosas o intentos de acceder a información sensible.
El sistema contempla tres posibles respuestas: permitir una acción considerada segura, solicitar autorización cuando detecta un comportamiento sospechoso o bloquear automáticamente una amenaza identificada. De esta manera, el usuario puede revisar determinadas operaciones antes de que se ejecuten.
Safe Zone permite establecer permisos sobre los archivos y contenidos personales a los que pueden acceder las herramientas de inteligencia artificial. Los usuarios pueden conceder acceso completo, limitarlo a lectura o bloquearlo para determinadas carpetas, evitando que un agente tenga acceso indiscriminado a toda la información almacenada en el dispositivo.
Por último, Safe Links analiza enlaces potencialmente peligrosos compartidos mediante conversaciones con ChatGPT y Claude. Su objetivo es identificar destinos relacionados con phishing, malware o estafas antes de que el usuario los abra.
Disponibilidad y compatibilidad con Norton 360
Norton Safe AI está disponible dentro de Norton 360 para Windows y Mac. La documentación de soporte identifica herramientas compatibles como Claude Code, Cursor y OpenClaw para la protección de agentes. En el caso de Safe Links, la empresa menciona específicamente ChatGPT y Claude como servicios en los que puede identificar enlaces riesgosos.
La protección también contempla diferentes capas de análisis. El motor principal procesa localmente comandos, código y contenido de archivos, mientras que determinadas verificaciones complementarias utilizan servicios en la nube de Norton para consultar la reputación de direcciones web, paquetes y herramientas instaladas por los agentes. Por este motivo, aunque buena parte del análisis se realiza en el dispositivo, algunas funciones requieren conexión a Internet para completar sus comprobaciones.
