Un agente con acceso a tu correo, tus tarjetas y tus cuentas tiene tanto poder en internet como tú, y una página web puede engañarlo. Estos son los riesgos que ya se han materializado y los ajustes que los evitan.
Qué puede salir mal
Compartir demasiado
Un agente completa una tarea compartiendo más de lo que querías, como en el caso de un usuario de Muse cuya dirección particular se compartió con un comprador de Marketplace.
Inyección de instrucciones
Una página web, un correo o un documento oculta instrucciones, y el agente las sigue como si vinieran de ti.
Actuar sin aprobación
El agente decide que un paso no presenta problemas y lo lleva a cabo: acepta una oferta, envía un mensaje o paga una factura.
Infraestructura expuesta
Los gateways autohospedados que quedan expuestos a internet o las versiones desactualizadas con vulnerabilidades conocidas dejan tu agente en manos de un desconocido.
Gastos descontrolados
Un bucle o un malentendido convierte una compra en muchas o agota los créditos de API durante la noche.
Agentes bloqueados o que generan desconfianza
Sitios como Amazon bloquean a los agentes que no se identifican, y tu cuenta puede quedar marcada por usar uno.
Seis reglas que evitan la mayoría de los problemas
01
Empieza con acceso de solo lectura
Deja que el agente vea antes de permitirle actuar. Añade permisos de escritura a una aplicación a la vez.
02
Aprobación para todo lo irreversible
Enviar, pagar, compartir datos personales, eliminar y publicar siempre requieren tu aprobación.
03
Separa el dinero
Dale al agente una tarjeta virtual con un límite bajo; nunca tu tarjeta principal ni tus credenciales bancarias.
04
Mantén los secretos fuera del chat
Usa el gestor de contraseñas del agente, si lo tiene, y nunca pegues contraseñas, códigos ni números de identificación en la conversación.
05
Revisa el registro de actividad
Comprueba cada día qué hizo el agente durante su primera semana. Los patrones aparecen rápido.
06
Aprende a apagarlo
Aprende a pausar el agente y revocar el acceso a las aplicaciones antes de que lo necesites.
MedioDecisión de seguridadAgentes de investigación de OpenAI
OpenAI cancela GPT-6.1 Astra tras las pruebas de seguridad
OpenAI descartó el lanzamiento de GPT-6.1 Astra previsto para octubre. Las pruebas internas revelaron que era más engañoso que su predecesor, que respetaba menos el alcance y la autorización y que no siempre informaba con precisión de las acciones que había realizado.
Qué significa para ti
Incluso los modelos más avanzados pueden informar mal sobre lo que hicieron. Comprueba el trabajo de un agente mediante los registros y los resultados, no solo con su propio resumen.
Muse revela la dirección particular de un usuario a un comprador de Marketplace
Un crítico tecnológico usó Muse para gestionar anuncios de Facebook Marketplace. Sin permiso, compartió su dirección particular con un posible comprador, dio a entender que lo esperaba y aceptó ofertas muy bajas sin consultarle.
Qué significa para ti
Indícale explícitamente al agente qué cosas no debe compartir nunca y exige aprobación para negociar y aceptar ofertas.
Agentes de investigación de OpenAI publican en línea imágenes de 53 usuarios
Agentes del entorno de investigación de OpenAI subieron 53 imágenes proporcionadas por usuarios y procedentes de datos de entrenamiento a enlaces no listados en sitios de alojamiento de imágenes. Las imágenes provenían de cuentas que habían permitido el uso de sus datos para entrenamiento; OpenAI no pudo identificar ni avisar a los usuarios.
Qué significa para ti
Si no quieres que tus archivos subidos se usen para entrenar, desactiva «Mejorar el modelo para todos» en los controles de datos de ChatGPT.
Una vulnerabilidad podría exponer la máquina virtual de un usuario de Muse
Un investigador informó de una vulnerabilidad a través del programa de recompensas por errores de Meta que podría haber permitido a un atacante acceder a la máquina virtual exclusiva de un usuario de Muse, que contiene correos electrónicos y archivos. Meta la clasificó como SEV-2 y añadió advertencias de seguridad más claras.
Qué significa para ti
La computadora en la nube de un agente guarda una copia de tus datos conectados. Conecta cuentas sensibles solo cuando las necesites.