Se ha descubierto que la herramienta de código Claude Code, de Anthropic, compartía las direcciones de correo electrónico de sus usuarios con ciertas páginas web. Aunque el correo se usa para identificación, el modelo lo entregaba proactivamente a sitios que lo solicitaban, generando preocupaciones sobre la privacidad. Anthropic ha reconocido el problema y ha implementado cambios para solicitar consentimiento antes de compartir esta información.
Iniciar sesión en una herramienta utilizando el correo electrónico es una práctica común, especialmente porque, en el caso de Claude Code, es necesario para identificar la cuenta del usuario. Lo esperado es que este correo se utilice únicamente con fines de identificación. Sin embargo, el problema surge al descubrir que la inteligencia artificial lo compartía con algunas páginas web, según se documentó en el repositorio de Claude Code.
El problema radica en que, cada vez que un navegador interactúa con una página web, se identifica mediante una cadena de texto conocida como "user agent". Esta cadena contiene información sobre el navegador, su versión, el sistema operativo, entre otros datos, que ayudan a la web a reconocer el navegador, no a la persona. Los agentes de IA, como Claude Code, también emplean este "user agent". Según informes en Hacker News, Claude Code se identificaba con el correo electrónico del usuario en algunas de las webs que lo solicitaban, incluso sin una petición explícita. Por defecto, la herramienta de código no inserta dicho mail. El inconveniente se presenta cuando las solicitudes de las páginas web incluyen la petición del correo. Claude podía obedecer y, por iniciativa propia, incluir el correo del usuario.
El modelo tomaba la decisión. Si la página web requería una acción específica para el acceso y Claude Code necesitaba dicho acceso, teniendo a mano la información solicitada, el modelo procedía a entregarla. Esto ocurrió con EDGAR, la base de datos de la SEC (la Comisión de Bolsa y Valores de Estados Unidos), donde varios usuarios detectaron que Claude Code enviaba su correo electrónico. El modelo decidió por su cuenta facilitar el proceso y no consultó al usuario si deseaba compartir su correo o si prefería usar otro. Este comportamiento proactivo aceleraba la ejecución, pero a costa de una pérdida de privacidad que podría generar problemas más graves. Este fallo ha sido objeto de discusión desde al menos el mes de julio.
Aunque no es una "prompt injection", se asemeja. La "prompt injection" representa un riesgo de seguridad para los agentes de IA, ya que pueden divulgar información si, al leer un formulario, este la solicita. Esto es lo que sucedía con páginas como la SEC o Wikimedia, aunque no tuvieran intenciones de inyectar prompts: la web pedía un dato privado, Claude Code lo tenía disponible y lo entregaba sin confirmación del usuario y sin informarle.
Anthropic ha ofrecido disculpas. Lydia Hallie, miembro del equipo de Claude Code, explicó en Hacker News que la razón por la que el modelo accedía al correo electrónico era una solución a un problema de invención del modelo sobre el que se habían quejado los usuarios. Anthropic no anticipó que Claude terminaría utilizando este dato como una "tarjeta de visita". Lydia Hallie, en representación de Anthropic, se ha disculpado por esta situación. Desde la versión 2.1.317, Claude Code solicita permiso antes de enviar el correo electrónico del usuario. Aunque esta opción viene activada por defecto, no garantiza una privacidad total, ya que los scripts que Claude escribe y ejecuta por su cuenta podrían seguir utilizando el correo. Según Hallie, la próxima versión de Claude Code eliminará este dato del contexto del modelo.