La Comisión Europea ha presentado la 'Digital Fairness Act', una iniciativa que busca erradicar diez tipos de patrones oscuros en el diseño online, como tarifas de baja complejas o notificaciones falsas. La propuesta también aborda el diseño persuasivo legal y establece normas para agentes de IA que realizan compras en nombre de los usuarios, marcando un cambio hacia la regulación del 'enganche' digital. Además, la ley exige la posibilidad de desactivar funciones como la reproducción automática y notificaciones no esenciales.
La Comisión Europea ha presentado la 'Digital Fairness Act', y un borrador filtrado revela que la Unión Europea tiene la intención de prohibir diez tipos de trampas de diseño online. Entre estas se incluyen las cancelaciones de servicios que resultan significativamente más costosas que las altas, los avisos de escasez que se repiten en cada etapa del proceso de pago, y las notificaciones engañosas que sugieren que un tercero ha contactado al usuario. Estos son los conocidos patrones oscuros.
La relevancia de esta iniciativa radica en que esta lista negra de prácticas engañosas llega con un considerable retraso. Por otro lado, las secciones menos destacadas del borrador se presentan de manera anticipada. Una de ellas aborda el diseño persuasivo, que actualmente es legal y sustenta el modelo de negocio basado en la captación de atención. Otra sección establece por primera vez en la legislación de consumo europea normas específicas para los agentes de inteligencia artificial que efectúan compras en nombre del usuario.
El borrador establece la obligación de que cualquier usuario pueda desactivar cuatro elementos clave: la reproducción automática de contenido, las notificaciones que no están directamente relacionadas con la actividad del usuario y que funcionan como otra forma de spam, las 'rachas' o secuencias continuas, y los chatbots que simulan una relación para retener al usuario. Aunque ninguna de estas tácticas se considera un engaño directo, se reconoce su alta eficacia. Ejemplos como el siguiente vídeo que se inicia automáticamente o la racha que genera una sensación de pérdida al interrumpirla, son decisiones de producto legales y muy rentables. Hasta ahora, la Unión Europea se había centrado en perseguir el engaño explícito, pero con esta ley comienza a abordar el 'enganche' digital.
Es importante destacar que la Unión Europea no está prohibiendo estas funcionalidades, sino que está exigiendo la inclusión de un interruptor para que los usuarios puedan desactivar ciertas características o partes de la interfaz. Las plataformas son conscientes de que muy pocos usuarios suelen explorar y modificar los ajustes.
En cuanto a los agentes de inteligencia artificial, la propuesta es concisa: el usuario debe poder decidir qué compras requieren su aprobación, y el agente tiene la obligación de indicar cuando una sugerencia es patrocinada. Aunque pueda parecer un detalle menor, esta área será clave para la manipulación en los próximos años, y las primeras disputas ya están en marcha. Cuando un agente sea el encargado de realizar una compra, la trampa no será un botón gris junto a uno verde dispuesto de forma inesperada. En cambio, será una recomendación pagada, expresada en un tono neutro, dentro de una conversación que solo el usuario puede ver. La Unión Europea busca que estas recomendaciones lleven una etiqueta antes de que este mercado se desarrolle por completo.
El texto contempla multas que pueden ascender hasta el 6% de la facturación mundial, de manera similar a la Ley de Servicios Digitales (DSA). Además, la directiva de 2005 se transformará en un reglamento de aplicación uniforme en los 27 países miembros. La Comisión tendrá la facultad de ampliar la lista de prácticas prohibidas sin necesidad de un nuevo proceso legislativo. Esta posibilidad de una lista creciente sin reabrir la ley es lo que más preocupación generará en la industria tecnológica.
Europa ha llegado con considerable retraso a la regulación de las trampas de la Web, que han sido observadas y padecidas desde principios de la década pasada. Sin embargo, en el ámbito de los agentes de inteligencia artificial, la Unión Europea, por una vez, ha actuado de manera anticipada.