Transparencia sobre el uso de Inteligencia Artificial

1. Objeto y ámbito

Esta página desarrolla las obligaciones de transparencia del artículo 50 del Reglamento (UE) 2024/1689 (en adelante, el «Reglamento de IA») en relación con los sistemas de inteligencia artificial de Lueira que mantienen conversaciones con personas:

• el asistente conversacional que los clientes de Lueira ofrecen a sus propios clientes finales por WhatsApp y mediante un widget de chat («Agente IA»), ya mencionado en la sección 9 de los Términos y Condiciones y en las secciones 3 y 5 de la Política de Privacidad; y
• los asistentes de inteligencia artificial integrados en la aplicación de gestión de Lueira, que utiliza el personal de los clientes de Lueira (por ejemplo, el asistente de soporte, el analista de negocio y el asistente de formularios) («Asistentes de la aplicación»).

Esta política no cubre los procesos de inteligencia artificial que no mantienen una conversación con una persona, como la transcripción de notas de voz, la traducción automática de textos o la extracción de datos de documentos. Dichos procesos pueden estar sujetos a otras normas, como el RGPD, pero no a la obligación de informar de que se interactúa con un sistema de inteligencia artificial.

2. Roles bajo el Reglamento de IA: proveedor y responsable del despliegue

El Reglamento de IA distingue roles distintos a los de responsable y encargado del tratamiento que ya conoces de la Política de Privacidad y del DPA. No deben confundirse: un mismo sujeto puede ser encargado del tratamiento a efectos del RGPD y, al mismo tiempo, proveedor o responsable del despliegue a efectos del Reglamento de IA.

• MALADETA STUDIO, S.L. actúa como proveedor de ambos sistemas de IA: es quien los desarrolla y los pone a disposición de sus clientes bajo la marca Lueira.
• El cliente de Lueira que activa el Agente IA para atender a sus propios clientes finales actúa como responsable del despliegue («deployer») frente a dichos clientes finales.
• En los Asistentes de la aplicación, el cliente de Lueira y su personal son usuarios del sistema. El cliente que publique bajo su responsabilidad contenidos generados con ayuda de un asistente (por ejemplo, descripciones de productos) es responsable de revisarlos antes de publicarlos y de cumplir las obligaciones que le correspondan como responsable del despliegue de ese contenido.

3. Descripción de los sistemas en lenguaje sencillo

Agente IA. Es un asistente conversacional accesible por WhatsApp y por un widget de chat integrable en el sitio web del cliente de Lueira. Entre otras funciones, el Agente IA:

• Responde consultas utilizando la base de conocimiento propia de cada cliente de Lueira (ver sección 10).
• Calcula precios de las actividades, alquileres o servicios disponibles.
• Puede generar enlaces de pago.
• Puede crear o gestionar reservas en nombre del usuario.
• Deriva la conversación a una persona del equipo cuando no puede resolver la solicitud o cuando el usuario lo solicita (ver sección 7).

Asistentes de la aplicación. Son asistentes de chat dentro de la aplicación de gestión de Lueira. Entre otras funciones:

• Responden preguntas sobre cómo usar Lueira a partir de las guías y los vídeos de ayuda de Lueira, y orientan al usuario hacia la pantalla adecuada.
• Realizan comprobaciones de solo lectura de la configuración de la cuenta del cliente, con los permisos del propio usuario, cuando este se lo pide.
• Leen las imágenes y los archivos PDF que el usuario adjunta (por ejemplo, una lista de precios o una ficha de producto) para responder sobre ellos.
• Cuando esta función está activada para la cuenta del cliente, pueden proponer la creación o la modificación de datos del catálogo (productos y precios, paquetes, extras) y de pedidos (por ejemplo, añadir un comentario o asignar un cliente) a partir de lo que el usuario les pide o adjunta. Nada se crea ni se modifica hasta que el usuario revisa la propuesta, puede editarla y la confirma. Los cambios se aplican con los permisos del propio usuario y quedan registrados en el registro de auditoría de Lueira como realizados por el asistente de IA en nombre de ese usuario. Los productos creados quedan ocultos en la tienda online hasta que el cliente los revisa y los publica.
• Derivan al usuario al equipo de Lueira cuando este lo solicita o cuando no pueden resolver la consulta.

Los Asistentes de la aplicación no pueden eliminar datos, confirmar, completar ni cancelar pedidos, ni enviar mensajes a terceros por su cuenta.

Ninguno de los sistemas descritos realiza las siguientes acciones:

• No toma decisiones médicas, legales ni de seguridad crítica sobre las personas.
• No realiza identificación biométrica ni reconocimiento de emociones.
• No analiza la voz con fines de identificación biométrica: las notas de voz recibidas por WhatsApp se transcriben únicamente a texto para poder procesar la consulta.

4. Derecho de información del artículo 50 del Reglamento de IA

El artículo 50 del Reglamento de IA reconoce el derecho a saber que se está interactuando con un sistema de inteligencia artificial. El Agente IA se identifica como un asistente de inteligencia artificial al inicio de la conversación, tanto en WhatsApp como en el widget de chat web, y lo confirma siempre que se le pregunta si es una persona.

Los Asistentes de la aplicación muestran, junto al campo en el que el usuario escribe y durante toda la conversación, un aviso de que está hablando con una inteligencia artificial y no con una persona, y se presentan como tal en el mensaje de bienvenida. Cuando un asistente propone cambios, la propuesta indica que ha sido generada por una IA en nombre del usuario y que debe revisarse antes de confirmarla.

Este derecho de información es distinto del derecho a no ser objeto de decisiones automatizadas con efectos significativos sin intervención humana, ya regulado por el RGPD en la sección 9 de los Términos y Condiciones y en la sección 6 de la Política de Privacidad. Ambos derechos son complementarios y coexisten.

5. Marcado y detección de contenido generado por IA

El artículo 50.2 del Reglamento de IA obliga a los proveedores de sistemas de IA generativa a marcar los contenidos que generan en un formato legible por máquina y a que puedan detectarse como generados por IA, mediante soluciones técnicas eficaces, interoperables, robustas y fiables en la medida en que sea técnicamente viable.

Lueira aplica actualmente las siguientes medidas a los textos generados por los Asistentes de la aplicación:

• Cada mensaje generado lleva un registro de procedencia firmado digitalmente y con sello de tiempo, que se conserva con el mensaje en la conversación y puede verificarse con la clave pública de Lueira.
• Lueira conserva, durante un plazo limitado de 365 días, una huella (hash) de cada texto generado. La huella no incluye el texto ni datos del cliente o del usuario, y permite comprobar si un texto concreto fue generado por un asistente de Lueira.
• Cualquier persona puede comprobar si un texto fue generado por un asistente de Lueira y obtener la clave pública de verificación en el servicio público de verificación: https://assistant.lueira.com/ai/provenance/verify (método POST, con el texto en el campo «text») y https://assistant.lueira.com/ai/provenance/keys. La respuesta se da en una frase legible.

Una huella solo identifica un texto idéntico (salvo espacios y saltos de línea): que un texto no figure en el registro no demuestra que lo haya escrito una persona, y un texto reescrito o parafraseado puede no detectarse.

Conforme a las directrices de la Comisión Europea sobre el artículo 50, quedan fuera de este marcado la extracción y estructuración de datos de documentos sin resumirlos, las traducciones y las correcciones de edición estándar, y los resultados muy breves. Lueira revisa periódicamente el alcance y las técnicas de marcado, incluidas las marcas de agua de los proveedores de los modelos, a medida que evoluciona el estado de la técnica.

6. Clasificación de riesgo de los sistemas

Ni el Agente IA ni los Asistentes de la aplicación constituyen una práctica prohibida conforme al artículo 5 del Reglamento de IA: no realizan manipulación subliminal, no efectúan clasificación social (social scoring) ni categorización biométrica de personas.

Tampoco se trata de sistemas de alto riesgo conforme al Anexo III del Reglamento de IA: no se utilizan para decisiones de empleo o selección de personal, evaluación de solvencia crediticia, identificación biométrica, gestión de infraestructuras críticas, educación o evaluación académica, ni para el acceso a servicios esenciales en el sentido del Anexo III. La gestión de reservas de actividades de ocio y turismo activo, o la administración de un catálogo de productos, no encaja en ninguno de los supuestos de alto riesgo previstos en dicho anexo.

En consecuencia, estos sistemas están sujetos a las obligaciones de transparencia del artículo 50 (sistemas de «riesgo limitado»), que se cumplen mediante la información de que se interactúa con una inteligencia artificial (sección 4) y el marcado y la detección del contenido generado (sección 5). La supervisión humana descrita a continuación es una garantía adicional.

7. Supervisión humana

El usuario tiene derecho a solicitar la intervención de una persona en cualquier momento, tal y como se describe en la sección 9 de los Términos y Condiciones y en la sección 6 de la Política de Privacidad.

En los Asistentes de la aplicación, ningún cambio se aplica sin que el usuario lo haya revisado y confirmado expresamente, y el usuario puede editar o descartar la propuesta. Los cambios aplicados quedan identificados en el registro de auditoría. La eliminación de datos y la confirmación, finalización o cancelación de pedidos son siempre acciones manuales.

8. Proveedores de infraestructura de IA

Los sistemas de IA de Lueira funcionan sobre modelos de inteligencia artificial de propósito general prestados por proveedores externos especializados. En la configuración actual, el Agente IA utiliza a OpenAI (respuestas de los agentes especializados, guardarraíl de seguridad frente a manipulación del asistente, transcripción de notas de voz y búsqueda en la base de conocimiento) y a OpenRouter (modelo utilizado por el agente supervisor que compone la respuesta final), y los Asistentes de la aplicación utilizan modelos de OpenAI, Google y/o Anthropic, según el asistente y la configuración. Lueira podrá cambiar estos proveedores con el tiempo para optimizar el funcionamiento de los sistemas; la lista actualizada de subencargados que procesan datos personales a través de ellos está disponible en el Acuerdo de Tratamiento de Datos (DPA).

9. Lueira no entrena modelos propios con datos de clientes

Como se detalla en la sección 5 de la Política de Privacidad, Lueira no utiliza los datos de sus clientes para entrenar modelos de inteligencia artificial propios.

10. Base de conocimiento de los asistentes

El Agente IA responde utilizando el contenido de ayuda publicado por cada cliente de Lueira, no contenido genérico de internet. Esto permite que las respuestas estén acotadas a la información que el propio cliente ha puesto a disposición del asistente.

Los Asistentes de la aplicación responden a partir de las guías y los vídeos de ayuda de Lueira, no de contenido genérico de internet, y los datos de la cuenta del cliente a los que acceden son los que el propio usuario puede ver con sus permisos.

11. Limitaciones de los sistemas

El Agente IA incorpora salvaguardas para evitar compromisos erróneos (por ejemplo, confirmar una reserva o un pago que no se ha realizado realmente), pero, como cualquier sistema de inteligencia artificial, puede producir ocasionalmente respuestas inexactas. Se recomienda verificar siempre las confirmaciones de reserva o pago a través del canal oficial correspondiente.

Los Asistentes de la aplicación también pueden equivocarse, por ejemplo al leer un documento adjunto o al interpretar un precio. Por eso muestran sus propuestas para que el usuario las revise antes de aplicarlas, y se recomienda comprobar siempre los importes, los impuestos y los textos que se van a mostrar a los clientes finales.

12. Tratamiento de datos personales

El tratamiento de los datos personales derivado del uso del Agente IA y de los Asistentes de la aplicación se rige por la Política de Privacidad de Lueira.

Los archivos que el usuario adjunta a un Asistente de la aplicación (imágenes o PDF) se envían al proveedor del modelo para que pueda leerlos. Se recomienda no adjuntar datos personales que no sean necesarios.

13. Restricciones sobre la API pública, MCP y funcionalidades similares

El acceso a la API pública de LUEIRA, al servidor MCP (Model Context Protocol) o a cualquier otra funcionalidad, herramienta o integración ofrecida por LUEIRA no otorga al usuario ningún derecho a utilizar dichos accesos para replicar, clonar, recrear o desarrollar, por sí mismo o a través de terceros, productos o servicios que reproduzcan o sean sustancialmente similares a LUEIRA, a su funcionalidad, ya sea pasada, presente o futura, o a sus elementos distintivos. Queda expresamente prohibido cualquier uso de la API pública, del servidor MCP o de cualquier otra funcionalidad de LUEIRA con la finalidad, directa o indirecta, de construir una solución competidora o funcionalmente equivalente a LUEIRA.

El incumplimiento de esta cláusula facultará a LUEIRA para suspender o cancelar de forma inmediata el acceso del usuario infractor a la API, al servidor MCP y al resto de servicios, sin perjuicio de las acciones legales que puedan corresponder a LUEIRA.

14. Cambios en esta política

Lueira podrá actualizar esta política para adaptarla a cambios normativos, jurisprudenciales o en el funcionamiento de los sistemas de IA descritos. Cuando los cambios sean relevantes, se lo comunicaremos mediante un aviso en la plataforma o por correo electrónico con al menos 30 días de antelación.

Le recomendamos revisar esta política periódicamente. La fecha de la última actualización aparece siempre al pie de esta página.

15. Contacto

Para cualquier consulta sobre el funcionamiento del Agente IA o de los Asistentes de la aplicación, puede contactar con nosotros a través de:

• Correo electrónico: support@lueira.com
• Correo electrónico (protección de datos): rgpd@maladetastudio.com