Transparència sobre l'ús d'Intel·ligència Artificial

1. Objecte i àmbit

Aquesta pàgina desenvolupa les obligacions de transparència de l'article 50 del Reglament (UE) 2024/1689 (d'ara endavant, el «Reglament d'IA») en relació amb els sistemes d'intel·ligència artificial de Lueira que mantenen converses amb persones:

• l'assistent conversacional que els clients de Lueira ofereixen als seus propis clients finals per WhatsApp i mitjançant un widget de xat («Agent IA»), ja esmentat a la secció 9 dels Termes i Condicions i a les seccions 3 i 5 de la Política de Privacitat; i
• els assistents d'intel·ligència artificial integrats a l'aplicació de gestió de Lueira, que utilitza el personal dels clients de Lueira (per exemple, l'assistent de suport, l'analista de negoci i l'assistent de formularis) («Assistents de l'aplicació»).

Aquesta política no cobreix els processos d'intel·ligència artificial que no mantenen una conversa amb una persona, com la transcripció de notes de veu, la traducció automàtica de textos o l'extracció de dades de documents. Aquests processos poden estar subjectes a altres normes, com el RGPD, però no a l'obligació d'informar que s'interactua amb un sistema d'intel·ligència artificial.

2. Rols sota el Reglament d'IA: proveïdor i responsable del desplegament

El Reglament d'IA distingeix rols diferents dels de responsable i encarregat del tractament que ja coneixes de la Política de Privacitat i del DPA. No s'han de confondre: un mateix subjecte pot ser encarregat del tractament a efectes del RGPD i, alhora, proveïdor o responsable del desplegament a efectes del Reglament d'IA.

• MALADETA STUDIO, S.L. actua com a proveïdor dels dos sistemes d'IA: és qui els desenvolupa i els posa a disposició dels seus clients sota la marca Lueira.
• El client de Lueira que activa l'Agent IA per atendre els seus propis clients finals actua com a responsable del desplegament («deployer») davant d'aquests clients finals.
• En els Assistents de l'aplicació, el client de Lueira i el seu personal són usuaris del sistema. El client que publiqui sota la seva responsabilitat continguts generats amb l'ajuda d'un assistent (per exemple, descripcions de productes) és responsable de revisar-los abans de publicar-los i de complir les obligacions que li corresponguin com a responsable del desplegament d'aquest contingut.

3. Descripció dels sistemes en llenguatge senzill

Agent IA. És un assistent conversacional accessible per WhatsApp i per un widget de xat integrable al lloc web del client de Lueira. Entre altres funcions, l'Agent IA:

• Respon consultes utilitzant la base de coneixement pròpia de cada client de Lueira (vegeu la secció 10).
• Calcula preus de les activitats, lloguers o serveis disponibles.
• Pot generar enllaços de pagament.
• Pot crear o gestionar reserves en nom de l'usuari.
• Deriva la conversa a una persona de l'equip quan no pot resoldre la sol·licitud o quan l'usuari ho sol·licita (vegeu la secció 7).

Assistents de l'aplicació. Són assistents de xat dins de l'aplicació de gestió de Lueira. Entre altres funcions:

• Responen preguntes sobre com utilitzar Lueira a partir de les guies i els vídeos d'ajuda de Lueira, i orienten l'usuari cap a la pantalla adequada.
• Fan comprovacions de només lectura de la configuració del compte del client, amb els permisos de l'usuari mateix, quan aquest els ho demana.
• Llegeixen les imatges i els fitxers PDF que l'usuari adjunta (per exemple, una llista de preus o una fitxa de producte) per respondre sobre aquests.
• Quan aquesta funció està activada per al compte del client, poden proposar la creació o la modificació de dades del catàleg (productes i preus, paquets, extres) i de comandes (per exemple, afegir un comentari o assignar un client) a partir del que l'usuari els demana o adjunta. No es crea ni es modifica res fins que l'usuari revisa la proposta, pot editar-la i la confirma. Els canvis s'apliquen amb els permisos de l'usuari mateix i queden registrats al registre d'auditoria de Lueira com a fets per l'assistent d'IA en nom d'aquest usuari. Els productes creats queden ocults a la botiga en línia fins que el client els revisa i els publica.
• Deriven l'usuari a l'equip de Lueira quan aquest ho sol·licita o quan no poden resoldre la consulta.

Els Assistents de l'aplicació no poden eliminar dades, confirmar, completar ni cancel·lar comandes, ni enviar missatges a tercers pel seu compte.

Cap dels sistemes descrits realitza les accions següents:

• No prenen decisions mèdiques, legals ni de seguretat crítica sobre les persones.
• No realitzen identificació biomètrica ni reconeixement d'emocions.
• No analitzen la veu amb finalitats d'identificació biomètrica: les notes de veu rebudes per WhatsApp es transcriuen únicament a text per poder processar la consulta.

4. Dret d'informació de l'article 50 del Reglament d'IA

L'article 50 del Reglament d'IA reconeix el dret a saber que s'està interactuant amb un sistema d'intel·ligència artificial. L'Agent IA s'identifica com un assistent d'intel·ligència artificial a l'inici de la conversa, tant a WhatsApp com al widget de xat web, i ho confirma sempre que se li pregunta si és una persona.

Els Assistents de l'aplicació mostren, al costat del camp on l'usuari escriu i durant tota la conversa, un avís que està parlant amb una intel·ligència artificial i no amb una persona, i es presenten com a tals al missatge de benvinguda. Quan un assistent proposa canvis, la proposta indica que ha estat generada per una IA en nom de l'usuari i que s'ha de revisar abans de confirmar-la.

Aquest dret d'informació és diferent del dret a no ser objecte de decisions automatitzades amb efectes significatius sense intervenció humana, ja regulat pel RGPD a la secció 9 dels Termes i Condicions i a la secció 6 de la Política de Privacitat. Tots dos drets són complementaris i coexisteixen.

5. Marcatge i detecció de contingut generat per IA

L'article 50.2 del Reglament d'IA obliga els proveïdors de sistemes d'IA generativa a marcar els continguts que generen en un format llegible per màquina i a fer que puguin detectar-se com a generats per IA, mitjançant solucions tècniques eficaces, interoperables, robustes i fiables en la mesura que sigui tècnicament viable.

Lueira aplica actualment les mesures següents als textos generats pels Assistents de l'aplicació:

• Cada missatge generat porta un registre de procedència signat digitalment i amb segell de temps, que es conserva amb el missatge a la conversa i es pot verificar amb la clau pública de Lueira.
• Lueira conserva, durant un termini limitat de 365 dies, una empremta (hash) de cada text generat. L'empremta no inclou el text ni dades del client o de l'usuari, i permet comprovar si un text concret ha estat generat per un assistent de Lueira.
• Qualsevol persona pot comprovar si un text ha estat generat per un assistent de Lueira i obtenir la clau pública de verificació al servei públic de verificació: https://assistant.lueira.com/ai/provenance/verify (mètode POST, amb el text al camp «text») i https://assistant.lueira.com/ai/provenance/keys. La resposta es dona en una frase llegible.

Una empremta només identifica un text idèntic (llevat d'espais i salts de línia): que un text no figuri al registre no demostra que l'hagi escrit una persona, i un text reescrit o parafrasejat pot no detectar-se.

D'acord amb les directrius de la Comissió Europea sobre l'article 50, queden fora d'aquest marcatge l'extracció i l'estructuració de dades de documents sense resumir-los, les traduccions i les correccions d'edició estàndard, i els resultats molt breus. Lueira revisa periòdicament l'abast i les tècniques de marcatge, incloses les marques d'aigua dels proveïdors dels models, a mesura que evoluciona l'estat de la tècnica.

6. Classificació de risc dels sistemes

Ni l'Agent IA ni els Assistents de l'aplicació constitueixen una pràctica prohibida conforme a l'article 5 del Reglament d'IA: no realitzen manipulació subliminal, no efectuen classificació social (social scoring) ni categorització biomètrica de persones.

Tampoc es tracta de sistemes d'alt risc conforme a l'Annex III del Reglament d'IA: no s'utilitzen per a decisions d'ocupació o selecció de personal, avaluació de solvència creditícia, identificació biomètrica, gestió d'infraestructures crítiques, educació o avaluació acadèmica, ni per a l'accés a serveis essencials en el sentit de l'Annex III. La gestió de reserves d'activitats d'oci i turisme actiu, o l'administració d'un catàleg de productes, no encaixa en cap dels supòsits d'alt risc previstos en aquest annex.

En conseqüència, aquests sistemes estan subjectes a les obligacions de transparència de l'article 50 (sistemes de «risc limitat»), que es compleixen mitjançant la informació que s'interactua amb una intel·ligència artificial (secció 4) i el marcatge i la detecció del contingut generat (secció 5). La supervisió humana descrita a continuació és una garantia addicional.

7. Supervisió humana

L'usuari té dret a sol·licitar la intervenció d'una persona en qualsevol moment, tal com es descriu a la secció 9 dels Termes i Condicions i a la secció 6 de la Política de Privacitat.

En els Assistents de l'aplicació, cap canvi s'aplica sense que l'usuari l'hagi revisat i confirmat expressament, i l'usuari pot editar o descartar la proposta. Els canvis aplicats queden identificats al registre d'auditoria. L'eliminació de dades i la confirmació, finalització o cancel·lació de comandes són sempre accions manuals.

8. Proveïdors d'infraestructura d'IA

Els sistemes d'IA de Lueira funcionen sobre models d'intel·ligència artificial de propòsit general prestats per proveïdors externs especialitzats. En la configuració actual, l'Agent IA utilitza OpenAI (respostes dels agents especialitzats, salvaguarda de seguretat davant la manipulació de l'assistent, transcripció de notes de veu i cerca a la base de coneixement) i OpenRouter (model utilitzat per l'agent supervisor que compon la resposta final), i els Assistents de l'aplicació utilitzen models d'OpenAI, Google i/o Anthropic, segons l'assistent i la configuració. Lueira podrà canviar aquests proveïdors amb el temps per optimitzar el funcionament dels sistemes; la llista actualitzada de subencarregats que processen dades personals a través d'aquests està disponible a l' Acord de Tractament de Dades (DPA).

9. Lueira no entrena models propis amb dades de clients

Com es detalla a la secció 5 de la Política de Privacitat, Lueira no utilitza les dades dels seus clients per entrenar models d'intel·ligència artificial propis.

10. Base de coneixement dels assistents

L'Agent IA respon utilitzant el contingut d'ajuda publicat per cada client de Lueira, no contingut genèric d'internet. Això permet que les respostes estiguin acotades a la informació que el mateix client ha posat a disposició de l'assistent.

Els Assistents de l'aplicació responen a partir de les guies i els vídeos d'ajuda de Lueira, no de contingut genèric d'internet, i les dades del compte del client a què accedeixen són les que l'usuari mateix pot veure amb els seus permisos.

11. Limitacions dels sistemes

L'Agent IA incorpora salvaguardes per evitar compromisos erronis (per exemple, confirmar una reserva o un pagament que no s'ha fet realment), però, com qualsevol sistema d'intel·ligència artificial, pot produir ocasionalment respostes inexactes. Es recomana verificar sempre les confirmacions de reserva o pagament a través del canal oficial corresponent.

Els Assistents de l'aplicació també es poden equivocar, per exemple en llegir un document adjunt o en interpretar un preu. Per això mostren les seves propostes perquè l'usuari les revisi abans d'aplicar-les, i es recomana comprovar sempre els imports, els impostos i els textos que es mostraran als clients finals.

12. Tractament de dades personals

El tractament de les dades personals derivat de l'ús de l'Agent IA i dels Assistents de l'aplicació es regeix per la Política de Privacitat de Lueira.

Els fitxers que l'usuari adjunta a un Assistent de l'aplicació (imatges o PDF) s'envien al proveïdor del model perquè pugui llegir-los. Es recomana no adjuntar dades personals que no siguin necessàries.

13. Restriccions sobre l'API pública, el MCP i funcionalitats similars

L'accés a l'API pública de LUEIRA, al servidor MCP (Model Context Protocol) o a qualsevol altra funcionalitat, eina o integració oferta per LUEIRA no atorga a l'usuari cap dret a utilitzar aquests accessos per replicar, clonar, recrear o desenvolupar, per si mateix o a través de tercers, productes o serveis que reprodueixin o siguin substancialment similars a LUEIRA, a la seva funcionalitat, ja sigui passada, present o futura, o als seus elements distintius. Queda expressament prohibit qualsevol ús de l'API pública, del servidor MCP o de qualsevol altra funcionalitat de LUEIRA amb la finalitat, directa o indirecta, de construir una solució competidora o funcionalment equivalent a LUEIRA.

L'incompliment d'aquesta clàusula facultarà LUEIRA per suspendre o cancel·lar de manera immediata l'accés de l'usuari infractor a l'API, al servidor MCP i a la resta de serveis, sense perjudici de les accions legals que puguin correspondre a LUEIRA.

14. Canvis en aquesta política

Lueira podrà actualitzar aquesta política per adaptar-la a canvis normatius, jurisprudencials o en el funcionament dels sistemes d'IA descrits. Quan els canvis siguin rellevants, t'ho comunicarem mitjançant un avís a la plataforma o per correu electrònic amb almenys 30 dies d'antelació.

Et recomanem revisar aquesta política periòdicament. La data de l'última actualització apareix sempre al peu d'aquesta pàgina.

15. Contacte

Per a qualsevol consulta sobre el funcionament de l'Agent IA o dels Assistents de l'aplicació, pots contactar amb nosaltres a través de:

• Correu electrònic: support@lueira.com
• Correu electrònic (protecció de dades): rgpd@maladetastudio.com