Transparence sur l'utilisation de l'Intelligence Artificielle

1. Objet et champ d'application

Cette page développe les obligations de transparence de l'article 50 du Règlement (UE) 2024/1689 (ci-après, le « Règlement sur l'IA ») en ce qui concerne les systèmes d'intelligence artificielle de Lueira qui tiennent des conversations avec des personnes :

• l'assistant conversationnel que les clients de Lueira proposent à leurs propres clients finaux via WhatsApp et un widget de chat (« Agent IA »), déjà mentionné à la section 9 des Conditions Générales et aux sections 3 et 5 de la Politique de confidentialité ; et
• les assistants d'intelligence artificielle intégrés à l'application de gestion de Lueira, utilisés par le personnel des clients de Lueira (par exemple, l'assistant de support, l'analyste d'activité et l'assistant de formulaires) («Assistants de l'application »).

Cette politique ne couvre pas les processus d'intelligence artificielle qui ne tiennent pas de conversation avec une personne, comme la transcription de notes vocales, la traduction automatique de textes ou l'extraction de données de documents. Ces processus peuvent être soumis à d'autres règles, comme le RGPD, mais pas à l'obligation d'informer que l'on interagit avec un système d'intelligence artificielle.

2. Rôles au titre du Règlement sur l'IA : fournisseur et déployeur

Le Règlement sur l'IA distingue des rôles différents de ceux de responsable du traitement et de sous-traitant que vous connaissez déjà par la Politique de confidentialité et le DPA. Ils ne doivent pas être confondus : une même entité peut être sous-traitant au sens du RGPD et, en même temps, fournisseur ou déployeur au sens du Règlement sur l'IA.

• MALADETA STUDIO, S.L. agit en tant que fournisseur des deux systèmes d'IA : c'est elle qui les développe et les met à la disposition de ses clients sous la marque Lueira.
• Le client de Lueira qui active l'Agent IA pour servir ses propres clients finaux agit en tant que déployeur à l'égard de ces clients finaux.
• Pour les Assistants de l'application, le client de Lueira et son personnel sont des utilisateurs du système. Le client qui publie, sous sa responsabilité, des contenus générés avec l'aide d'un assistant (par exemple, des descriptions de produits) est responsable de les relire avant de les publier et de respecter les obligations qui lui incombent en tant que déployeur de ce contenu.

3. Description des systèmes en langage simple

Agent IA. C'est un assistant conversationnel accessible via WhatsApp et via un widget de chat intégrable sur le site web du client de Lueira. Entre autres fonctions, l'Agent IA :

• Répond aux demandes en utilisant la base de connaissances propre à chaque client de Lueira (voir section 10).
• Calcule les prix des activités, locations ou services disponibles.
• Peut générer des liens de paiement.
• Peut créer ou gérer des réservations au nom de l'utilisateur.
• Transfère la conversation à une personne de l'équipe lorsqu'il ne peut pas résoudre la demande ou lorsque l'utilisateur le demande (voir section 7).

Assistants de l'application. Ce sont des assistants de chat à l'intérieur de l'application de gestion de Lueira. Entre autres fonctions :

• Ils répondent aux questions sur l'utilisation de Lueira à partir des guides et des vidéos d'aide de Lueira, et orientent l'utilisateur vers le bon écran.
• Ils effectuent des vérifications en lecture seule de la configuration du compte du client, avec les droits de l'utilisateur lui-même, lorsque celui-ci le leur demande.
• Ils lisent les images et les fichiers PDF que l'utilisateur joint (par exemple, une liste de prix ou une fiche produit) afin de répondre à leur sujet.
• Lorsque cette fonction est activée pour le compte du client, ils peuvent proposer de créer ou de modifier des données du catalogue (produits et prix, forfaits, extras) et des commandes (par exemple, ajouter un commentaire ou affecter un client) à partir de ce que l'utilisateur leur demande ou joint. Rien n'est créé ni modifié tant que l'utilisateur n'a pas examiné la proposition, pu la modifier et l'avoir confirmée. Les modifications sont appliquées avec les droits de l'utilisateur lui-même et sont enregistrées dans le journal d'audit de Lueira comme effectuées par l'assistant d'IA au nom de cet utilisateur. Les produits créés restent masqués dans la boutique en ligne jusqu'à ce que le client les examine et les publie.
• Ils orientent l'utilisateur vers l'équipe de Lueira lorsqu'il le demande ou lorsqu'ils ne peuvent pas résoudre la demande.

Les Assistants de l'application ne peuvent pas supprimer de données, confirmer, terminer ou annuler des commandes, ni envoyer de messages à des tiers de leur propre initiative.

Aucun des systèmes décrits n'effectue les actions suivantes :

• Ils ne prennent pas de décisions médicales, juridiques ou de sécurité critique sur les personnes.
• Ils n'effectuent pas d'identification biométrique ni de reconnaissance des émotions.
• Ils n'analysent pas la voix à des fins d'identification biométrique : les notes vocales reçues par WhatsApp sont uniquement transcrites en texte afin de traiter la demande.

4. Droit à l'information de l'article 50 du Règlement sur l'IA

L'article 50 du Règlement sur l'IA reconnaît le droit de savoir que l'on interagit avec un système d'intelligence artificielle. L'Agent IA s'identifie comme un assistant d'intelligence artificielle au début de la conversation, aussi bien sur WhatsApp que dans le widget de chat web, et le confirme chaque fois qu'on lui demande s'il s'agit d'une personne.

Les Assistants de l'application affichent, à côté du champ où l'utilisateur écrit et tout au long de la conversation, un avis indiquant qu'il parle à une intelligence artificielle et non à une personne, et se présentent comme tels dans le message de bienvenue. Lorsqu'un assistant propose des modifications, la proposition indique qu'elle a été générée par une IA au nom de l'utilisateur et qu'elle doit être examinée avant d'être confirmée.

Ce droit à l'information est distinct du droit de ne pas faire l'objet de décisions automatisées ayant des effets significatifs sans intervention humaine, déjà régi par le RGPD à la section 9 des Conditions Générales et à la section 6 de la Politique de confidentialité. Les deux droits sont complémentaires et coexistent.

5. Marquage et détection du contenu généré par l'IA

L'article 50, paragraphe 2, du Règlement sur l'IA oblige les fournisseurs de systèmes d'IA générative à marquer les contenus qu'ils génèrent dans un format lisible par machine et à faire en sorte qu'ils puissent être détectés comme générés par une IA, au moyen de solutions techniques efficaces, interopérables, solides et fiables dans la mesure où cela est techniquement possible.

Lueira applique actuellement les mesures suivantes aux textes générés par les Assistants de l'application :

• Chaque message généré porte un enregistrement de provenance signé numériquement et horodaté, conservé avec le message dans la conversation et vérifiable avec la clé publique de Lueira.
• Lueira conserve, pendant une durée limitée de 365 jours, une empreinte (hash) de chaque texte généré. L'empreinte n'inclut ni le texte ni aucune donnée du client ou de l'utilisateur, et permet de vérifier si un texte donné a été généré par un assistant de Lueira.
• Toute personne peut vérifier si un texte a été généré par un assistant de Lueira et obtenir la clé publique de vérification via le service public de vérification : https://assistant.lueira.com/ai/provenance/verify (méthode POST, avec le texte dans le champ « text ») et https://assistant.lueira.com/ai/provenance/keys. La réponse est donnée sous la forme d'une phrase lisible.

Une empreinte n'identifie qu'un texte identique (aux espaces et sauts de ligne près) : le fait qu'un texte ne figure pas dans le registre ne prouve pas qu'il a été écrit par une personne, et un texte réécrit ou paraphrasé peut ne pas être détecté.

Conformément aux lignes directrices de la Commission européenne sur l'article 50, l'extraction et la structuration de données de documents sans les résumer, les traductions et les corrections d'édition standard, ainsi que les résultats très courts, sont exclus de ce marquage. Lueira examine périodiquement la portée et les techniques de marquage, y compris les filigranes des fournisseurs de modèles, à mesure que l'état de l'art évolue.

6. Classification du risque des systèmes

Ni l'Agent IA ni les Assistants de l'application ne constituent une pratique interdite au sens de l'article 5 du Règlement sur l'IA : ils n'effectuent ni manipulation subliminale, ni notation sociale (social scoring), ni catégorisation biométrique des personnes.

Il ne s'agit pas non plus de systèmes à haut risque au sens de l'Annexe III du Règlement sur l'IA : ils ne sont pas utilisés pour des décisions d'emploi ou de recrutement, l'évaluation de la solvabilité, l'identification biométrique, la gestion d'infrastructures critiques, l'éducation ou l'évaluation académique, ni pour l'accès à des services essentiels au sens de l'Annexe III. La gestion des réservations d'activités de loisirs et de tourisme actif, ou l'administration d'un catalogue de produits, n'entre dans aucun des cas à haut risque prévus par cette annexe.

En conséquence, ces systèmes sont soumis aux obligations de transparence de l'article 50 (systèmes à « risque limité »), qui sont satisfaites en informant que l'on interagit avec une intelligence artificielle (section 4) et par le marquage et la détection du contenu généré (section 5). La supervision humaine décrite ci-après est une garantie supplémentaire.

7. Supervision humaine

L'utilisateur a le droit de demander l'intervention d'une personne à tout moment, comme décrit à la section 9 des Conditions Générales et à la section 6 de la Politique de confidentialité.

Dans les Assistants de l'application, aucune modification n'est appliquée sans que l'utilisateur l'ait examinée et expressément confirmée, et l'utilisateur peut modifier ou écarter la proposition. Les modifications appliquées sont identifiées dans le journal d'audit. La suppression de données et la confirmation, la finalisation ou l'annulation de commandes sont toujours des actions manuelles.

8. Prestataires d'infrastructure d'IA

Les systèmes d'IA de Lueira fonctionnent sur des modèles d'intelligence artificielle à usage général fournis par des prestataires externes spécialisés. Dans la configuration actuelle, l'Agent IA utilise OpenAI (réponses des sous-agents spécialisés, garde-fou de sécurité contre la manipulation de l'assistant, transcription des notes vocales et recherche dans la base de connaissances) et OpenRouter (modèle utilisé par l'agent superviseur qui compose la réponse finale), et les Assistants de l'application utilisent des modèles d'OpenAI, de Google et/ou d'Anthropic, selon l'assistant et la configuration. Lueira pourra modifier ces prestataires au fil du temps afin d'optimiser le fonctionnement des systèmes ; la liste actualisée des sous-traitants qui traitent des données personnelles par leur intermédiaire est disponible dans l'Accord de Traitement des Données (DPA).

9. Lueira n'entraîne pas ses propres modèles avec les données des clients

Comme précisé à la section 5 de la Politique de confidentialité, Lueira n'utilise pas les données de ses clients pour entraîner ses propres modèles d'intelligence artificielle.

10. Base de connaissances des assistants

L'Agent IA répond en utilisant le contenu d'aide publié par chaque client de Lueira, et non du contenu générique issu d'internet. Cela permet que les réponses soient fondées sur les informations que le client lui-même a mises à la disposition de l'assistant.

Les Assistants de l'application répondent à partir des guides et des vidéos d'aide de Lueira, et non de contenu générique issu d'internet, et les données du compte du client auxquelles ils accèdent sont celles que l'utilisateur peut voir avec ses propres droits.

11. Limites des systèmes

L'Agent IA intègre des garde-fous visant à éviter des engagements erronés (par exemple, confirmer une réservation ou un paiement qui n'a pas réellement été effectué), mais, comme tout système d'intelligence artificielle, il peut occasionnellement produire des réponses inexactes. Nous vous recommandons de toujours vérifier les confirmations de réservation ou de paiement via le canal officiel correspondant.

Les Assistants de l'application peuvent aussi se tromper, par exemple en lisant un document joint ou en interprétant un prix. C'est pourquoi ils présentent leurs propositions à l'utilisateur pour examen avant de les appliquer, et nous recommandons de toujours vérifier les montants, les taxes et les textes qui seront affichés aux clients finaux.

12. Traitement des données personnelles

Le traitement des données personnelles découlant de l'utilisation de l'Agent IA et des Assistants de l'application est régi par la Politique de confidentialité de Lueira.

Les fichiers que l'utilisateur joint à un Assistant de l'application (images ou PDF) sont envoyés au prestataire du modèle afin qu'il puisse les lire. Nous recommandons de ne pas joindre de données personnelles qui ne sont pas nécessaires.

13. Restrictions relatives à l'API publique, au MCP et aux fonctionnalités similaires

L'accès à l'API publique de LUEIRA, à son serveur MCP (Model Context Protocol) ou à toute autre fonctionnalité, outil ou intégration proposé par LUEIRA n'accorde à l'utilisateur aucun droit d'utiliser ces accès pour reproduire, cloner, recréer ou développer, directement ou par l'intermédiaire de tiers, des produits ou services qui reproduisent ou sont substantiellement similaires à LUEIRA, à ses fonctionnalités, passées, présentes ou futures, ou à ses éléments distinctifs. Toute utilisation de l'API publique, du serveur MCP ou de toute autre fonctionnalité de LUEIRA dans le but, direct ou indirect, de construire une solution concurrente ou fonctionnellement équivalente à LUEIRA est expressément interdite.

Le non-respect de cette clause habilitera LUEIRA à suspendre ou résilier immédiatement l'accès de l'utilisateur contrevenant à l'API, au serveur MCP et aux autres services, sans préjudice des actions en justice que LUEIRA pourrait engager.

14. Modifications de cette politique

Lueira pourra mettre à jour cette politique pour l'adapter aux évolutions réglementaires, jurisprudentielles ou du fonctionnement des systèmes d'IA décrits. Lorsque les changements seront significatifs, nous vous en informerons par un avis sur la plateforme ou par email au moins 30 jours à l'avance.

Nous vous recommandons de consulter cette politique périodiquement. La date de la dernière mise à jour apparaît toujours en bas de cette page.

15. Contact

Pour toute question sur le fonctionnement de l'Agent IA ou des Assistants de l'application, vous pouvez nous contacter via :

• Email : support@lueira.com
• Email (protection des données) : rgpd@maladetastudio.com