L'intelligence artificielle (IA) transforme les environnements commerciaux dans divers secteurs, motivés par la nécessité d'optimiser les processus, d'améliorer les services et d'offrir une plus grande compétitivité. Au Brésil, la situation n’est donc pas différente : les grandes entreprises ont tourné leur attention vers des solutions d’IA qui ajoutent de la valeur et proposent des innovations dans des domaines clés, tels que le service client, l’analyse des données et l’automatisation des tâches. En ce sens, l’importance de ce que l’on appelle la « gouvernance de l’IA » apparaît, une approche systématique visant à garantir que l’utilisation de l’IA soit éthique, sûre et conforme aux règles contractuelles qui imprègnent les relations, ainsi qu’aux normes juridiques et réglementaires.
Pour cette raison, cet article vise à présenter les fondamentaux, les défis et les stratégies d’une gouvernance efficace de l’IA, en particulier pour les grandes organisations cherchant à s’adapter aux demandes du marché et à la législation actuelle.
Premièrement, la gouvernance de l’IA peut être comprise comme l’ensemble des politiques, procédures, structures et pratiques qui guident le développement, la mise en œuvre et la maintenance de solutions d’intelligence artificielle au sein des organisations.
Contrairement à la gouvernance informatique, qui se concentre traditionnellement sur l'infrastructure, les logiciels et le support, la gouvernance de l'IA se préoccupe également d'aspects tels que l'éthique, la transparence et la responsabilité dans l'utilisation des algorithmes et des données. En ce sens, une gouvernance bien établie apporte des avantages significatifs, tels qu’une plus grande confiance des parties prenantes et une réduction des risques juridiques et de réputation.
Les entreprises qui n’établissent pas de directives claires pour l’utilisation de l’IA risquent d’être confrontées à des problèmes allant de problèmes contractuels à des poursuites judiciaires, car la responsabilité des décisions automatisées est toujours un sujet de discussion au Brésil.
Les systèmes d’IA sont souvent alimentés par des bases de données robustes, et la protection de ces données est essentielle pour prévenir les fuites et les cyberattaques.
Les algorithmes formés avec des données biaisées peuvent perpétuer, voire aggraver la discrimination et les inégalités. Par exemple, lorsqu’il n’y a aucun contrôle sur les données utilisées dans la formation, les conséquences peuvent être encore plus graves. Par conséquent, la mise en œuvre de mesures de contrôle est essentielle pour éviter toute atteinte à la réputation et préserver la confiance des clients et des partenaires.
La Loi Générale sur la Protection des Données (LGPD) impose des obligations strictes en matière de collecte, de stockage et d'utilisation des données personnelles. Par conséquent, le non-respect des exigences légales peut entraîner de lourdes amendes et sanctions, en plus de nuire à l'image de l'entreprise.
La perception du public quant à l’utilisation responsable de l’IA peut influencer directement la construction et le maintien de la marque. Après tout, la transparence et les bonnes pratiques génèrent de la crédibilité auprès des consommateurs, des investisseurs et des partenaires commerciaux.
La LGPD impose des principes tels que la finalité, l'adéquation et la nécessité du traitement des données personnelles. Par conséquent, les projets d’IA doivent tenir compte de ces lignes directrices dès la phase de conception, en garantissant la confidentialité des personnes concernées et en évitant une exposition indue d’informations sensibles.
Les organisations doivent revoir et adapter les clauses contractuelles pour définir les responsabilités, les méthodes d’audit et les normes de sécurité liées à la collecte et au traitement des données pour l’IA. De cette façon, ils peuvent réduire les risques et garantir que leurs partenariats sont alignés sur la réglementation en vigueur.
Projet de loi n° 2338/2023, actuellement en cours d'examen à la Chambre des députés, vise à établir des normes générales pour le développement et l'application de l'IA au Brésil. Bien qu'il n'ait pas encore été approuvé, le texte offre un guide important pour les entreprises et autres acteurs intéressés à s'adapter en amont aux principaux points réglementaires.
I – Droit à l’information préalable : L’individu a le droit de savoir quand il interagit avec un système d’IA, ce qui implique une transparence sur le caractère automatisé des soins ou du service fourni.
II – Droit à l’explication : Toute décision, recommandation ou prédiction faite par l’IA doit pouvoir être clarifiée. De même, cela oblige les entreprises à adopter des mécanismes d’interprétabilité des algorithmes ou, au moins, à expliquer de manière accessible les critères utilisés dans la prise de décision.
III – Droit de contester les décisions : Si une décision ou une prédiction génère des effets juridiques ou un impact significatif sur le titulaire, la personne a le droit de s'interroger et de demander un réexamen, ce qui peut inclure la nécessité d'une intervention humaine pour évaluer si la décision était juste ou correcte.
IV – Droit à la détermination et à la participation humaine : Le projet de loi renforce le fait que, selon le contexte et l'état de l'art technologique, il doit y avoir un humain capable d'intervenir ou de superviser les décisions de l'IA, évitant ainsi une automatisation totalement aveugle aux conséquences sociales ou individuelles.
V – Droit à la non-discrimination et à la correction des préjugés : Les entreprises doivent veiller à ce que leurs systèmes d’IA ne perpétuent ni ne renforcent les préjugés et la discrimination. De plus, lorsque ces biais sont identifiés, des mesures correctives ou d’atténuation doivent être prises.
VI – Droit à la vie privée et à la protection des données personnelles : À l'instar de la LGPD, le projet de loi renforce que le traitement des données personnelles doit strictement respecter la législation en vigueur, y compris des principes tels que la finalité, la transparence et la sécurité.
L'unique paragraphe de l'article 5 impose aux agents d'AI de fournir, de manière claire et accessible, les procédures nécessaires à l'exercice de ces droits. Par conséquent, même si le projet n’est pas en vigueur, les entreprises qui anticipent de telles dispositions peuvent bénéficier d’éviter de futures responsabilités juridiques, en plus de se bâtir une réputation plus solide sur le marché.
Le Conseil fédéral de l'OAB a publié des lignes directrices sur l'utilisation de l'IA dans le domaine juridique, renforçant l'exigence de transparence, de fiabilité et de respect de la vie privée. En conséquence, ces lignes directrices pourraient influencer à la fois le secteur juridique et les entreprises qui s’appuient sur des conseils juridiques spécialisés dans les projets d’IA. En ce sens, les principaux aspects sont :
Bien que destinées à la pratique du droit, ces références renforcent la nécessité de se conformer aux normes existantes et de respecter la protection des données et les droits des tiers.
Les lignes directrices soulignent l'importance d'assurer la confidentialité des informations saisies dans les systèmes d'IA, d'évaluer la sécurité des fournisseurs et de s'assurer que les données ne sont pas utilisées pour former les systèmes sans le consentement requis. De plus, ce soin dialogue directement avec les exigences de conformité et de conformité requises par la LGPD.
L’utilisation de l’IA, en particulier de l’IA générative, ne doit pas remplacer le jugement professionnel ni mener des activités exclusives au droit. De plus, la pertinence de la formation continue est soulignée, afin que les professionnels comprennent les limites et les risques de la technologie. Bien que ce point soit destiné aux activités médico-légales, les organisations de tous les segments peuvent en apprendre davantage sur la nécessité de toujours maintenir une surveillance humaine et éthique des applications d’IA.
Les lignes directrices mettent l'accent sur la transparence avec les clients, en évaluant les limites et les risques de chaque application. Lorsqu'elles sont transposées à l'environnement de l'entreprise en général, ces recommandations renforcent la bonne pratique consistant à informer les partenaires et les consommateurs sur l'adoption de l'IA, en clarifiant les potentialités et les éventuelles limites, ce qui contribue à une relation plus digne de confiance et éthique.
Ces lignes directrices du Conseil fédéral de l'OAB soulignent que la gouvernance de l'IA, même dans les secteurs fortement réglementés, doit être guidée par la transparence, le respect de la vie privée et l'application de normes éthiques spécifiques. En outre, ils servent de cadre qui peut inspirer les politiques d’entreprise dans différents domaines, car ils traitent de sujets qui recoupent la gouvernance de l’IA, tels que la confidentialité, la sécurité, la formation et la responsabilité.
La réglementation de l’IA a tendance à évoluer rapidement, obligeant les entreprises à surveiller en permanence la législation et les réglementations, en plus de mettre constamment à jour leurs pratiques internes pour répondre aux normes établies.
L’utilisation responsable de l’IA peut devenir un différenciateur concurrentiel, augmentant la perception de valeur de la marque sur le marché. Cependant, des incidents d’utilisation abusive, des fuites de données ou des biais dans les algorithmes peuvent entraîner des crises d’imagerie à grande échelle. Ainsi, la mise en œuvre d’une communication transparente, combinée à des mesures de gouvernance solides, renforce les relations avec les clients, les employés et les investisseurs, favorisant ainsi une position de confiance et d’innovation.
Les décideurs doivent s’assurer que l’organisation dispose des politiques et des ressources nécessaires au développement sûr et éthique de l’IA, en respectant les limites réglementaires et les bonnes pratiques du marché.
La haute direction doit évaluer soigneusement les risques et les avantages de chaque initiative, en s'appuyant sur des rapports techniques, des avis juridiques et des analyses d'impact pour définir les priorités et approuver les investissements.
La gouvernance de l’IA nécessite un effort multidisciplinaire. Le dialogue continu entre les différents domaines, c'est-à-dire la collaboration entre les différents secteurs, génère une synergie, facilite la mise en œuvre de solutions robustes et assure la compatibilité avec les stratégies générales de l'entreprise.
Plusieurs entreprises ont réussi à appliquer l’IA aux processus d’analyse de crédit, de recommandation de produits et de prévention de la fraude. En général, ces projets disposent d'une structure de gouvernance solide et d'équipes multidisciplinaires.
Par exemple, une application réussie est l'utilisation de l'IA pour le service automatisé via WhatsApp, où le système est formé sur la base de la propre base de données de l'entreprise, y compris les catalogues de produits et de services.
Cette solution accélère et améliore la précision du service, réduisant les coûts opérationnels et offrant une expérience client plus agile. Cependant, la formation des modèles est effectuée avec prudence pour éviter les violations de la vie privée et garantir le respect de la LGPD. De même, l’utilisateur doit être dûment informé qu’il interagit avec une IA générative développée à cet effet spécifique, renforçant ainsi la transparence et consolidant la confiance du public.
L’adoption de solutions d’IA nécessite une étape de validation technique et juridique avant un lancement à grande échelle. Par exemple, des tests pilotes, un examen des données et un audit indépendant peuvent éviter les erreurs et renforcer la confiance dans le projet.
Il existe des outils de marché et des cadres de gouvernance d’entreprise adaptables à la réalité de l’IA. Par la suite, l’adoption de normes internationales (telles que ISO/IEC) contribue également à élever le niveau de maturité et de crédibilité des projets.
Le renforcement de la gouvernance de l'IA dans les grandes entreprises brésiliennes apparaît comme une réponse à la dépendance croissante à l'égard des solutions technologiques pour la prise de décision et pour maintenir les avantages concurrentiels sur le marché. Ainsi, en considérant les aspects juridiques et réglementaires, notamment la LGPD, le projet de loi n° 2338/2023 et les orientations du Conseil fédéral de l'OAB, il est possible de garantir une plus grande sécurité juridique et une plus grande robustesse éthique à chaque étape des projets d'IA.
En ce sens, l’accompagnement de conseillers spécialisés, la formation de comités internes et la création de politiques claires deviennent des différenciateurs essentiels. À l’avenir, la tendance est à ce que la réglementation de l’IA devienne encore plus dynamique, nécessitant une surveillance continue et une révision constante des processus internes.
Vanzin & Penteado Advogados est prêt à être un partenaire stratégique dans ce voyage, offrant l'expertise et le soutien nécessaires pour naviguer et mettre en œuvre avec succès les nouvelles technologies dans les opérations des grandes entreprises.
Publié par:
© 2024 Vanzin & Penteado Advogados Associados.
