Article
Cas d'usage
Livre blanc
Vidéo
Webinaire
Évènement
Comment ChatGPT et SYSTRAN gèrent les questions d'éthique
Biais ou discriminations
ChatGPT utilise des données existantes, qui peuventIntroduire un biais dans le modèle. Si ces préjugés sont ignorés, cela peut mener à des résultats discriminatoires ou injustes. Recherche CSA, modélisé, dans son dernier rapport, How Algorithmic Bias Has Many Causes :
Véracité
ChatGPT collecte des informations qui peuvent être fausses et les fournit sans contexte.
Cybercriminalité
Faire entièrement confiance à chatGPT peut constituer un gros risque, si les informations sont préjudiciables.
Le 27 mars 2023, Europol a publié un rapport qui pointe les possibles actions criminelles facilitées par des IA telles que ChatGPT: Désinformation, phishing, création de malware…
« L’exploitation potentielle de ces types de systèmes d’IA par des criminels offre de sombres perspectives », explique l’agence dans son rapport. Elle pointe aussi du doigt l’éventualité de la création de « dark LLMs », des IA créées et entraînées uniquement dans un objectif criminel et qui pourraient devenir centrales dans un « business model » mafieux. « Il deviendra plus facile que jamais pour des acteurs malveillants de perpétrer des activités criminelles sans connaissance préalable nécessaire », note le rapport
SYSTRAN propose une solution éthique. L'éthique est maintenue tout au long du processus de traduction, sur le corpus des données entrantes et des résultats, chacun vérifié par les linguistes. Intervention humaine assure le respect de l'éthique sans que les algorithmes multiplient les erreurs potentielles.
En outre, il ne peut y avoir de problème de cybercriminalité, puisque les données et les résultats sont sécurisés. SYSTRAN a ainsi gagné la confiance des organisations les plus exigeantes : Défense, Sécurité, Grands Comptes, Organisations Publiques...
Conformité avec le GDPR
Deux plaintes ont été déposées en France contre Open AI et ChatGPT auprès de la CNIL, le mardi 4 avril 2023.
Dans sa plainte, Zoé Vilain présidente de l'association de sensibilisation aux enjeux du numérique, Janus International, explique avoir créé un compte pour utiliser ChatGPT et avoir constaté l'absence de « conditions générales d'utilisation » à accepter et « d'une quelconque politique de confidentialité ». Elle demande à la Cnil de l'aider à exercer son droit d'accès à ses informations personnelles collectées par OpenAI, après une tentative infructueuse effectuée auprès de l'entreprise
Une deuxième plainte a été déposée par David Libeau, développeur très investi dans la protection des données personnelles. Il explique dans sa plainte avoir repéré des informations personnelles le concernant en interrogeant ChatGPT sur son profil. « Lorsque je demandais plus d'informations, l'algorithme a commencé à affabuler et à m'attribuer la création de sites web ou l'organisation de manifestations en ligne, ce qui est totalement faux », écrit-il
Le 31 mars dernier, l'Italie a été le premier pays à suspendre temporairement ChatGPT, en raison de préoccupations liées à la sécurité des données personnelles, au manque d'informations fournies aux utilisateurs et à l'absence d'un filtre d'âge pour vérifier les utilisateurs. Cette mesure a depuis attiré l'attention d'autres autorités européennes, telles que la France, l'Irlande et l'Allemagne, qui ont contacté les autorités italiennes afin de développer une position commune à l'égard de ChatGPT.
SYSTRAN respecte le RGPD
- Consentement des utilisateurs : SYSTRAN exige le consentement des utilisateurs pour collecter et traiter leurs données personnelles lors de l'utilisation de ses services de traduction.
- Contrôle d'accès: SYSTRAN veille à ce que seuls les employés et partenaires autorisés aient accès aux données de traduction.
- Droits de l'utilisateur: SYSTRAN garantit que les utilisateurs disposent des droits définis dans le RGPD, comme le droit d'accès, le droit de rectification, le droit d'effacement et le droit à la portabilité des données.
- Sécurité du transfert de données: SYSTRAN garantit la sécurité des transferts de données de traduction, en utilisant des mécanismes de cryptage appropriés lors de la transmission des données.
- Conservation des données - SYSTRAN conserve les données de traduction pendant la durée nécessaire à la fourniture de ses services et conformément aux exigences légales applicables
