Intelligence artificielle générative : des conseils d’utilisation pour les avocats

Avocat et intelligence artificielle générative : quand l’utiliser ?

La Commission européenne pour l’efficacité de la justice (CEPEJ) rappelle dans une note d’information que l’utilisation de l’intelligence artificielle générative (IAG) doit être mesurée, en particulier dans un contexte judiciaire.

Cette note, qui peut donc intéresser les avocats, rappelle les risques inhérents à l’usage de l’IAG :

• production potentielle d'informations factuellement inexactes (réponses fausses ou biaisées et « hallucinations ») ;
• divulgation possible de données sensibles et risque de confidentialité ;
• absence de références pour les informations fournies et violation potentielle de la propriété intellectuelle et des droits d'auteur ;
• capacité limitée à fournir la même réponse à une question identique ;
• reproduction potentielle des résultats ;
• stabilité et fiabilité variables des modèles d'IA générative pour les processus critiques et sensibles au facteur temps ;
• exagération des biais cognitifs.

Eu égard à ces risques, la CEPEJ préconise d’appliquer l’IAG en adoptant les comportements suivants :

• s’assurer que l'utilisation de l'outil est autorisée et adaptée à l'objectif recherché ;
• garder à l'esprit qu'il ne s'agit que d'un outil et essayer de comprendre comment il fonctionne (il faut bien être conscient des biais cognitifs humains) ;
• privilégier les systèmes entraînés sur des données certifiées et officielles afin de limiter les risques de biais, d'hallucination et de violation des droits d'auteur ;
• donner à l'outil des instructions claires sur ce qui est attendu de lui ;
• ne saisir que des données non sensibles et des informations déjà disponibles dans le domaine public ;
• toujours vérifier l'exactitude des réponses, même si des références sont données ;
• être transparent et toujours indiquer si une analyse ou un contenu a été généré par l'IAG ;
• reformuler le texte généré au cas où il serait utilisé dans des documents officiels et / ou juridiques ;
• restez maître de son choix et du processus de décision et examiner d'un œil critique les propositions qui sont faites.

Enfin, la CEPEJ identifie 6 situations dans lesquelles l’IAG ne doit pas être utilisée, à savoir :

• en cas de méconnaissance, d’incompréhension ou de non-acceptation des conditions d'utilisation ;
• si cela est interdit ou contraire aux règles du cabinet ;
• si le résultat obtenu ne peut pas être évalué en termes d'exactitude factuelle et de partialité ;
• s’il faut saisir et donc divulguer des données personnelles, confidentielles, protégées par le droit d'auteur ou autrement sensibles ;
• si vous souhaitez savoir comment la réponse a été obtenue ;
• s’il est attendu que le professionnel produise une réponse authentiquement autodidacte.