Qui répond d’une décision assistée par un modèle
Un modèle qui prépare une décision ne devient pas le débiteur. Le code civil cherche une faute et un lien. En finance, le jugement humain reste sur les limites de la mesure.
Quand un dossier de crédit, un tarif ou une alerte sort d’un modèle et qu’une personne signe, la question de licence n’est pas de savoir si « l’algorithme a décidé ». Le droit français de la responsabilité extracontractuelle nomme une personne, une faute, un dommage et un lien. Le règlement européen du 13 juin 2024 ajoute, pour certains systèmes, un contrôle humain effectif. Aucun de ces textes ne transforme le modèle en débiteur. La section qui suit le dit pour le droit. Celle d’après dit ce que les métiers de la finance continuent de juger eux-mêmes : une mesure de risque n’est pas la perte de l’année qui vient, et suivre une recommandation sans voir ses limites est précisément le biais que le règlement demande de connaître.
Ce n’est pas un article sur l’emploi, qui est traité dans l’IA automatise des tâches, pas forcément des métiers, ni sur le partage du surplus, traité dans qui capte le gain de l’IA dans la firme. Les textes cités ont été lus : articles 1240 et 1241 du code civil sur Légifrance, règlement (UE) 2024/1689 au Journal officiel, et la section 15.1 d’OpenStax Principles of Finance pour le couple risque-rendement.
Le code civil cherche une personne, pas un logiciel
L’article 1240 du code civil, en vigueur depuis le 1er octobre 2016 (ordonnance n° 2016-131 du 10 février 2016), dispose : « Tout fait quelconque de l’homme, qui cause à autrui un dommage, oblige celui par la faute duquel il est arrivé à le réparer. » La phrase a trois prises. Un fait de l’homme. Un dommage causé à autrui. Une faute, et c’est la personne par la faute de laquelle le dommage est arrivé qui doit réparer. Le modèle n’est pas nommé. Il peut être l’instrument du fait. Il n’est pas, dans cet article, le sujet de l’obligation.
L’article 1241, même entrée en vigueur, ajoute : « Chacun est responsable du dommage qu’il a causé non seulement par son fait, mais encore par sa négligence ou par son imprudence. » La faute n’est donc pas seulement un acte positif. Ne pas faire une vérification que la situation appelait peut compter, si cette abstention cause le dommage. Utiliser un modèle n’est pas, par cet article, une faute. Suivre sa sortie sans regarder ce que la notice, le dossier ou le contexte rendaient visible peut devenir l’imprudence que le texte vise. Encore faut-il le démontrer : le fait, le défaut de précaution, le dommage, et le lien entre eux. Le cours de droit des obligations et les fiches de responsabilité délictuelle et de responsabilité civile font raisonner cet enchaînement. Ils ne se contentent pas du mot « préjudice ».
Deux limites, à écrire avant d’étendre. D’abord, 1240 et 1241 visent la responsabilité extracontractuelle. Quand un contrat lie déjà le demandeur et le défendeur — un mandat, un crédit, une prestation de conseil —, la qualification commence par l’obligation promise et son inexécution. La fiche de responsabilité contractuelle sert à ce partage : les articles 1240 et 1241 ne le remplacent pas. Ensuite, ces deux articles ne disent pas le montant de la réparation, ni comment prouver le lien dans un dossier précis. Une copie qui saute du dommage à la condamnation a manqué la faute ou le lien.
Le règlement européen organise un contrôle, pour certains systèmes
Le règlement (UE) 2024/1689 du 13 juin 2024, publié au Journal officiel le 12 juillet 2024, ne réécrit pas l’article 1240. Il classe des systèmes et impose des obligations à leurs fournisseurs et à leurs déployeurs. L’article 6, paragraphe 2, considère comme à haut risque les systèmes visés à l’annexe III. Le paragraphe 3 apporte une dérogation : un système de cette annexe n’est pas à haut risque s’il ne présente pas de risque important pour la santé, la sécurité ou les droits fondamentaux, y compris parce qu’il n’a pas d’incidence significative sur le résultat de la décision. Cette dérogation ne joue que dans des cas listés : tâche procédurale étroite ; amélioration du résultat d’une activité humaine déjà faite ; détection d’écarts par rapport aux décisions habituelles, sans remplacer ni influencer l’évaluation humaine préalable en l’absence d’examen humain approprié ; tâche préparatoire en vue d’une évaluation. Le même paragraphe précise qu’un système de l’annexe III qui effectue un profilage de personnes physiques reste à haut risque. Le fournisseur qui estime échapper au haut risque doit documenter son évaluation avant la mise sur le marché ou la mise en service.
L’annexe III, point 5, b), vise les systèmes destinés à évaluer la solvabilité des personnes physiques ou à établir leur note de crédit, à l’exception de ceux utilisés pour détecter des fraudes financières. Le point 5, c), vise l’évaluation des risques et la tarification, pour les personnes physiques, en assurance-vie et en assurance maladie. Le point 4 vise le recrutement, le filtrage de candidatures, et des décisions sur la promotion, le licenciement ou l’évaluation des personnes au travail. Un outil qui prépare une liste n’est donc pas « haut risque » par le seul fait d’exister. Un outil qui profile, ou qui pèse sur l’octroi d’un crédit à une personne physique, entre dans une autre case, sous la réserve de l’article 6, paragraphe 3.
Ce que l’article 14 appelle un contrôle humain
L’article 14 exige que les systèmes à haut risque soient conçus et développés de façon à permettre un contrôle effectif par des personnes physiques pendant leur utilisation, notamment par des interfaces adaptées. Ce contrôle vise à prévenir ou à réduire les risques pour la santé, la sécurité ou les droits fondamentaux, y compris en cas de mauvaise utilisation raisonnablement prévisible. Les personnes chargées du contrôle doivent, dans la mesure appropriée et proportionnée, pouvoir comprendre les capacités et les limites du système, en surveiller le fonctionnement, détecter anomalies et performances inattendues. Elles doivent avoir conscience de la tendance à se fier automatiquement ou excessivement aux sorties — le texte parle de biais d’automatisation —, en particulier quand le système fournit des informations ou des recommandations pour des décisions prises par des personnes. Elles doivent pouvoir interpréter les sorties, décider de ne pas utiliser le système, ou d’ignorer, remplacer ou inverser sa sortie, et l’interrompre de façon sécurisée.
L’article 26, paragraphe 2, oblige le déployeur à confier ce contrôle à des personnes qui ont la compétence, la formation, l’autorité et le soutien nécessaires. Le paragraphe 3 précise que ces obligations sont sans préjudice des autres obligations prévues par le droit de l’Union ou le droit national. Le paragraphe 5, second alinéa, est plus étroit qu’on ne le lit souvent : pour les établissements financiers soumis aux règles de gouvernance de la législation de l’Union sur les services financiers, le respect de ces règles vaut respect de l’obligation de surveillance énoncée au premier alinéa de ce paragraphe 5 — surveiller le fonctionnement et informer en cas de risque. Il ne dit pas que la gouvernance bancaire remplace l’article 1240, ni qu’elle dispense de toute compétence humaine au sens de l’article 14.
Ce que les métiers de la finance ne délèguent pas
Le lien avec la finance n’est pas un second sujet collé. L’annexe III place la solvabilité des personnes physiques et la tarification de certaines assurances dans la liste du haut risque, avec la dérogation de l’article 6. Le biais d’automatisation de l’article 14 est exactement le réflexe de prendre une sortie pour une décision déjà faite. Le métier consiste à savoir ce que le chiffre ne dit pas.
Une moyenne n’est pas l’année qui vient
OpenStax, Principles of Finance, section 15.1, pose le couple que les cours de licence rabâchent parce qu’il est le bon : le rendement est la récompense attendue, le risque est l’incertitude sur ce rendement. Le chapitre mesure ensuite, sur des actions américaines, à quel point une moyenne cache la dispersion. Pour Delta Air Lines, de 2011 à 2020, la moyenne arithmétique des rendements annuels est de 22,4 %. Aucune année du tableau n’est égale à 22,4 %. En 2013, le rendement est de 132,61 %. En 2011, il est de −35,79 %. L’écart-type sur la période est de 51,9 %. Le chapitre rappelle l’hypothèse normale : environ deux années sur trois, le rendement se situe à un écart-type de la moyenne, ici entre −29,5 % et 74,29 %. Un rendement supérieur à 74,29 %, ou une perte supérieure à 29,5 %, arrive encore, dans cette hypothèse, 16 % du temps chacun.
Ces pourcentages sont ceux du manuel pour un titre et une décennie donnés. Ils ne décrivent pas un portefeuille français, ni une valeur en risque réglementaire. Ils montrent le geste que le métier garde : refuser de traiter la moyenne, ou la sortie d’un modèle calibrée sur le passé, comme le résultat de la prochaine période. Plus l’écart-type est grand, plus la fourchette d’une année « typique » est large, donc plus le risque, au sens de ce chapitre, est élevé. Le cours de gestion des risques pousse la même idée sur d’autres mesures. La fiche value at risk demande de ne pas confondre un quantile de perte avec la perte maximale. La fiche risque de crédit sépare une perte moyenne d’une surprise de défaut. Ce ne sont pas les écart-types d’OpenStax, et les deux familles de chiffres ne s’additionnent pas.
Le jugement, c’est le droit d’écarter la sortie
L’article 14 ne demande pas une signature au bas d’une recommandation. Il demande des personnes capables de comprendre les limites, de voir une performance inattendue, et d’ignorer ou d’inverser la sortie. Dans un comité de crédit, cela veut dire pouvoir dire que la note ne tient pas le dossier : garantie mal évaluée, exposition qui grossit si la ligne est tirée, dépendance entre débiteurs que la note individuelle ne voit pas. Dans une salle de marché, cela veut dire ne pas traiter un écart-type historique comme une borne. La fiche des biais cognitifs en finance comportementale donne le vocabulaire du côté des décisions humaines ; le règlement, lui, nomme le biais d’automatisation du côté de l’outil. Les deux se rencontrent quand la personne fait trop confiance au chiffre parce qu’il a l’air précis.
L’article 26, paragraphe 7, ajoute une obligation d’organisation, pas un partage de responsabilité civile : avant de mettre en service un système à haut risque sur le lieu de travail, le déployeur employeur informe les représentants des travailleurs et les travailleurs concernés. Ce n’est pas la demande de travail de l’économie, ni le surplus de la firme. C’est une information due quand le système entre dans cette catégorie.
| Question | Texte qui y répond | Réponse qui rate la question |
|---|---|---|
| Qui répare un dommage causé par une faute ? | Article 1240 : la personne par la faute de laquelle il est arrivé | « Le modèle est responsable » |
| L’imprudence compte-t-elle ? | Article 1241 : négligence ou imprudence | « Avoir utilisé un outil est une faute » |
| Un score de solvabilité des personnes est-il toujours hors contrôle ? | Annexe III, point 5, b), sous l’article 6 | « Tout logiciel de banque est à haut risque » ou « aucun ne l’est » |
| Que garde le métier financier ? | Article 14, d) : pouvoir ignorer ou inverser la sortie ; OpenStax 15.1 : la moyenne n’est pas l’année réalisée | Signer la recommandation sans lire l’écart |
Ce qu’un QCM de droit ou de finance peut demander
En obligations, une question sérieuse fait qualifier le lien avant les dommages. Y a-t-il un contrat entre ces deux personnes ? Si non, les articles 1240 et 1241 ouvrent la faute, le dommage et le lien. Si oui, on ne plaque pas le régime extracontractuel pour éviter les règles du contrat. Une question piège remplace la personne par le logiciel, ou traite toute utilisation d’un outil comme une négligence. Les deux ignorent le texte : la faute est celle par laquelle le dommage est arrivé, et la négligence doit être rattachée à un défaut de précaution, pas au fait d’avoir un écran.
En finance, une question sérieuse demande ce qu’une mesure ne dit pas. La moyenne arithmétique d’OpenStax décrit une année typique au sens du chapitre ; elle n’a été égale au rendement d’aucune année de l’exemple Delta. Un quantile de perte n’est pas le pire cas. Une perte de crédit moyenne n’est pas un capital. Le parcours finance, le guide réussir en finance et, du côté juridique, réussir sa licence de droit rappellent le même geste : reconstruire la règle ou la mesure, puis dire sa limite. Le parcours droit et le droit des affaires situent la personne morale et le commerçant ; ils ne créent pas une personne « modèle ».
Suivre la recommandation du modèle est-il toujours une faute ?
Non. L’article 1241 vise le dommage causé par la négligence ou l’imprudence, pas l’usage d’un instrument. La faute suppose qu’on puisse dire quelle précaution a manqué et en quoi elle a causé le dommage. L’article 14, pour un système à haut risque, exige en revanche que la personne puisse écarter la sortie. Signer sans avoir eu la compétence, la formation, l’autorité et le soutien prévus à l’article 26, paragraphe 2, rate une obligation du règlement. Ce n’est pas, à soi seul, la démonstration d’un dommage réparable au titre de l’article 1240.
Un établissement financier échappe-t-il au contrôle humain grâce à sa gouvernance ?
Non, pas dans ces termes. L’article 26, paragraphe 5, second alinéa, dit que le respect des règles de gouvernance issues de la législation de l’Union sur les services financiers vaut respect de l’obligation de surveillance du premier alinéa de ce paragraphe, pour les établissements qui y sont soumis. Le contrôle décrit à l’article 14 — comprendre les limites, connaître le biais d’automatisation, pouvoir inverser la sortie — et la responsabilité des articles 1240 et 1241 ne sont pas cette phrase-là. Les confondre, c’est faire dire au règlement qu’une conformité prudentielle efface la faute civile.
Dernière limite, pour ne pas surinterpréter le Journal officiel lu ici. Le règlement prévoit des dates et des actes délégués, notamment des lignes directrices de la Commission sur l’article 6. Je n’en tire pas un calendrier d’application article par article. La classification haut risque peut bouger avec ces textes. Les articles 1240 et 1241, eux, sont ceux que Légifrance affichait en vigueur au 21 novembre 2026, depuis le 1er octobre 2016.
Sources consultées
- Code civil, article 1240, en vigueur depuis le 1er octobre 2016. Légifrance.
- Code civil, article 1241, en vigueur depuis le 1er octobre 2016. Légifrance.
- Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024, Journal officiel du 12 juillet 2024, notamment les articles 6, 14 et 26 et l’annexe III. PDF EUR-Lex consulté.
- OpenStax, Principles of Finance, section 15.1, « Risk and Return to an Individual Asset ». Page consultée.