Analyse de contenu — correction et modération automatiques
Pendant qu'un utilisateur rédige dans un éditeur de texte enrichi de l'ENT, son texte peut être analysé en cours de frappe ou au moment de l'envoi : fautes d'orthographe et de grammaire soulignées d'un côté, contenu potentiellement inapproprié (toxicité, insulte, menace…) détecté de l'autre.
C'est la réponse au besoin SDET de « contrôle intelligent et en temps réel des contenus », en complément de deux dispositifs déjà en place et qui ne couvrent pas le même terrain :
| Dispositif | Ce qu'il contrôle | Quand |
|---|---|---|
| Antivirus | Le fichier joint (code malveillant) | À l'upload, avant acceptation |
| Analyse de contenu (cette page) | Le texte saisi (fautes, toxicité) | Pendant la frappe ou à l'envoi |
| Modération des signalements | Ce qui a déjà été publié | Après coup, sur signalement d'un utilisateur |
La modération automatique est donc préventive : elle intervient avant publication, là où la file de signalements traite l'après. Les deux se complètent, aucune ne remplace l'autre.
Le dispositif décrit ici n'analyse que du texte. Aucune modération visuelle d'image n'est en place : une image déposée dans l'ENT est contrôlée par l'antivirus (elle ne doit pas être porteuse d'un code malveillant), mais son contenu visuel n'est pas examiné. Voir Limites connues.
Fonctionnalités
- Souligner les fautes d'orthographe et proposer des corrections
- Souligner les fautes de grammaire et proposer des corrections
- Détecter un contenu à risque et, selon le réglage, avertir l'auteur ou bloquer l'envoi
- Régler chaque analyse séparément : activée ou non, en direct ou à la demande
- Tester un texte depuis la console d'administration, sans toucher à la politique en vigueur
- Chronométrer chaque moteur séparément, pour décider lequel garder au vu de son temps de réponse
- Suivre l'état des deux moteurs (correction, modération) indépendamment l'un de l'autre
Les trois analyses
Elles sont indépendantes : on peut n'activer que la modération, ou que la correction, ou les trois.
| Analyse | Ce qu'elle renvoie | Effet dans l'éditeur |
|---|---|---|
| Orthographe | Les passages fautifs (position, longueur) et des suggestions | Soulignement + suggestions. Toujours indicatif |
| Grammaire | Idem, sur les accords, la syntaxe, la ponctuation | Soulignement + suggestions. Toujours indicatif |
| Modération | Un verdict « sûr » ou « à risque », et les catégories détectées avec un score (ex. toxicité 92 %, insulte 74 %) | Avertissement ou blocage de l'envoi, selon le réglage |
Deux points qui reviennent souvent :
- Orthographe et grammaire n'empêchent jamais un envoi. Quel que soit le réglage de modération, ce sont des propositions : l'utilisateur écrit ce qu'il veut.
- La modération ne rend pas un avis binaire mais des scores par catégorie. Le verdict s'accompagne du détail, qu'on retrouve dans l'écran de test : c'est lui qui permet de juger si le moteur se comporte comme attendu sur des textes réels de l'établissement.
Le texte est analysé en français.
Les deux modes de déclenchement
Chaque analyse a son propre mode. C'est le réglage qui a le plus d'effet sur le ressenti utilisateur et sur la charge du service.
| Mode | Quand l'analyse part | Ce que voit l'utilisateur | À privilégier pour |
|---|---|---|---|
| En direct | Automatiquement pendant la frappe, 1,5 s après la dernière touche | Les soulignements apparaissent tout seuls, le texte « se corrige sous les yeux » | La modération : le but est d'alerter avant que l'auteur ait terminé |
| À la demande | Jamais pendant la frappe — seulement sur action explicite, et toujours au moment d'envoyer | Rien ne bouge pendant la saisie ; les résultats arrivent d'un coup | L'orthographe/grammaire, plus lente : évite de la faire tourner en continu |
Les différences concrètes :
- Réactivité — en direct, l'utilisateur est averti pendant qu'il écrit ; à la demande, il ne l'est qu'au moment où il valide.
- Charge — en direct, une analyse part à chaque pause de frappe (avec temporisation, donc pas à chaque caractère) ; à la demande, une seule analyse par envoi.
- Confort de saisie — un moteur lent en direct fait « clignoter » les soulignements pendant la frappe rapide ; c'est précisément ce que le mode à la demande évite.
Le mode de déclenchement est une indication donnée à l'éditeur : le service n'y filtre rien. En revanche, une analyse décochée ne s'exécute jamais, même si un éditeur la demande explicitement — c'est le service qui tranche.
Quel que soit le mode, toutes les analyses activées sont relancées juste avant l'envoi : rien n'est sauté au moment qui compte, y compris ce qui est réglé « à la demande ».
En cas de contenu jugé à risque
Un seul réglage, valable pour toute la plateforme.
| Réglage | Ce qui se passe | Quand le choisir |
|---|---|---|
| Avertir (défaut) | L'auteur est prévenu que son texte a été jugé à risque ; il peut confirmer et envoyer quand même | Mise en service, et régime courant : le faux positif reste un désagrément, pas un blocage |
| Bloquer l'envoi | L'envoi est refusé tant que le texte est jugé à risque | Contexte où un message inapproprié ne doit pas pouvoir partir, et où le taux de faux positifs a été mesuré |
Le conseil est le même que pour l'antivirus : commencer par « Avertir », observer sur des textes réels, et ne basculer sur « Bloquer » qu'une fois le comportement du moteur connu. Un classifieur de toxicité se trompe — sur une citation, un texte littéraire, un signalement de harcèlement rédigé par la victime elle-même.
« Bloquer l'envoi » est appliqué par l'éditeur, côté navigateur, à partir du verdict renvoyé par le service. C'est une barrière d'usage — efficace contre l'emportement, la maladresse, le message écrit sous le coup de la colère — mais ce n'est pas un contrôle serveur : elle ne prétend pas résister à un utilisateur qui chercherait délibérément à la contourner. Pour ces cas-là, le recours reste la modération des signalements.
Administration
, réservé au super-administrateur.
Les réglages s'appliquent immédiatement, sans redémarrage de l'ENT : c'est le service d'analyse qui fait autorité, et non la configuration de la plateforme.
L'écran comporte quatre blocs.
État du service
Le service et chacun de ses deux moteurs sont remontés séparément — correction d'un côté, modération de l'autre. Un moteur peut être hors ligne pendant que l'autre fonctionne : dans ce cas l'analyse correspondante est absente des résultats, sans faire échouer l'autre.
Deux situations sont signalées explicitement, parce qu'elles se ressemblent à l'usage mais n'ont pas la même cause :
- Hors ligne — le service est injoignable. Aucune correction ni modération n'est proposée.
- Désactivée — le service répond, mais la politique coupe l'analyse pour les éditeurs.
Politique
| Réglage | Défaut | Effet |
|---|---|---|
| Activer l'analyse de contenu | activé | Désactivé : plus aucune correction ni modération dans les éditeurs |
| Orthographe — activée / mode | activée, en direct | Décochée : ne s'exécute jamais |
| Grammaire — activée / mode | activée, en direct | Décochée : ne s'exécute jamais |
| Modération — activée / mode | activée, en direct | Décochée : plus aucun avertissement ni blocage |
| En cas de contenu à risque | Avertir | Bloquer : l'envoi est refusé |
Tester
Un champ de saisie, une case par analyse, un bouton. Le texte est envoyé au service indépendamment de la politique — le test fonctionne même si l'analyse est désactivée pour les éditeurs, ce qui permet de régler le dispositif avant de l'ouvrir aux utilisateurs.
Le résultat affiche les corrections proposées (passage fautif → suggestions), le verdict de modération et le détail des catégories avec leur score. Si un moteur était indisponible pendant le test, il est nommé plutôt que silencieusement omis.
Temps de réponse
C'est le critère qui décide en pratique du sort d'un moteur : un moteur trop lent rend l'analyse en direct pénible à la frappe, et il faut alors soit la basculer « à la demande », soit renoncer au moteur.
Pendant une analyse, un compteur défile à côté du bouton : sur un moteur froid l'attente se compte en secondes, et il faut pouvoir distinguer « lent » de « bloqué ». La durée est ensuite conservée avec le résultat, puis dans un tableau des douze dernières mesures (heure, vérifications, durée, issue).
Deux précautions, rappelées dans l'écran :
- La durée est mesurée de bout en bout — navigateur → dashboard → service → moteur et retour. C'est l'attente réelle d'un utilisateur dans l'éditeur, pas le seul temps de calcul du moteur.
- La première analyse d'un moteur est toujours la plus lente : le modèle se charge. C'est le temps à chaud, sur plusieurs mesures, qui doit servir de base de décision.
Un test lancé avec plusieurs vérifications cochées ne mesure que le plus lent des moteurs sollicités : la ligne correspondante est marquée « mesure groupée — non attribuable à un moteur ». Pour attribuer un temps à un moteur donné, le bouton « Mesurer une par une » rejoue le même texte, une vérification à la fois. Une synthèse par vérification apparaît alors — moteur concerné, meilleur temps, pire temps, nombre de mesures :
Orthographe (languagetool) — 340 ms au mieux, 2,1 s au pire sur 3 mesures
Modération (modération) — 1,8 s au mieux, 9,4 s au pire sur 3 mesures
Le meilleur temps approche le temps à chaud, le pire étant presque toujours le tout premier appel : c'est donc le meilleur qui sert à juger un moteur. Tant qu'une seule mesure a été relevée, aucun verdict n'est affiché — un relevé isolé est un démarrage à froid.
Rappel utile à la lecture : orthographe et grammaire sont rendues par le même service (LanguageTool). Les retirer toutes les deux retire un service ; n'en retirer qu'une ne fait économiser que le temps de cette vérification, pas le déploiement.
Les échecs sont chronométrés eux aussi — un abandon au bout de 20 s est une mesure, pas un trou dans l'historique. L'historique vit dans le navigateur : il est perdu au rechargement de la page, et peut être vidé à la main.
Si le service tombe
Une panne ne bloque jamais la saisie ni l'envoi : l'éditeur se comporte comme si la fonctionnalité était absente et l'utilisateur travaille normalement. Une panne du service d'analyse ne doit pas empêcher un enseignant d'écrire aux familles. La console d'administration, elle, affiche franchement « Hors ligne ».
Limites connues
- Aucune analyse d'image. Le dispositif est textuel. Le contenu visuel d'une image déposée dans l'ENT n'est pas examiné — seul l'antivirus la contrôle, et uniquement pour du code malveillant.
- Périmètre : les éditeurs de texte enrichi, module par module. Un module doit être raccordé pour que ses contenus soient analysés ; le carnet de liaison est le premier concerné. Les autres champs de saisie de l'ENT (titres, champs simples, formulaires) ne passent pas par ce chemin.
- Le blocage est appliqué côté navigateur — garde-fou d'usage, pas contrôle serveur (voir l'encadré plus haut).
- Le mode « à la demande » n'a pas encore de bouton dédié dans la barre d'outils de l'éditeur. Réglée ainsi, une analyse ne part donc aujourd'hui qu'au moment de l'envoi.
- Le soulignement dépend du thème, qui doit prévoir une mise en forme pour les corrections, sans quoi elles sont calculées sans être visibles.
- Politique unique pour la plateforme : pas de réglage par établissement ni par module.
- Pas de journal de modération. Les détections ne sont ni comptées ni historisées, et n'alimentent pas la file de modération des signalements, qui reste alimentée par les signalements des utilisateurs.
- Analyse en français uniquement.
Voir aussi
- Antivirus — le contrôle des fichiers déposés, que l'analyse de contenu ne recouvre pas.
- Modération des signalements — le traitement après publication, que la modération automatique ne remplace pas.
Chaîne d'appel de l'éditeur au service, contrat des routes, raccordement, délais, couverture de tests et état de l'implémentation : Analyse de contenu — détails techniques.