1. Le vérificateur pédagogique : ne jamais féliciter une erreur
Quand un enfant résout un exercice avec Emma, notre assistante, le risque le plus insidieux n'est pas que le modèle se trompe — c'est qu'il félicite une réponse fausse. Un « Bravo ! » sur un raisonnement erroné, et l'erreur s'ancre.
Notre réponse : une couche de vérification indépendante du modèle, purement déterministe. Elle recalcule, vérifie les équivalences d'étapes, substitue les solutions — et tranche : ce raisonnement peut-il être félicité, oui ou non ?
Le cas qui résume tout (test éliminatoire de notre suite) :
Arithmétiquement, 16 + 6 = 22est juste. Mais algébriquement, l'élève a déplacé un terme du mauvais côté. Un modèle pressé félicite. Notre vérificateur bloque — et renvoie une correction, jamais une fausse validation.
Résultat mesuré : sur un corpus de 111 cas-pièges, 111/111 conformes, 0 cas dangereux détecté dans cette suite de tests(zéro félicitation d'une réponse que la référence bloque). Et ce n'est pas une promesse : c'est un test qui tourne en intégration continue à chaque modification, sans GPU. Si une régression réintroduit ne serait-ce qu'un seul cas dangereux, le déploiement est refusé.
2. La porte éditoriale : ne jamais publier un fait non sourçable
Le même principe s'applique à nos contenus. Notre chaîne éditoriale est autonome : elle découvre un sujet, le documente, rédige — puis passe une revue de conformité automatique avant toute publication.
Récemment, sur un sujet de droit des successions, le brouillon affirmait une règle juridique fausse (un prétendu droit des frères et sœurs sur l'héritage du conjoint). La porte a refusé la publication, en citant l'article exact du Code civil qui contredit l'affirmation.
Aucune publication. La porte ne valide que ce qui est vérifiable, et bloque le reste — fail-closed: en cas de doute ou d'indisponibilité, elle bloque par défaut.
Le principe commun : séparer celui qui produit de celui qui valide
Dans les deux cas, la même architecture :
- Le modèle propose. Il est créatif, rapide, faillible.
- Une couche indépendante dispose.Elle est stricte, déterministe quand c'est possible, et conçue pour refuser plutôt que pour laisser passer.
C'est la différence entre « une IA qui répond » et « une IA en qui on peut avoir confiance ». Pour un enfant qui apprend, comme pour une famille qui nous lit, c'est non négociable.