Pourquoi des outils d'IA sûrs d'eux échouent quand même la vérification par rapport à la Liste critique

Une fabricante a collé sa liste d'ingrédients dans un agent conversationnel généraliste le mois dernier et lui a demandé si quelque chose semblait restreint pour le Canada. La réponse est arrivée rapidement, avec assurance, et bien mise en forme avec des coches à côté de chaque ingrédient. Elle a aussi manqué une substance restreinte présente dans sa formule à une concentration supérieure à la limite permise. Elle ne l'a remarqué que parce qu'elle a vérifié la Liste critique elle-même par habitude. Tout le monde ne fait pas cette seconde vérification, et c'est exactement le problème.

L'assurance n'équivaut pas à l'exactitude

Les agents conversationnels généralistes excellent à paraître certains. Ils sont conçus pour produire des réponses fluides et d'apparence complète, et une liste bien nette d'ingrédients accompagnée de coches vertes rassurantes se lit comme faisant autorité, même lorsque la vérification sous-jacente n'a en réalité jamais eu lieu par rapport à un jeu de données réel et actuel. Le modèle ne ment pas exactement, il reproduit le schéma habituel d'une réponse de type « liste d'ingrédients propre », et il produira cette forme de réponse qu'il ait ou non réellement vérifié quoi que ce soit par rapport à la Liste critique des ingrédients cosmétiques (Hotlist) de Santé Canada.

Cela compte parce que la Liste critique est une liste précise et tenue à jour de substances interdites et restreintes, et elle change. Un modèle entraîné sur des données vieilles d'un an ou deux n'a aucun moyen de connaître un ajout récent ou une restriction resserrée, à moins d'interroger réellement une source en direct et à jour. Demandez-lui, et il ne mentionnera généralement pas cette limite de lui-même. Il répondra, tout simplement.

Où l'échec se manifeste habituellement

Les modes d'échec courants que l'on observe lorsque les gens se fient à des outils d'IA génériques pour ce genre de vérification :

• L'aveuglement aux noms commerciaux. Une formule listée par noms commerciaux de fournisseurs plutôt que par noms INCI peut passer inaperçue parce que le modèle ne fait pas systématiquement correspondre chaque nom commercial à son identité INCI et à son numéro CAS réels, particulièrement pour les mélanges.
• Le calcul manqué pour les mélanges. Si un ingrédient est en réalité un mélange fourni par un tiers, son composant restreint peut se situer bien en deçà du pourcentage indiqué sur l'étiquette du mélange, tout en dépassant la limite de la Liste critique une fois qu'on multiplie le pourcentage du composant dans le mélange par le niveau d'utilisation réel du mélange dans le produit fini. Un modèle qui ne fait pas cette multiplication passera complètement à côté de la concentration réelle.
• Des données de restriction obsolètes. La Liste critique est un document vivant. Une restriction ajoutée récemment, ou une limite de concentration resserrée, peut tout simplement ne pas se refléter dans les données d'entraînement d'un modèle généraliste.
• Une mise en forme trop rassurante. Un résultat propre, coché, d'apparence professionnelle, pousse les gens à cesser de revérifier, ce qui est précisément le moment où une restriction manquée se glisse dans un CNF déposé.

Un exemple concret du piège du calcul de mélange

Supposons qu'un mélange fourni par un tiers représente 5 % de votre formule totale, et que la documentation propre à ce mélange indique un ingrédient restreint à 4 % du mélange lui-même. La concentration réelle dans votre produit fini est de 0,05 fois 0,04, soit 0,2 %. Si la limite de la Liste critique pour cet ingrédient est inférieure à 0,2 %, vous avez un problème, et c'est un problème qui n'apparaît jamais si vous ne faites que jeter un œil au « 4 % » sur la fiche technique du fournisseur, ou si un outil vérifie le pourcentage figurant sur l'étiquette du mélange sans le développer jusqu'au calcul du produit fini.

À quoi ressemble une véritable vérification

Vérifier une formule par rapport à la Liste critique de façon adéquate signifie partir des noms INCI et des numéros CAS, pas des noms commerciaux, développer chaque mélange fourni par un tiers en ses composants réels, effectuer le calcul de pourcentage jusqu'au bout, jusqu'à la concentration dans le produit fini, et comparer ce chiffre à l'entrée actuelle de la Liste critique, pas à une version dont on se souvient approximativement. C'est un processus mécanique, et c'est exactement le genre de chose qui bénéficie d'être automatisée délibérément, plutôt que d'être demandée à un modèle généraliste jamais conçu pour tenir une liste réglementaire comme vérité de référence.

La solution n'est pas « ne pas utiliser l'IA », c'est « vérifier la source »

Rien de tout cela ne signifie que les outils automatisés sont la mauvaise approche. Cela signifie que l'outil doit réellement vérifier par rapport aux données actuelles et réelles de la Liste critique et effectuer le vrai calcul de pourcentage, avec un réviseur humain dans la boucle plutôt qu'une supposition d'apparence fluide qui tient lieu de vérification. C'est toute la conception derrière Cosmetic Comply : il associe chaque ingrédient à son nom INCI et à son numéro CAS, développe les mélanges et fait suivre les pourcentages, effectue une vérification par rapport à la Liste critique réelle avec un indice de confiance, puis fait vérifier le résultat par un véritable réviseur en conformité avant que quoi que ce soit ne soit déposé. Si un outil ne peut pas vous dire comment il a vérifié un ingrédient, cela vaut la peine de le demander avant de faire confiance à ses coches.