Por qué las herramientas de IA seguras de sí mismas siguen fallando en la verificación del Hotlist

El mes pasado, una fabricante pegó su lista de ingredientes en un chatbot de propósito general y preguntó si algo parecía restringido para Canadá. La respuesta llegó rápido, segura de sí misma, y bien formateada con marcas de verificación junto a cada ingrediente. También pasó por alto una sustancia restringida presente en su fórmula a una concentración por encima del límite permitido. Ella solo lo detectó porque, por costumbre, verificó el Hotlist por su cuenta. No todo el mundo hace esa segunda verificación, y ese es exactamente el problema.

La confianza no es lo mismo que la exactitud

Los chatbots generales son buenos sonando seguros. Están diseñados para producir respuestas fluidas y de apariencia completa, y una lista prolija de ingredientes con tranquilizadoras marcas verdes se lee como autorizada incluso cuando la consulta subyacente nunca se realizó realmente contra un conjunto de datos real y actualizado. El modelo no está mintiendo exactamente, está reconociendo el patrón de cómo suele lucir una respuesta de "lista de ingredientes limpia", y va a producir ese tipo de respuesta haya verificado algo realmente contra el Hotlist de Ingredientes Cosméticos de Health Canada o no.

Esto importa porque el Hotlist es una lista específica y mantenida activamente de sustancias prohibidas y restringidas, y cambia. Un modelo entrenado con datos de hace uno o dos años no tiene forma de saber sobre una adición reciente o una restricción que se endureció, a menos que realmente esté consultando una fuente activa y actualizada. Pregúntale y por lo general no mencionará esa limitación por su cuenta. Simplemente responderá.

Dónde suele aparecer la falla

Los modos de falla comunes que vemos cuando la gente confía en herramientas de IA genéricas para este tipo de verificación:

• Ceguera ante nombres comerciales. Una fórmula listada con nombres comerciales de proveedores en lugar de nombres INCI puede pasar sin problema porque el modelo no asigna de manera confiable cada nombre comercial a su identidad INCI real y su número CAS, especialmente en el caso de las mezclas.
• Cuentas de mezcla pasadas por alto. Si un ingrediente en realidad es una mezcla de proveedor, su componente restringido puede estar cómodamente dentro del porcentaje que figura en la etiqueta de la mezcla, pero superar el límite del Hotlist en cuanto multiplicas el porcentaje del componente dentro de la mezcla por el nivel de uso real de la mezcla en el producto terminado. Un modelo que no hace esa multiplicación pasará por alto la concentración real por completo.
• Datos de restricción desactualizados. El Hotlist es un documento vivo. Una restricción añadida recientemente, o un límite de concentración que se endureció, puede simplemente no estar reflejado en los datos de entrenamiento de un modelo general.
• Formato excesivamente confiado. Una salida limpia, con marcas de verificación y apariencia profesional hace que la gente deje de verificar dos veces, que es precisamente el momento en que una restricción pasada por alto se cuela en un CNF ya presentado.

Un ejemplo concreto de la trampa de la cuenta de mezcla

Supongamos que una mezcla de proveedor es el 5% de tu fórmula total, y la documentación de esa mezcla muestra un ingrediente restringido al 4% de la mezcla misma. La concentración real en tu producto terminado es 0.05 por 0.04, que da 0.2%. Si el límite del Hotlist para ese ingrediente es menor a 0.2%, tienes un problema, y es uno que nunca aparece si solo miras el "4%" en la ficha técnica del proveedor o si una herramienta verifica el porcentaje de la etiqueta de la mezcla sin expandirlo a la cuenta del producto terminado.

Cómo se ve una verificación real

Verificar correctamente una fórmula contra el Hotlist significa partir de nombres INCI y números CAS, no de nombres comerciales, expandir cada mezcla de proveedor en sus componentes reales, hacer la cuenta de porcentajes hasta llegar a la concentración en el producto terminado, y comparar ese número contra la entrada actual del Hotlist, no una recordada o aproximada. Ese es un proceso mecánico, y es exactamente el tipo de tarea que se beneficia de ser automatizada de manera deliberada, en lugar de pedírsela a un modelo de propósito general que nunca fue construido para sostener una lista regulatoria como verdad de referencia.

La solución no es "no uses IA", es "verifica la fuente"

Nada de esto significa que las herramientas automatizadas sean el enfoque equivocado. Significa que la herramienta realmente tiene que estar verificando contra los datos reales y actuales del Hotlist y haciendo la cuenta de porcentajes de verdad, con un revisor humano en el circuito en lugar de una suposición que suena fluida haciendo las veces de consulta real. Ese es todo el diseño detrás de Cosmetic Comply: hace coincidir cada ingrediente con su nombre INCI y su número CAS, expande las mezclas y traslada los porcentajes, examina contra el Hotlist real con una puntuación de confianza, y luego un revisor de cumplimiento real verifica el resultado antes de que se presente nada. Si una herramienta no puede decirte cómo verificó un ingrediente, vale la pena preguntarlo antes de confiar en sus marcas de verificación.