لماذا لا تزال أدوات الذكاء الاصطناعي الواثقة تفشل في فحص القائمة السوداء

لصقت إحدى الصانعات قائمة مكوناتها في روبوت محادثة عام الشهر الماضي وسألته إن كان هناك ما يبدو مقيّدا بالنسبة لكندا. جاءت الإجابة سريعة وواثقة ومنسّقة بشكل جميل مع علامات صح بجانب كل مكوّن. لكنها أغفلت مادة مقيّدة كانت موجودة في تركيبتها بتركيز أعلى من الحد المسموح به. ولم تلاحظ ذلك إلا لأنها راجعت القائمة السوداء بنفسها من باب العادة. وليس الجميع يقوم بهذا الفحص الثاني، وهذه بالضبط هي المشكلة.

الثقة ليست هي الصحة

روبوتات المحادثة العامة بارعة في إظهار اليقين. فهي مصممة لإنتاج إجابات سلسة تبدو مكتملة، وقائمة مكونات مرتبة مع علامات صح خضراء مطمئنة تبدو موثوقة حتى لو لم يحدث الفحص الفعلي مقابل بيانات حقيقية ومحدّثة أصلا. النموذج لا يكذب بالضبط، بل يطابق الأنماط بناء على شكل استجابة "قائمة مكونات نظيفة" المعتاد، وسينتج ذلك الشكل من الإجابة سواء تحقق فعليا من أي شيء مقابل القائمة السوداء لمكونات مستحضرات التجميل لدى وزارة الصحة الكندية أم لا.

وهذا مهم لأن القائمة السوداء (Hotlist) قائمة محددة ومُحدَّثة باستمرار للمواد المحظورة والمقيّدة، وهي تتغير. فالنموذج المدرّب على بيانات تعود لسنة أو سنتين مضتا ليس لديه أي طريقة لمعرفة إضافة حديثة أو تقييد تم تشديده ما لم يكن يستعلم فعليا من مصدر حي ومحدّث. اسأله عن ذلك وعادة لن يبادر بذكر هذا القصور. سيكتفي بالإجابة فقط.

أين يظهر الفشل عادة

أنماط الفشل الشائعة التي نراها عندما يعتمد الناس على أدوات ذكاء اصطناعي عامة لهذا النوع من الفحص:

• العمى تجاه الأسماء التجارية. تركيبة مدرجة بالأسماء التجارية للموردين بدلا من أسماء INCI قد تمر دون فحص لأن النموذج لا يربط بشكل موثوق كل اسم تجاري بهويته الحقيقية من نوع INCI ورقم CAS، خصوصا في المزيجات.
• إغفال حسابات المزيج. إذا كان المكوّن في الحقيقة مزيجا مورَّدا من شركة أخرى، فقد يكون مكوّنه المقيّد ضمن نسبة المزيج المعلنة على بطاقته دون تجاوز حد القائمة السوداء، لكنه يتجاوز الحد بمجرد ضرب نسبة ذلك المكوّن داخل المزيج في نسبة استخدام المزيج الفعلية في المنتج النهائي. والنموذج الذي لا يجري تلك العملية الحسابية سيغفل التركيز الحقيقي تماما.
• بيانات تقييد قديمة. القائمة السوداء وثيقة حية. فتقييد أُضيف حديثا، أو حد تركيز تم تشديده، قد لا يكون منعكسا ببساطة في بيانات تدريب نموذج عام.
• تنسيق مفرط في الثقة. المخرجات النظيفة ذات علامات الصح والمظهر الاحترافي تجعل الناس يتوقفون عن إعادة التحقق، وهذه بالضبط اللحظة التي يتسلل فيها تقييد مُغفَل إلى استمارة CNF مقدَّمة.

مثال ملموس على فخ حسابات المزيج

لنفترض أن مزيجا موردا من شركة أخرى يمثل 5% من تركيبتك الكلية، وأن وثائق ذلك المزيج نفسها تُظهر مكوّنا مقيّدا بنسبة 4% من المزيج ذاته. التركيز الحقيقي في منتجك النهائي هو 0.05 × 0.04، أي 0.2%. فإذا كان حد القائمة السوداء لذلك المكوّن أقل من 0.2%، فلديك مشكلة، وهي مشكلة لا تظهر أبدا إذا اكتفيت بالنظر إلى نسبة "4%" في ورقة مواصفات المورّد، أو إذا اكتفت أداة ما بفحص نسبة المزيج المعلنة دون توسيعها لتشمل حسابات المنتج النهائي.

الخطوة	القيمة
نسبة استخدام المزيج في المنتج النهائي	5%
المكوّن المقيّد داخل المزيج	4% من المزيج
التركيز الحقيقي في المنتج النهائي	5% × 4% = 0.2%
حد القائمة السوداء (مثال)	أقل من 0.2%
النتيجة	تجاوز التقييد، غير ظاهر دون إجراء عملية الضرب

كيف يبدو التحقق الفعلي

الفحص السليم لتركيبة مقابل القائمة السوداء يعني البدء من أسماء INCI وأرقام CAS، لا الأسماء التجارية، وتوسيع كل مزيج موردَّ إلى مكوناته الحقيقية، وإجراء حسابات النسب كاملة وصولا إلى التركيز في المنتج النهائي، ومقارنة ذلك الرقم بالإدخال الحالي في القائمة السوداء، لا بإدخال مسترجَع من الذاكرة أو مقدَّر تقريبيا. هذه عملية آلية، وهي بالضبط النوع من الأشياء التي تستفيد من الأتمتة المتعمّدة، بدلا من طرحها على نموذج عام لم يُبنَ أصلا للاحتفاظ بقائمة تنظيمية كمرجعية حقيقية.

الحل ليس "لا تستخدم الذكاء الاصطناعي"، بل "تحقق من المصدر"

لا شيء من هذا يعني أن الأدوات الآلية نهج خاطئ. بل يعني أن الأداة يجب أن تفحص فعليا مقابل بيانات القائمة السوداء الحقيقية والمحدّثة، وتجري حسابات النسب الحقيقية، مع وجود مراجع بشري ضمن الحلقة بدلا من تخمين يبدو سلسا يحل محل الفحص الفعلي. وهذا هو التصميم الكامل وراء Cosmetic Comply: فهو يطابق كل مكوّن باسمه من نوع INCI ورقم CAS، ويوسّع المزيجات ويرحّل النسب عبرها، ويفحصها مقابل القائمة السوداء الفعلية بدرجة ثقة، ثم يتولى مراجع امتثال حقيقي فحص النتيجة قبل تقديم أي شيء. وإذا لم تستطع أداة ما أن تخبرك كيف تحققت من مكوّن ما، فذلك أمر يستحق السؤال عنه قبل أن تثق بعلامات الصح التي تعرضها.