أسئلة موردي الذكاء الاصطناعي التي يفترض أن تسألها المشتريات ولا تسألها
استبيان الموردين لديك كُتب لبرمجيات تفعل الشيء نفسه في كل تشغيل. وميزة الذكاء الاصطناعي التي أضافها مورّدك الربع الماضي لا تفعل، وقد تتغير دون ملاحظة إصدار، والأسئلة التي كانت ستلتقط ذلك ليست في النموذج.
· 8 دقائق قراءة · بقلم فريق البحث والتحرير في Faceela
استبيان الموردين لديك مستند جيد. يسأل عن مكان استضافة البيانات، ومن له وصول إليها، وكم تُحفظ، وما التشفير، وما مدة الإبلاغ عن الاختراق، وهل يحمل المورّد شهادة. وقد التقط مشكلات حقيقية، وكتبه شخص كفء.
وقد كُتب أيضاً لبرمجيات تتصرف في يونيو كما تصرفت في مارس. وهذا الافتراض صار كاذباً في موضع واحد بعينه، والاستبيان لا يدري.
فميزة الذكاء الاصطناعي التي أضافها برنامجك المحاسبي ليس لها سلوك ثابت. لها سلوك اليوم. ويستطيع المورّد تغيير النموذج خلفها دون تغيير سطر تراه، ودون أن تصلك ملاحظة إصدار، ودون مخالفة بند واحد في العقد الذي وقّعته — لأن ذلك العقد لم يخطر له هذا أصلاً. وما يلي هو مجموعة الأسئلة التي تسدّ هذه الفجوة، وشكل اللاجواب الذي ينبغي أن يقلقك. وهو ينطبق سواء كنت تسعى إلى نظام إدارة رسمي للذكاء الاصطناعي أم لا؛ والفرق فقط أن تُلزَم بإثباته.
أولاً: أي محادثة هذه؟
شيئان مختلفان جداً يُسمّى كلاهما "مورّد ذكاء اصطناعي"، وطرح أسئلة أحدهما على الآخر يهدر وقت الجميع.
مورّد في منتجه ميزة ذكاء اصطناعي. نظام تخطيط الموارد يقترح مطابقة ثلاثية. ونظام إدارة العملاء يعطي العميل المحتمل درجة. ومكتب الدعم يصوغ رداً. أنت لم تبنِه، ولا تستطيع فحصه، وتضبط منه قليلاً، وتعتمد عليه بنسبة ما. وهذه محادثة مخاطر موردين. وهي أيضاً، بالحجم، تسعون بالمئة مما تواجهه أي شركة متوسطة فعلاً.
مورّد يمدّك بنموذج أو منصة تبني عليها. واجهة برمجية، أو نموذج مستضاف، أو خدمة ضبط دقيق. هنا أنت من يشحن القرار إلى عملائك، وانكشافهم انكشافك.
والأسئلة متداخلة كثيراً. والوزن ليس كذلك. ففي الأولى الهدف مدخل سجل يمكن الدفاع عنه وبندان أو ثلاثة في العقد. وفي الثانية الهدف سلسلة إمداد تصمد تحت الاستجواب، لأنك صرت أنت من يجيب على استبيان غيرك.
وحالة ثالثة تستحق التسمية لاستبعادها: موظف يستخدم روبوت محادثة عاماً ليصوغ شيئاً ينشره باسمه. تلك سياسة استخدام مقبول، لا تقييم مورّد. ومعاملتها بوصفها الثانية هي كيف تُنتج المنشآت مئة مدخل سجل ولا تحكم واحداً منها.
السؤال الأهم، ولا أحد يسأله
ما الذي يلزمك بإبلاغنا حين يتغير النموذج، وكم الإشعار؟
اسأله أولاً. قبل الاستضافة، وقبل الشهادات، وقبل أي شيء في نموذجك الحالي. فهو السؤال الذي لا نظير له في إدارة الموردين التقليدية، لأنها تفترض أن التغيير يبدأ بإصدار تراه.
وهذه الآلية التي يحميك منها. تقيّم ميزة، وتتحقق منها على عيّنة من عملك، وتجدها مقبولة، وتشغّلها، وتبني حولها عملية. وبعد ستة أشهر يبدّل المورّد النموذج تحتها — لتكلفة، أو لقدرة، أو لتغيّر عند مورّده هو. فيصير تحققك قديماً ولا حدث في منشأتك كلها يخبرك بذلك. تستمر العملية، وقد انحرفت مخرجاتها، وأول إشارة خطأ لاحق يُلام عليه إنسان.
وما تريده في العقد ضيق وقابل للتحصيل: إشعار قبل أي تغيير جوهري في النموذج أو مزوّده، بمدة محددة، وحق تعطيل الميزة دون غرامة إن لم تقبل التغيير. ويقاوم الموردون النصف الثاني أشد من الأول. والنصف الأول وحده يساوي كثيراً.
والإشعار بلا مستقبِل عديم القيمة. سمِّ شخصاً عندك مهمته التصرف عند وصول الإشعار، واربطه بعملية التغيير لديك حتى يستثير إشعار المورّد إعادة تحقق لا بريداً لا يحفظه أحد. وإلا فقد اشتريت بنداً ولم تشترِ ضابطاً.
البيانات: ثلاثة أسئلة لا سؤال
يسأل استبيانك أين تُخزَّن البيانات. وذلك واحد من ثلاثة، وأقلّها إفادة.
ما الذي ترسله الميزة فعلاً، وإلى أين يذهب؟ لا "منصتنا مستضافة في المنطقة كذا" — بل ما الذي يغادر مستأجرك لحظة تشغيل الميزة. فإن كان المورّد ينادي نموذجاً لطرف ثالث فبياناتك عند ذلك الطرف مهما كان موضع قاعدة بيانات المورّد. وهذه أشيع مفاجأة في هذه التقييمات، وهي غالباً ليست إخفاءً: مهندس المبيعات لا يعرف حقاً.
هل تُستخدم بياناتنا لتدريب أي نموذج أو تحسينه؟ اطلب الجواب في العقد، لا في صفحة سياسة تُحرَّر يوم ثلاثاء. واسأل عن نماذج المورّد نفسه وعن نماذج أي طرف ثالث سؤالين منفصلين، فالجوابان يختلفان كثيراً. واسأل ماذا يحدث لذلك إن رحلت: التزام بعدم التدريب قليل القيمة إن بقيت البيانات المستوعَبة مستوعَبة.
من المعالجون الفرعيون، وما الذي يخبرنا حين تتغير القائمة؟ مزوّد النموذج معالج فرعي. وتغيير مزوّد النموذج تغيير لمعالج فرعي، وهو أرجح تغيير يقع دون أن يخبرك به أحد — وهو العيب نفسه في سؤال تغيّر النموذج بثوب آخر. وإن كانت شروط حماية البيانات لديك تحوي آلية إشعار بالمعالجين الفرعيين فهذا أرخص سؤال في القائمة، لأنك تطلب تطبيق بند وقّعوه أصلاً.
الحقوق: السؤال الذي يبقى بعد الصفقة
على أي أساس دُرّب النموذج، وماذا يصيبنا إن طُعن في ذلك؟
لن تدقق مجموعة تدريب ولا أحد يتوقع منك ذلك. وما تبحث عنه هو هل سيقف المورّد خلفها — تعويض، أو على الأقل بيان موقف، يغطي المطالبات الناشئة عن بيانات التدريب أو عن مخرجات النموذج.
وسبب كون هذا سؤال مشتريات لا فضولاً قانونياً: الانكشاف يقع على من استخدم المخرَج، وذلك أنت. فإن أنتج نموذج شيئاً ينتهك حقاً ونشرته، وصل أول خطاب إلى عنوانك. وما يقوله العقد عمّن يتولى الدفاع عن ذلك الخطاب شرط تجاري، قابل للتفاوض عند التوقيع ولا يكاد يقبله بعده — وهي الخاصية العامة التي تجعل قراءة العقد من جهة الخروج لا من جهة الخصم القراءة الوحيدة التي تستحق.
واسأل السؤال نفسه في الاتجاه المعاكس. إن أجريت ضبطاً دقيقاً على سجلاتك، فمن يملك الأوزان الناتجة، وهل تأخذ شيئاً معك عند انتهاء العقد؟ الجواب المعتاد أنك لا تأخذ، ولا بأس بذلك ما دمت عرفته قبل أن تبني عليه عملية في ثمانية أشهر.
السلوك: ماذا يحدث حين يخطئ
كل ميزة ذكاء اصطناعي تخطئ أحياناً. ومورّد يرفض وصف كيف تخطئ ميزته إما أنه لم يقس، وإما أنه لا يريد القول، وكلاهما جواب.
ماذا تفعل حين لا تعرف؟ التصميم الخطر هو الذي يُخرج شيئاً دائماً. فميزة تعيد جواباً خاطئاً واثقاً أسوأ من ميزة تمتنع، لأن الامتناع مرئي والخطأ الواثق ليس كذلك. اسأل عن السلوك عند الثقة المنخفضة، وهل ترى درجة الثقة أصلاً.
هل نعرف من السجل أن المخرَج جاء من النموذج؟ إن كانت قيمة اقترحها النموذج وقيمة أدخلها إنسان لا تُميَّزان في قاعدة البيانات بعدها، فأنت لا تستطيع قياس الميزة ولا تدقيقها ولا التراجع عنها. وهذا سؤال نموذج بيانات بثوب حوكمة، وهو الفرق بين ميزة تديرها وميزة تثق بها فقط.
ما الذي تستطيع فعله دون إنسان؟ الجواب مواصفة لا طمأنة. أي سجلات تكتب، وحتى أي قيمة، وفي أي حالات، وبأي بيانات اعتماد. فالوكيل العامل داخل أنظمتك يحتاج حساب دخول خاصاً به، وحدَّ كتابة، وسقف قيمة قبل تشغيله، وإن عجز المورّد عن وصف الثلاثة لمنتجه هو فهو لم يصممها.
كيف بدت حوادث الاثني عشر شهراً الماضية؟ لا "هل وقع اختراق" — ذاك في نموذجك أصلاً. اسأل عن حوادث تخص النموذج: تحديث سيئ أُعيد، وخطأ منهجي وُجد في الإنتاج، وصنف إخفاق أبلغ عنه عميل. المورّد الناضج لديه بعضها وسيصفها. والمورّد الذي ليس لديه شيء إما جديد جداً وإما لا ينظر.
الخروج، وهناك تختبئ التكلفة الحقيقية
ماذا نستعيد، وبأي حال؟
هذه النسخة الذكية من سؤال تسأله أصلاً. فإن ظلت الميزة سنتين تصنّف سجلاتك أو تعطيها درجات أو تُثريها، فتلك القيم المشتقة صارت الآن داخل بياناتك التشغيلية. وعند الخروج تحتفظ بها وتفقد القدرة على إنتاج المزيد، وذلك عدم تماثل يستحق فهمه قبل الاعتماد عليه. اسأل هل تُصدَّر الحقول المشتقة، وهل تُصدَّر بمصدرها، وكيف يبدو السجل بلا المورّد.
ما منحنى التكلفة؟ ميزات الذكاء الاصطناعي المسعّرة بالاستخدام شكلها غير شكل الترخيص بالمستخدم: الفاتورة تتبع التبنّي، والتبنّي هو ما كنت تحاول تشجيعه. اسأل عن وحدة التسعير، وما الذي يُحسب وحدة واحدة، وماذا جرى لذلك السعر تاريخياً. والمورّد الذي يرفض الالتزام بسقف سعري على ميزة معدودة يطلب منك توقيع سطر أبيض.
قراءة الأجوبة
الأجوبة أقل أهمية من أشكالها، والأشكال أربعة تتكرر.
الجواب المحدد. يسمّي النموذج أو المزوّد، ويسمّي المنطقة، ويقتبس بند العقد، ويصف إخفاقاً. سواء أعجبك أم لا، تستطيع التصرف بناءً عليه ويدخل السجل كما هو.
التحويل إلى شهادة. نحن حاصلون على ISO 27001. واقعة حقيقية ومفيدة عن إدارة أمن المعلومات، ولا تقول شيئاً عن تغيّر النموذج ولا عن بيانات التدريب ولا عن حقوق المخرجات، لأن تلك ليست ما تشهد به. وقبولها جواباً عن أي سؤال في هذا المقال أشيع إخفاق في تقييم موردي الذكاء الاصطناعي، ويقع لأن الطرفين يريدان إنهاء المحادثة.
الجواب الواثق ممن لا يمكنه معرفته. مهندس مبيعات يخبرك أن لا بيانات تغادر مستأجرك، والميزة تنادي شيئاً خارجياً بيّناً. وهذا ليس كذباً عادةً. والإصلاح إجرائي لا خصامي: اطلبه كتابةً ممن يستطيع إلزام الشركة، وراقب كم تتحول الثقة سريعاً إلى تحفّظ.
الصمت. لا جواب، أو جواب عن سؤال لم تطرحه. سجّله في السجل فجوةً بتاريخ سؤالك. فسجل فيه فجوات أمينة مستند حي. وسجل بلا فجوات لم يُستعمل.
ماذا تفعل بهذا كله
أثران، وليس أيهما كبيراً.
مدخل سجل لكل ميزة ذكاء اصطناعي قيد الاستخدام: ماذا تفعل، وأي بيانات ترى، وإلى أين تذهب، ومن المعالجون الفرعيون، وما موقف إشعار التغيير، ومن مالكها عندك، ومتى نظرت فيها آخر مرة. وهذا هو السجل الذي تنتجه عملية مورديك أصلاً، بأربعة أعمدة مضافة. أعطِه تاريخ مراجعة ومالكاً، وإلا صار مستنداً كان صادقاً مرة.
مجموعة بنود تحملها إلى التجديد: إشعار تغيّر النموذج، وتمديد الإشعار بالمعالجين الفرعيين ليشمل مزوّدي النماذج، وموقفاً من بيانات التدريب، وتعويضاً عن المخرجات أو بيان موقف، ووصف خروج يغطي البيانات المشتقة. ولن تحصل عليها كلها. اطلبها كلها، لأن ما تحصل عليه هو ما طلبته، والتجديد هو اللحظة الوحيدة التي يكون فيها عقد موقّع مفتوحاً.
ثم قف. فالإخفاق عند الطرف الآخر برنامج حوكمة يعامل مدقق إملاء بوصفه نظام ذكاء اصطناعي مصنّفاً، فيولّد مئة تقييم ولا يراجع واحداً — وهو الانهيار نفسه الذي يحوّل ربط كل شيء بكل شيء إلى مركز تكلفة دائم. العمق مكانه حيث يكون القرار قرارك والانكشاف انكشافك. وما عدا ذلك، فمالك مسمى وأربعة أعمدة موقف يمكن الدفاع عنه، وهو الموقف الذي نساعدك على اتخاذه قبل أن نبيعك ما هو أكبر.