قانون الذكاء الاصطناعي الأوروبي وخدمة العملاء: ما ينبغي الاستعداد له

لماذا تتأثر فرق خدمة العملاء مباشرة

تستخدم بيئات خدمة العملاء اليوم الذكاء الاصطناعي في المحادثة التفاعلية والمساندة المؤتمتة وإنتاج المحتوى وتلخيصه وإسناد التوجيه، وأحيانًا في تنفيذ تدفقات عمل ضمن حدود. وهذه بالضبط هي الاستخدامات التي تتحول فيها أسئلة الشفافية والإشراف البشري والتوثيق من أسئلة نظرية إلى أسئلة تشغيلية.

وإرشادات المفوضية الأوروبية الأخيرة وثيقة الصلة تحديدًا لأنها تتناول الأنظمة التي تتفاعل مباشرة مع الأشخاص وتلك التي تنتج محتوى أو تعالجه. وفي خدمة العملاء، يشمل ذلك حالات روبوت المحادثة والوكيل الاصطناعي الواضحة، وقد يمتد إلى رسائل أو محتوى خدمة مولَّد، بحسب تصميم تدفق العمل.

ما تعنيه الشفافية عمليًا في التشغيل

بالنسبة إلى فرق كثيرة في تجربة العميل، أول مسألة تشغيلية هي الإفصاح. فإذا كان شخص يتفاعل مباشرة مع نظام ذكاء اصطناعي على نحو يقع ضمن التزام الشفافية المعني، وجب إبلاغ العميل منذ بداية التفاعل بصورة واضحة وقابلة للتمييز، ما لم تكن الطبيعة الاصطناعية للتفاعل بديهية فعلًا.

وليست هذه مسألة صياغة فحسب. فهي تمس كيفية تقديم تدفق العمل، وكيفية عرض التحويل إلى وكيل بشري، وكيفية تسمية القنوات، وكيفية تسجيل الخدمة للتفاعل تحسبًا لحاجة المؤسسة لاحقًا إلى إثبات ما جرى.

التصعيد والإشراف البشريان مسألة تصميم لا شعار

تقول معظم المؤسسات بالفعل إنها تؤمن بالإشراف البشري. والسؤال الحقيقي هو كيف يعمل هذا الإشراف. من يستطيع التدخل؟ وأي القرارات تستدعي التصعيد؟ وأي المخرجات تُراجَع قبل أن تصل إلى العميل؟ وأي السجلات تُظهر أن إجراءً أو رسالة من الذكاء الاصطناعي قد اعتُمدت أو عُدِّلت أو أُلغيت؟

وتختلف الإجابة باختلاف حالة الاستخدام. فمسودة رد مولَّدة تستدعي ضبطًا أخف من تدفق عمل يحدّث حسابات أو يعدّل حجوزات أو ينتج إفادات حساسة موجهة إلى العميل. لكن التمييز يجب أن يُوضع صراحة. فالإشراف الذي لا يوجد إلا على مستوى السياسات أقل نفعًا بكثير من إشراف مضمَّن في النموذج التشغيلي الفعلي.

التسجيل والتوثيق يُبحثان قبل إبرام الشراء

من الآثار العملية لهذا القانون أن على فرق تجربة العميل التفكير بجدية أكبر في حفظ السجلات وفي توثيق المزودين. فالمؤسسة التي تستخدم عدة مكونات ذكاء اصطناعي في خدمة العملاء تحتاج توثيقًا كافيًا لفهم ما يفعله كل مكون وما البيانات التي يستخدمها ومن يوفره وما الضوابط القائمة وأين تقع المسؤولية بين المزوِّد والمشغِّل والمسؤول التجاري الداخلي.

حوكمة المحتوى المولَّد تتجاوز روبوت المحادثة نفسه

تستخدم فرق خدمة العملاء الذكاء الاصطناعي على نحو متزايد لإنتاج الملخصات والردود المقترحة ومسودات المعرفة والرسائل الصادرة. وحتى حين لا يكون روبوت المحادثة هو حالة الاستخدام الأساسية، قد يثير نص أو صوت أو محتوى آخر مولَّد أسئلة حوكمة. وعلى الفرق أن تحدد أين يبقى المخرج المولَّد مساندة وأين يكون في الواقع منشورًا أو مُرسَلًا إلى عميل.

وهذا التمييز مهم تشغيليًا. فالملاحظة التي تبقى داخل مساحة عمل الوكيل تُحكم على نحو مختلف عن رسالة موجهة إلى العميل. والنص المولَّد لاستخدام داخلي يُحكم على نحو مختلف عن محتوى يصل إلى مراسلة عميل خاضعة للتنظيم أو حساسة.

على فرق الشراء ترجمة القلق القانوني إلى أسئلة للمزودين

قد يبدو قانون الذكاء الاصطناعي مجردًا إلى أن يُترجم إلى لغة شراء. فالمشترون لا يحتاجون من المزود استنتاجات قانونية. لكنهم يحتاجون منه إجابات عن أسئلة تشغيلية تتعلق بالشفافية والتسجيل وملكية النماذج والتصعيد البشري وضبط التغيير.

ويساعد هذا النوع من الأسئلة الفرق القانونية وفرق الخصوصية والتشغيل على البقاء متصلة. كما يقلل خطر شراء تدفق عمل مدعوم بالذكاء الاصطناعي بسرعة وحوكمته ببطء.

ما يعنيه ذلك لمشتري التعهيد ومزوديه

بالنسبة إلى مشتري التعهيد، يضيف هذا القانون سببًا آخر لتقييم شركاء التعهيد على أساس الحوكمة لا على أساس الطاقة أو الإلمام بالأدوات وحدهما. وينبغي أن يستطيع المزود شرح كيفية إسناده للإفصاح والتصعيد وسجلات التشغيل ومراجعة الجودة والاستخدام المعتمد لمزودي الذكاء الاصطناعي داخل بيئة الخدمة، في حلول الذكاء الاصطناعي لخدمة العملاء وتدفقات العمل المرتبطة بها.

ونحن في Upstream نرى ذلك جزءًا من نموذج التسليم الأوسع بشري + ذكاء اصطناعي. فينبغي تصميم حلول الذكاء الاصطناعي لخدمة العملاء بحيث تحمل ضوابط تشغيلية، وينبغي أن يمنح مركز الثقة المشترين صورة أوضح عن نهج الحوكمة، وتبقى مراجعة السياق التشغيلي الإقليمي المعروض في تغطيتنا في أوروبا مفيدة للفرق الأوروبية. ولا يجعل ذلك أي عميل ممتثلًا تلقائيًا للقانون. بل يعني أن النموذج التشغيلي يمكن تصميمه ليسند عمل الحوكمة الذي يتطلبه الامتثال.

الخطأ الأكثر شيوعًا: معاملة الامتثال كترقيع بعد الإطلاق

كثيرًا ما ترث فرق تجربة العميل قرارات بشأن الذكاء الاصطناعي اتخذتها قبلها فرق البرمجيات أو الابتكار أو الشراء. وحين يدخل التشغيل على الخط، يكون روبوت المحادثة مهيأً بالفعل، وعقد المزود مبرمًا جزئيًا، ونموذج الإفصاح ما زال غامضًا. ويصعّب هذا الترتيب الحوكمة، لأن الفريق يضطر إلى تركيب ضوابط على تدفق عمل اتخذ شكله بالفعل.

والمسار الأفضل هو إدخال المراجعة التشغيلية أبكر. فإذا اتفق مسؤول الخدمة ومسؤول الخصوصية وفريق الشراء على الإفصاح والإشراف والسجلات وملكية النماذج قبل الإطلاق، صار تدفق العمل الناتج أسهل شرحًا للعملاء وأسهل دفاعًا عنه داخليًا.

قائمة استعداد لقادة تجربة العميل

وبالنسبة إلى الفرق الدولية، ينبغي إجراء هذه المراجعة حتى حين يقع تسليم الخدمة نفسه خارج أوروبا. فإذا كان التفاعل مع العميل أو نشر النموذج أو الكيان المشتري أو تدفق العمل المحكوم يمس التزامات أوروبية، تبقى الأسئلة التشغيلية جديرة بالاهتمام.

القاعدة القانونية خارجية. أما الجاهزية التشغيلية فداخلية.

لا ينبغي اختزال قانون الذكاء الاصطناعي الأوروبي في عنوان عن تنظيم يعرقل الابتكار. فبالنسبة إلى فرق خدمة العملاء، هو دافع إلى إحكام الإفصاح والحوكمة وأدلة التشغيل قبل أن يتسع استخدام الذكاء الاصطناعي ويصبح أقل قابلية للتراجع.

ولن تنتظر الفرق الأقوى أزمة ولا تصعيدًا من جهة الشراء. بل ستجعل الشفافية والإشراف والتوثيق جزءًا معتادًا من تصميم الخدمة، من الآن.

وإذا كانت مؤسستكم تخطط لخدمة عملاء مدعومة بالذكاء الاصطناعي في أوروبا أو توسّعها، فالخطوة المفيدة هي مراجعة تشغيلية مشتركة مع المعنيين القانونيين ومسؤولي التسليم قبل نقل تدفقات عمل أخرى إلى الإنتاج.