البنوك، لماذا حان الوقت للانتقال من الذكاء الاصطناعي إلى XAI
اعتبارًا من عام 2020، استخدم أكثر من نصف البنوك الإيطالية حلولًا تستند إلى الذكاء الاصطناعي (AI)، مع اتجاه متزايد لفترة الثلاث سنوات 2021-2023. المجالات الأكثر صلة هي إدارة الاحتيال والأمن السيبراني ومركز الاتصال والائتمان ودعم العمليات. تم الكشف عن ذلك من خلال استطلاع بعنوان ” الذكاء الاصطناعي في البنك: أحدث ما توصلت إليه التكنولوجيا ووجهات نظر “، والذي نُشر على موقع Cipa الإلكتروني (اتفاقية Interbank للابتكار) في يونيو 2021. ومع ذلك، يخشى الذكاء الاصطناعي العديد من البنوك بسبب ” الصندوق الأسود للخوارزميات ” .
خوارزميات الذكاء الاصطناعي و “الصندوق الأسود”
تتكون خوارزميات “الصندوق الأسود” من حقيقة أن نماذج التعلم الآلي التي لها مهمة تحديد الأنماط في البيانات، وعمل التنبؤات وحل المشكلات المعقدة، غالبًا ما تكون غامضة وتخفي الآليات الأساسية الخاصة بها.
هذا هو السبب في أن استخدامهم يشمل الآلهة، تتعلق بصعوبة شرح نتائجها والعوامل التي أثرت عليها. هذا يدفع العديد من البنوك إلى عدم الاستفادة من نماذج الذكاء الاصطناعي المتطورة، مثل برامج التعرف على الوجه لأجهزة الصراف الآلي. بالإضافة إلى ذلك، تثير خوارزميات “الصندوق الأسود” أيضًا عددًا من الأسئلة الشائكة، كما يشير أليكسي سوركوف من ديلويت وجيل جريجوري وفأل سرينيفاس. أولاً، هل يجب أن يكون كل نموذج للتعلم الآلي واضحًا بذاته؟ أم يجب أن يعتمد مستوى الفهم على السياق والغرض وتوقعات الامتثال التنظيمي؟
ظهور XAI
للتعامل مع قضايا الشفافية والثقة، هناك XAI، وهو اختصار لـ ” AI القابل للتفسير “، تم إنشاؤه بدقة لجعل نماذج الذكاء الاصطناعي أكثر قابلية للفهم وبديهية للمستخدمين البشريين، دون التضحية بالأداء أو دقة التنبؤات. أصبحت قابلية الفهم أيضًا مصدر قلق متزايد للجهات التنظيمية للبنوك، الذين يريدون التأكد من أن عمليات الذكاء الاصطناعي ونتائجها “مفهومة بشكل معقول” لموظفي البنك. بهذا المعنى، أصبح التوسع في تقنيات XAI أولوية للعديد من المقرضين. تعاون بعضهم مع متخصصين بارزين من جامعة كارنيجي ميلون وجامعة هونغ كونغلاقتراح استخدامات جديدة لـ XAI، وشاركت في تأسيس مختبرات ابتكار تهدف إلى إنتاج نماذج تعلم آلي قابلة للتفسير تعمل على تحقيق أهداف أعمالهم. تقوم العديد من البنوك بإنشاء فرق عمل خاصة لقيادة مبادرات فهم الذكاء الاصطناعي، بالتنسيق مع فرق الذكاء الاصطناعي ووحدات الأعمال.
حتى استخدام حلول البائعين لحلول التعلم الآلي (AutoML) بشكل كبير. في هذا الصدد، تتطلع البنوك إلى اعتماد حلول AutoML الأكثر شمولاً التي يقدمها البائعون ومقدمو الخدمات السحابية وشركات البرمجيات. تتمتع هذه الحلول الجاهزة بدرجات متفاوتة من الوضوح ويمكن أن تستغرق شهورًا لتحليل وتوثيق كيفية عملها.
مزايا XAI
بادئ ذي بدء، يمكن أن تلد XAI المزيد من المشاريع التجريبية التي تنطوي على الذكاء الاصطناعي في البنوك. علاوة على ذلك، يمكن لأدوات قابلية الفهم التي تقدمها فتح أنواع مختلفة من المعلومات حول النموذج، اعتمادًا على نوع الإجابات التي تبحث عنها وأنواع أساليب النمذجة المستخدمة. “هذه الجهود مهمة في دعم حماية العملاء وعدالة الإقراض من خلال تحديد معايير النموذج التي تؤدي إلى تأثير متباين، وفهم المفاضلات في أداء النموذج، وتطوير حالات عمل أكثر إقناعًا لاعتماد النموذج، وقبول الإدارة، مما يضمن مزيدًا من الثقة والمصداقية في نماذج ومنع المشكلات التنظيمية / الامتثال المحتملة “، يشرح خبراء Deloitte.
اليوم، توجد مجموعة متنوعة من النماذج، بدءًا من أشجار القرار إلى الشبكات العصبية العميقة (DNNs). في حين أن النماذج الأبسط قد تكون أكثر قابلية للتفسير، إلا أنها غالبًا ما تتمتع بقدرة ودقة تنبؤية أقل، خاصةً بالمقارنة مع النماذج الأكثر تعقيدًا. أصبحت العديد من هذه الخوارزميات المعقدة ضرورية لتنفيذ تطبيقات الذكاء الاصطناعي المتقدمة في الخدمات المصرفية، مثل التعرف على الوجه أو الصوت وتداول الأوراق المالية. من جانبهم، أوصى المنظمون الماليون بأن تدمج البنوك النماذج التقليدية مع نماذج التعلم الآلي المتطورة وتكليف المحللين، أو غيرهم من البشر، بمهمة حل أي تناقضات تنشأ بين الاثنين.
كيفية تنفيذ XAI
يتطلب تنفيذ XAI تغييرات محتملة في مصادر البيانات، وتطوير النموذج، والتفاعل مع مختلف أصحاب المصلحة، وعمليات الحوكمة والمشاركة مع البائعين الخارجيين، كما يوصي خبراء Deloitte. والتي تقترح أيضًا أفضل الممارسات التالية:
- مناقشة نقاط القوة والضعف في النماذج؛
- تقديم التفسيرات بطريقة بسيطة وبديهية؛
- اشرح كيف سيتم استخدام نتائج النموذج.
وسيشمل ذلك على الأرجح إدخال سياسات وأساليب جديدة، من مراحل ما قبل النمذجة إلى رصد وتقييم ما بعد التنفيذ. كما سيتطلب جميع أصحاب المصلحةالتي تساهم في تطوير نماذج الذكاء الاصطناعي تعمل بشكل هادف في كل قرار تتخذه. على سبيل المثال، يجب على المطورين تطبيق مبادئ الفهم عند اختيار بيانات الإدخال والتدريب للنماذج الأولية. بدلاً من التركيز فقط على مجموعات البيانات التي من شأنها زيادة الأداء إلى الحد الأقصى، يجب عليهم أيضًا التفكير فيما إذا كانت البيانات نفسها قد تديم التحيزات الخفية (على سبيل المثال، قد تفضل بيانات القروض التاريخية مجموعات ديموغرافية معينة كان لديها وصول أسهل إلى الائتمان)، سواء كانت البيانات تحتوي على بيانات شخصية معلومات العميل وما إذا كانت تغطي فترة زمنية طويلة بما يكفي لالتقاط الأحداث النادرة أو غير العادية.
يجب أن تجري فرق تطوير النموذج أيضًا تقييمًا أوليًا لأداء النموذج وقابلية تفسيره للتعرف على دقته. يجب أن تكون منارة كل قرار في أي حال لتحسين قابلية فهم النموذج.
لتضمين الفهم الكامل في دورة حياة إنتاج الذكاء الاصطناعي، يجب على البنوك إنشاء فريق عمل متعدد الوظائف من الناحية التنظيمية، بما في ذلك متخصصون من المجلس التنفيذي، والأعمال التجارية، وتكنولوجيا المعلومات، والمخاطر والامتثال، والقانون، والأخلاق، وأبحاث الذكاء الاصطناعي. برنامج AI القابل للتفسير الخاص بـوكالة مشاريع البحوثمن الجيش الأمريكي أن بعض الفرق الأكثر فاعلية لديها مهارات واحترافية متعددة التخصصات، مثل علماء الكمبيوتر الذين يعملون مع علماء النفس التجريبيين وتجربة المستخدم وأخصائيي التصميم. سيكون من المهم أيضًا للبنوك الانتباه إلى قابلية الفهم حتى في المعايير والممارسات الثقافية، من التدريب السنوي للموظفين إلى تقييم عائد الاستثمار للنماذج الأولية الجديدة، حتى التنبؤ بالعائدات متعددة السنوات على مثل هذه المشاريع. على نفس القدر من الأهمية لمؤسسات الائتمان التحديث المستمر، والمشاركة بنشاط في المؤتمرات وورش العمل التي تتناول موضوعات XAI الناشئة، والتعاون في البحث الذي يمكن أن يعزز الصناعة وتطبيقاتها العملية. دون أن ننسىوحماية مصالح العملاء.
واختتم باولو جيانتوركو، قسم العمليات التجارية & & Business Operations & “من خلال اتخاذ خطوات إضافية لتكون أخلاقية وشفافة، ومن خلال الاستمرار في قيادة الطريق في أبحاث وممارسات الذكاء الاصطناعي، يمكن للبنوك كسب ثقة المنظمين وتحقيق التوازن المثالي بين الابتكار التكنولوجي والأمن “. قائد شركة FinTech في شركة Deloitte.
المصدر: wallstreetitalia
قد يهمك:
شروط الاقامة الدائمة في كرواتيا
شروط الاقامة الدائمة في البرتغال
شركات تمويل مشاريع في الإمارات
سحب الأموال من بنك رأس الخيمة في الإمارات
