الذكاء الاصطناعي

المخاطر التي يشكلها الذكاء الاصطناعي حقيقية يتحرك الاتحاد الأوروبي للتغلب على الخوارزميات التي تدمر الأرواح

بدأت t بتغريدة واحدة في نوفمبر 2019. هاجم ديفيد هاينماير هانسون، رائد الأعمال التكنولوجي البارز، بطاقة ائتمان Apple التي تم إطلاقها حديثًا، واصفًا إياها بأنها “متحيزة ضد المرأة” لتقديمها لزوجته حد ائتماني أقل بـ 20 مرة من حده الائتماني.

انتشرت المزاعم كالنار في الهشيم، حيث شدد هانسون على أن الذكاء الاصطناعي – الذي يستخدم الآن على نطاق واسع في اتخاذ قرارات الإقراض – هو السبب. “لا يهم ما هي نية مندوبي Apple الفرديين، بل يهم ما تفعله الخوارزمية التي وضعوا إيمانهم الكامل بها. وما يفعله هو تمييز. لقد انتهى الأمر “.

في حين تم تبرئة شركة Apple وشركات التأمين التابعة لها Goldman Sachs في نهاية المطاف من قبل المنظمين الأمريكيين من انتهاك قواعد الإقراض العادل العام الماضي، فقد أعادت إشعال نقاش أوسع حول استخدام الذكاء الاصطناعي في الصناعات العامة والخاصة.

يخطط السياسيون في الاتحاد الأوروبي الآن لتقديم أول نموذج عالمي شامل لتنظيم الذكاء الاصطناعي، حيث تقوم المؤسسات بشكل متزايد بأتمتة المهام الروتينية في محاولة لتعزيز الكفاءة وخفض التكاليف في نهاية المطاف.

سيكون لهذا التشريع، المعروف باسم قانون الذكاء الاصطناعي، عواقب خارج حدود الاتحاد الأوروبي، ومثل اللائحة العامة لحماية البيانات في الاتحاد الأوروبي، ستنطبق على أي مؤسسة، بما في ذلك بنوك المملكة المتحدة، تخدم عملاء الاتحاد الأوروبي. قال ألكسندرو سيرسيومارو ، رئيس السياسة العامة الأوروبية في معهد أدا لوفليس: “تأثير القانون، بمجرد اعتماده، لا يمكن المبالغة فيه”.

اعتمادًا على القائمة النهائية للاتحاد الأوروبي للاستخدامات “عالية المخاطر”، هناك دافع لإدخال قواعد صارمة حول كيفية استخدام الذكاء الاصطناعي لتصفية الوظائف أو الجامعات أو طلبات الرعاية، أو – في حالة المقرضين – تقييم الجدارة الائتمانية للمقترضين المحتملين.

يأمل مسؤولو الاتحاد الأوروبي أنه مع مزيد من الإشراف والقيود على نوع نماذج الذكاء الاصطناعي التي يمكن استخدامها، فإن القواعد ستحد من نوع التمييز القائم على الآلة الذي يمكن أن يؤثر على القرارات التي تغير الحياة، مثل ما إذا كان بإمكانك تحمل تكاليف منزل أو قرض طالب.

قالت سارة كوتشيانسكي ، مستشارة تكنولوجيا مالية مستقلة: “يمكن استخدام الذكاء الاصطناعي لتحليل صحتك المالية بالكامل، بما في ذلك الإنفاق والادخار والديون الأخرى، للوصول إلى صورة أكثر شمولية”. “إذا تم تصميم هذه الأنظمة بشكل صحيح، يمكن أن توفر وصولاً أوسع إلى ائتمان ميسور التكلفة.”

لكن أحد أكبر المخاطر هو التحيز غير المقصود، حيث تنتهي الخوارزميات برفض القروض أو الحسابات لمجموعات معينة بما في ذلك النساء أو المهاجرين أو الأشخاص الملونين.

جزء من المشكلة هو أن معظم نماذج الذكاء الاصطناعي لا يمكنها التعلم إلا من البيانات التاريخية التي تم تغذيتها بها، مما يعني أنها ستتعلم أي نوع من العملاء تم إقراضهم في السابق وأي العملاء تم تصنيفهم على أنهم غير موثوق بهم. قال كوتشيانسكي: “هناك خطر من أن يكونوا منحازين فيما يتعلق بالشكل الذي يبدو عليه المقترض” الجيد “.  وتجدر الإشارة إلى أن الجنس والعرق غالبًا ما يلعبان دورًا في عمليات صنع القرار بالذكاء الاصطناعي استنادًا إلى البيانات التي تم تدريسها على أساسها: العوامل التي لا علاقة لها بأي حال من الأحوال بقدرة الشخص على سداد القرض.”

علاوة على ذلك، تم تصميم بعض النماذج بحيث تتجاهل ما يسمى بالخصائص المحمية، مما يعني أنه لا يُقصد منها مراعاة تأثير الجنس أو العرق أو العرق أو الإعاقة. لكن نماذج الذكاء الاصطناعي هذه لا تزال قادرة على التمييز نتيجة لتحليل نقاط البيانات الأخرى مثل الرموز البريدية، والتي قد ترتبط بالفئات المحرومة تاريخياً التي لم تتقدم من قبل بطلب للحصول على قروض أو رهون عقارية أو مضمونة أو مسددة من قبل.

وفي معظم الحالات، عندما تتخذ الخوارزمية قرارًا، يصعب على أي شخص فهم كيفية توصلها إلى هذا الاستنتاج، مما يؤدي إلى ما يُشار إليه عمومًا باسم متلازمة “الصندوق الأسود”. وهذا يعني أن البنوك، على سبيل المثال، قد تواجه صعوبة في شرح ما كان يمكن لمقدم الطلب فعله بشكل مختلف للتأهل للحصول على قرض أو بطاقة ائتمان، أو ما إذا كان تغيير جنس مقدم الطلب من ذكر إلى أنثى قد يؤدي إلى نتيجة مختلفة.

قال سيرسيومارو إن قانون الذكاء الاصطناعي، الذي يمكن أن يدخل حيز التنفيذ في أواخر عام 2024، سيفيد شركات التكنولوجيا التي تمكنت من تطوير ما أسماه نماذج “جديرة بالثقة للذكاء الاصطناعي” والتي تتوافق مع قواعد الاتحاد الأوروبي الجديدة.

يعتقد داركو ماتوفسكي ، الرئيس التنفيذي والمؤسس المشارك لشركة AI startup KosaLens ومقرها لندن، أن شركته من بين هؤلاء.

قامت الشركة الناشئة، التي تم إطلاقها علنًا في يناير 2021، بترخيص تقنيتها بالفعل لأمثال مدير الأصول Aviva ، وشركة التجارة الكمومية Tibra ، وتقول إن عددًا من بنوك التجزئة في طور توقيع صفقات مع الشركة قبل قواعد الاتحاد الأوروبي يدخل حيز التنفيذ.

قال رائد الأعمال إن علامة السببية تقدم شكلاً أكثر تقدمًا من الذكاء الاصطناعي الذي يتجنب التحيز المحتمل عن طريق المحاسبة والتحكم في الارتباطات التمييزية في البيانات. قال ماتوفسكي: “النماذج القائمة على الارتباط تتعلم المظالم من الماضي وهي تعيدها في المستقبل”.

وهو يعتقد أن انتشار ما يسمى بنماذج الذكاء الاصطناعي السببية مثل نموذجه سيؤدي إلى نتائج أفضل للفئات المهمشة التي ربما فاتتها الفرص التعليمية والمالية.

قال: “من الصعب حقًا فهم حجم الضرر الذي حدث بالفعل، لأننا لا نستطيع حقًا فحص هذا النموذج”. “لا نعرف عدد الأشخاص الذين لم يلتحقوا بالجامعة بسبب خوارزمية الأسلاك. لا نعرف عدد الأشخاص الذين لم يتمكنوا من الحصول على الرهن العقاري بسبب تحيزات الخوارزمية. نحن فقط لا نعرف. “

قال ماتوفسكي إن الطريقة الوحيدة للحماية من التمييز المحتمل هي استخدام الخصائص المحمية مثل الإعاقة أو الجنس أو العرق كمدخل ولكن يضمن أنه بغض النظر عن تلك المدخلات المحددة، فإن القرار لم يتغير.

وقال إن الأمر يتعلق بضمان أن تعكس نماذج الذكاء الاصطناعي قيمنا الاجتماعية الحالية وتجنب إدامة أي قرارات عنصرية أو قادرة أو معادية للمرأة من الماضي. “يعتقد المجتمع أننا يجب أن نعامل الجميع على قدم المساواة، بغض النظر عن الجنس، ما هو رمزهم البريدي، وما هو العرق الذي هم عليه. إذن، لا يجب أن تحاول الخوارزميات فقط القيام بذلك، ولكن يجب أن تضمن ذلك، “قال.

في حين أن القواعد الجديدة للاتحاد الأوروبي من المرجح أن تكون خطوة كبيرة في الحد من التحيز القائم على الآلة، فإن بعض الخبراء، بمن فيهم أولئك في معهد Ada Lovelace ، يضغطون من أجل أن يكون للمستهلكين الحق في تقديم شكوى والتماس الإنصاف إذا اعتقدوا أنه تم تقديمهم. على نحو سيء.

قال سيرسيومارو: “إن المخاطر التي يشكلها الذكاء الاصطناعي، خاصة عند تطبيقه في ظروف معينة، حقيقية وهامة وموجودة بالفعل”.

“يجب أن يضمن تنظيم الذكاء الاصطناعي حماية الأفراد بشكل مناسب من الأذى من خلال الموافقة على استخدامات الذكاء الاصطناعي أو عدم الموافقة عليها، كما يجب أن تتوفر لهم العلاجات عندما تتعطل أنظمة الذكاء الاصطناعي المعتمدة أو تؤدي إلى أضرار. لا يمكننا التظاهر بأن أنظمة الذكاء الاصطناعي المعتمدة ستعمل دائمًا بشكل مثالي وتفشل في الاستعداد للحالات التي لا تعمل فيها “.

المصدر: theguardian

قد يهمك:

شرح محفظة الذهب الراجحي في السعودية

سعر الذهب في الدنمارك

أنواع الإقامات في المانيا

شروط الاقامة في اسبانيا

تمويل شخصي حتى لو عليك قرض

سعر الذهب في بلجيكا

الرقم الشخصي للهاتف المصرفي البنك الاهلي التجاري

سعر الذهب اليوم في المجر

شروط الاقامة الدائمة في الدنمارك

سعر الذهب في هولندا

زر الذهاب إلى الأعلى