Latest / M365.FM – بودكاست Microsoft 365 وCopilot والذكاء الاصطناعي بالعربية / حقن الأوامر وحوكمة الذكاء الاصطناعي: كيف تحمي مسارات العمل في Microsoft 365 وPower Platform (دبلجة بالذكاء الاصطناعي)
Transcript
- 0:00تخيل أنك قمت بنشر روبوت محادثة لمساعدة موظفك في إدارة المهام اليومية
- 0:03وفي غضون دقائق بدأ باقتراح إجراءات متحيزة أو مضللة أو غير مفيدة تماما لعملائك
- 0:08هذا ليس من قبيل جنون الخيال العلمي
- 0:10بل هو ما يحدث عندما تغيب ضوابط الذكاء الاصطناعي المسؤول
- 0:13يركز الذكاء الاصطناعي المسؤول على النزاهة والشفافية والخصوصية والمساءلة
- 0:18هذه هي أحزمة الأمان لمساعديك الرقميين
- 0:20إنها تقلل المخاطر إذا قمت بتفعيلها عمليا
- 0:23ما هي التبعات؟
- 0:24انتهاكات الامتثال وفقدان ثقة العملاء
- 0:26وحالة من الذعر بين القيادات
- 0:28في هذه الجلسة سأستعرض إخفاقات حقن الأوامر
- 0:30وسأبين خطوات الحوكمة التي يمكنك تطبيقها داخل سيار عمل باور بلاتفورم ومايكروسوفت 365
- 0:35لأن الخطر ليس بعيدا
- 0:37يبدأ الأمر في اللحظة التي يخرج فيها مساعد الذكاء الاصطناعي عن النص
- 0:40عندما يخرج الذكاء الاصطناعي عن النص
- 0:42تخيل أنك أطلقت مساعدا للجدولة لتنظيم تقويمك
- 0:44يفترض به إعادة ترتيب موعيد الاجتماعات وتحديد الملاحظات العجلة والسيطرة على الفوضى
- 0:49بدلا من ذلك يبدأ في محابات البعض ليقرر منهم الزملاء الأكثر أهمية
- 0:52ويقوم بهدوء بحث الآخرين من قائمة الدعوات
- 0:54أو الأسوأ من ذلك أنه يدفن رسالة هامة من مديرك تحت ما يعادل البريد المزعج رقميا
- 0:59طلبت ساعة موثوقة لكن ما حصلت عليه يشبه زميل عمل غريب الأطوار يبتكر قواعد لم يوافق عليها أحد
- 1:04فكر في ذلك المساعد كسفينة في عرض البحر
- 1:07قد تكون السفينة لامعة ومحركها قوي ولكن بدون نظام ملاحة فهي تنجرف عمياء عبر الضباب
- 1:13الذكاء الاصطناعي بدون ضوابط هو بالضبط هكذا حركة بلا توجيه واندفاع بلا بصلة
- 1:18وفي حين أن الأخطاء العادية مؤلمة فإن الخطر الحقيقي يكمن عندما يضع شخص ما يده على عجلة القيادة
- 1:23هنا يأتي دور حقن الأوامر هذا هو القطان المتمرد الذي يتسلل على متن السفينة ويدس أمرا يبدو رسميا لكنه يغير مسار السفينة بالكامل
- 1:31عبارة صغيرة واحدة مخفية داخل طلب يمكن أن تدفع بمساعدك المهذب إلى تسريب معلومات أو نشر التحيز أو ترديد هراء
- 1:37هذا ليس خيالا علميا بل هو خطر حقيقي ناتج عن مدخلات معادية يسميه الخبراء حقن الأوامر
- 1:42يستخدم المهاجمون نصوصا مصاغة بعناية لتجاوز قواعد السلامة والنظام يمتثل لأنه لا يستطيع التمييز بين المخرب والراكب الموثوق
- 1:50إليك سبب خدوث ذلك
- 1:51معظم النماذج الأساسية ستتعامل مع أي تعليمات مصاغة بشكل جيد على أنها صالحة
- 1:55فهي لا تكتشف الدافع أو القصد بدون طبقات أمان إضافية
- 1:59ما لم تضف المؤسسة ضوابط ومرشحات أمان وعمليات تدقيق بشرية
- 2:02فإن الذكاء الاصطناعي ينفذ الأوامر باجتهاد آلة مصممة للطاعة
- 2:06أطلب منه تلخيص اجتماعه
- 2:08وإذا كان مضمناً داخل هذا الطلب أمر بطباعة ملف الأجندة الخاصة
- 2:11فإنه سيتعامل مع الأمرين على قدم المساوات
- 2:13إنه لا يزن الأخلاقيات
- 2:14إنه لا يشك في الخداع
- 2:16استعارة الجمارك تعمل جيداً هنا
- 2:18الأمر يشبه التسلل عبر نقطة تفتيش بوثائق مزورة مختمة بكلمة مصرح به
- 2:21توجد حواجز الحماية لكنها ليست كافية دائماً
- 2:24يمكن للنصوص الذكية خداع القواعد لتتجاهل عملها
- 2:26ولأن المخرجات غير حتمية ولا تقدم نفس الإجابة مرتين
- 2:29فإن الخطر يتضعف
- 2:30يمكن للمهاجم الاستمرار في المحاولة حتى يستجيب النموذج أخيراً لما يريده
- 2:34كرم النرد حتى تتحقق النتيجة المرجوة
- 2:36وهكذا يمكن للمساعد المصمم لخدمتك أن يتحول في لحظة إلى مهرج
- 2:39في دقيقة واحدة يكون مشغولاً بتنسيق مواعيدك
- 2:42وفي التالية يختلق معايير للتوظيف أو يسرب أسماء حساسة في سياق خاطئ
- 2:46تصبح الحوكمة هنا أمراً بالغ الأهمية لأن التحول من الفائدة إلى الفوضى ليس تدريجياً
- 2:51إنه فوري
- 2:52ولا يتوقف الضرر عند صندوق بريد واحد
- 2:54تنتشر المخرجات الخاطئة عبر سيار العمل بسرعة تفوق أي خطأ بشري
- 2:58اقتراح واحد معيب يتفاقم ليصبح سلسلة من الأخطاء
- 3:01نصائح سيئة تؤثر على القرارات
- 3:03تصنيفات خاطئة تنشر تحيزات مضللة بسرعة فائقة
- 3:06بدون رقابة يمكن لمطالبة خبيثة واحدة أن تشعل حريقاً شاملاً
- 3:09التخفيف من هذه المخاطر ممكن ولا يعتمد على التمنيات
- 3:12يستخدم المزودون والشركات بالفعل دفعات متعددة الطبقات
- 3:15ومرشحات آلية وقواعد تعلم التعزيز
- 3:18ومراجعين بشريين للتدقيق فيما قد يتسرب
- 3:20توصي شركة تيلز على سبيل المثال
- 3:23باختبار المساعدين الرقميين الجدد داخل بيئات مغلقة ومعزولة قابلة للتدقيق
- 3:27لاحتواء أي أضرار قبل تعريضهم للمستخدمين أو البيانات الفعلية
- 3:31اقترن ذلك باختبارات الاختراق المستمرة
- 3:33حيث يبحث البشر عن نقاط الضعف في النظام بانتظام
- 3:36مما يخلق حاجز أمان
- 3:37تقوم الضمانات الآلية بالعمل الشاقي
- 3:39لكن المراجعة البشرية تضمن بقاء النموذج متوافقاً عندما تفشل القواعد البسيطة
- 3:44هذا هو النمط
- 3:45راقب
- 3:46اختبر
- 3:46راجع
- 3:47واحتل
- 3:47إذا تركت الدفة دون مراقبة
- 3:49سيبحر الذكاء الاصطناعي حيثما تواجهه الاستفزازات
- 3:52وإذا فرضت الرقابة
- 3:53فأنت تقلص فرص وقوع الكوارث
- 3:55استعارة سفينة تعبر عن ذلك بدقة
- 3:57التوجيه ممكن
- 3:58لكن فقط عندما يتحقق شخص ما من البصلة
- 4:00وهذا يماهد للتحدي التالي
- 4:02حتى لو أبقيت المتسللين بعيداً والمرشحات قيد التشغيل
- 4:05ستواجه تعقيداً آخر
- 4:06عدم القدرة على التنبؤ متأصل في الأنظمة نفسها
- 4:09ليس بسبب التخريب
- 4:11بل بسبب الطريقة التي تولد بها هذه النماذج إجاباتها
- 4:14الحتمية مقابل غير الحتمية
- 4:16هذا هو المفتاح الخفي
- 4:18تخيل أنك تكتب 2 زائد 2 في آلة حاسبة
- 4:20وبدلاً من الرقم 4 المتوقع
- 4:22تظهر لك 42 بتهكم
- 4:24أمر غريب
- 4:25أليس كذلك؟
- 4:26نحن نندهش لأن الآلات الحاسبة مبنية على حتمية مطلقة
- 4:29ادخل لها نفس البيانات ألف مرة
- 4:31وستصل إلى نفس النتيجة في كل مرة
- 4:33هذه القدرة على التنبؤ هي جوهر الأمر
- 4:35الآن قارن ذلك بالفئة الأحدث من أدوات الذكاء الاصطناعي
- 4:37إنها لا تصل دائماً إلى نفس النتيجة مرتين
- 4:39مخرجاتها متغيرة
- 4:41أحياناً يبدو هذا التغيير ذكياً أو ثاقباً
- 4:43وأحياناً أخرى ينزلق إلى الهراء
- 4:44هذا هو المفتاح الخفي
- 4:46السلوك الحتمي مقابل السلوك غير الحتمي
- 4:48في الأنظمة الحتمية
- 4:49مثل جداول البيانات أو صياغ القائمة على القواعد
- 4:52لا تتغير النتائج أبداً
- 4:53أدخل الرقم 7 يوم الاثنين أو السبتة
- 4:55وستقدم لك الآلة النتيجة ذاتها
- 4:57بعيداً عن تقلبات المزاج أو الإبداع
- 4:59إنها ولاء آلي يعيد تنفيذ الحركة نفسها مراراً وتكراراً
- 5:03تعيش النماذج غير الحتمية بطريقة مختلفة
- 5:05عندما تعطيها أمراً ما
- 5:06فبدلاً من السير في مسار ثابت
- 5:08تقوم باستكشاف الاحتمالات
- 5:10هذا الاستكشاف إلى جانب العمليات العشوائية
- 5:12وتحديثات النماذج
- 5:14وحتى انحراف البيانات
- 5:15هو ما يجعل المخرجات متغيرة
- 5:16الأمر أشبه بإعداد مسرح للارتجال
- 5:19أن تكتب المشهد
- 5:20لكن المؤدي يبتكر الخاتمة في اللحظة نفسها
- 5:22أحياناً تنجح بشكل مذهل
- 5:24وأحياناً تنحرف نحو عدم الترابط
- 5:26الأتمتة الكلاسيكية وسير العمل القائم على القواعد
- 5:29كالكثير مما يبنى في منصة Power Platform
- 5:31تقترب أكثر من الجانب الحتمي
- 5:33تضع شرطاً وعندما يتم تفعيله
- 5:34تنفذ القاعدة المحددة بدقة متناهية
- 5:37هذه القدرة على تنبؤ هي ما يحافظ على استقرار الامتثال
- 5:39وتدفق البيانات ومسارات التدقيق
- 5:41أن تعرف ما سيحدث لأن الخطوات ثابتة ومحددة
- 5:44في المقابل تحول المساعدات الذكية التولدية
- 5:46أي مدخلات إلى مساحة مفتوحة للتفسير
- 5:48فهي تلخص وتعيد الدمجة
- 5:50وتعيد الصياغة بطرق تبدو غالباً بشرية
- 5:52المرونة هي ميزتها
- 5:54لكنها أيضاً مصدر الخطر
- 5:55لأن تلك المرونة ذاتها تسمح بعدم القدرة على التنبؤ
- 5:58في سياقات تتطلب الاتساقة
- 5:59تخيل فرقة ارتجال على المسرح
- 6:01تمنحهم موضوعاً مثل الموافقة على الميزانية
- 6:04ممثل يرتجل لكتة ذكية عن الادخار
- 6:06وآخر ينحرف لقصة جانبية عن الولائم
- 6:08وفجأة لا يشبه العرض طلبك الأصلية
- 6:10هذا هو النموذج غير الحتمي في منتصف أدائه
- 6:13هذه التقلبات ليست دليلاً على تصميم سيء
- 6:16بل هي جزء لا يتجزأ من كيفية توليد النماذج اللغوية الكبيرة للغة
- 6:19فهي تستكشف مسارات عديدة وليس مساراً واحداً
- 6:21المشكلة واضحة
- 6:22الإبداع لا يعني دائماً الدقة
- 6:24وفي سير عمل الأعمال
- 6:25الدقة هي غالباً العملة الوحيدة التي تهم
- 6:27الآن تبق هذا على القطاع المالي
- 6:29لنفترض أن أداة فحص الاعتمال المدعومة بالذكاء الاصطناعي
- 6:32قيم الطلب مقدم على أنه مقبول
- 6:33ادخلت نفس المعلومات في اليوم التالي
- 6:35لكن النتيجة هذه المرة كانت مرفوضة
- 6:37يشعر مقدم الطلب بالذهول
- 6:39ويرى المنظم تبايناً يبدو كأنه تمييز
- 6:42ما يحدث هو انحراف
- 6:43تتغير المخرجات دون سبب واضح
- 6:45لأن الأنظمة غير الحتمية يمكن أن تتغير بمرور الوقت
- 6:48وعلى عكس البشر لا يمكنك ببساطة سؤال النموذج لتفسير ما تغير
- 6:52وهنا تتأكل الثقة بأسرع ما يمكن
- 6:54عندما يختفي منطق العمل خلف مخرجة غامضة
- 6:56في مرحلة الإنتاج يتفاقم الانحراف بسرعة
- 6:59مسار عمل اعتمد لتقليل التحيز في شهر قد يتجه في الاتجاه المعاكس في الشهر التالي
- 7:04التباينات التي تبدو بسيطة في عزلتها تتراكم لتصبح انتهاكات عند تضخيمها عبر مئات الحالات
- 7:09المنظمون على عكس الجمهور المستمتع في ليلة ارتجال يطالبون بالاستقرار وقابلية التدقيق وتفسيرات واضحة
- 7:15هم لا يقبلون عدم الحتمية كجزء من سحر التقنية
- 7:18لهذا السبب تعتبر حواجز الحماية أمراً بالغ الأهمية
- 7:21تطالب الهيئات التنظيمية والمعايير بوجود قابلية للتدقيق وتوثيق للنماذج وآليات للرصد
- 7:25لذا قم بدمج سجلات وتدابير قابلية التفسير ضمن عملية النشر
- 7:28بدونها تتحول الانخرافات البسيطة إلى التزامات وتتراكم العقوبات المالية وتنتشر الأضرار بسمعة الشركة وتتلاشى ثقة العملاء
- 7:35الحكمة هي الحكم البشري في هذه المسرحية غير المتوقعة
- 7:38تخيل هؤلاء المرتجلين مرة أخرى وهم يدورنا في كل اتجاه
- 7:41إذا لم يضع أحد الحدوداً فسينهار العرض تحت وطأة فوضاه الخاصة
- 7:44أما الحكم فهو يبقيهم مقيدنا بمسار محدد
- 7:46التزم بهذا الموضوع وتابع هذا المسار
- 7:49تعمل الحكمة بنفس الطريقة بالنسبة للذكاء الاصطناعي
- 7:52إنها لا تقتل الابتكارة بل تحول العشوائية إلى أداء يحترم النصة
- 7:56تظل الطبيعة غير الحتمية قائمة لكنها تعمل ضمن مسارات محددة
- 8:00هنا يكمن التوازن لا يمكنك إجبار المساعد الذكي على تصرفك آلة حاسبة
- 8:04فهو ليس مصمماً لذلك لكن يمكنك وضع شبكات أمان حوله
- 8:07تعمل الرقابة البشرية وأنظمة الرصد وأطر الحوكمة كشبكة الأمان تلك
- 8:11مع وجودها يستمر النموذج في الارتجال لكنه لن يفسد العرض
- 8:14وبدونها يتفاقم الانحراف دون رادع وتترك فرق الانتثال لتصحيح قرارات لا يمكن لأحد تبيرها
- 8:19المخاطر واضحة للعيان عدم القدرة على التنبؤ أمر محايد
- 8:22لكنه يشكل نتائج تؤثر على القروض أو الوظائف أو الرعاية الصحية
- 8:25وعندما تحمل المخرجات وزناً في العالم الحقيقي يتدخل المنظمون
- 8:29وهذا يقودنا إلى الحدود التالية وهو الوصول الوشيك لقواعد خارجية لا تكتفي باقتراح الرقابة بل تفرضها
- 8:35قانون الذكاء الاصطناعي في الاتحاد الأوروبي كويكب قادم
- 8:38تخيل هذا لقد بنيت مشروع ذكاء اصطناعي جديداً لامعاً
- 8:41مدينة رقمية بشوارع منظمة ونشاط صاخب
- 8:43أحياء للبيانات وجسور للتكامل وناطحة سحاب من الميزات الذكية
- 8:47يبدو كل شيء متيناً
- 8:49ثم بين عشية وضحاها يصل قانون الذكاء الاصطناعي للاتحاد الأوروبي كقواعد تنظيمية سقطت من المداري
- 8:53أصبحت أحياء كاملة من مدينتك مصنفة كخاضعة للتنظيم
- 8:56وبعضها تحت مراقبة دقيقة وأخرى محضورة تماماً إذا تجاوزت الحدود إلى مجالات تلعب أو ضرر
- 9:00هذا ليس اختيارياً إنه تشريع
- 9:02ويجب على مدينتك إعادة تشكيل نفسها سواء خطط لذلك أم لا
- 9:05في جوهر هذه القواعد يكمن التصنيف
- 9:07توضع الأنظمة في فئات ذات مخاطر دنياً أو محدودة أو عالية أو غير مقبولة على الإطلاق
- 9:13قد تغطي المخاطر الدنيا برنامج دربشة يساعد العملاء في الأسئلة الشائعة
- 9:16أما المخاطر العالية فتشمل أدوات التوظيف وتصنيف الاقتمان ومراقبة مكان العمل
- 9:20وتغطي المخاطر غير المقبولة لاستخدامات التلعبية أو الخطيرة المحضورة فعلياً بشكل كامل
- 9:24هذه ليست مجرد تسمية بل هي ترتبط مباشرة بالالتزامات
- 9:27إذا تم تصنيفك ضمن فئة المخاطر العالية فيجب عليك توفير شفافية وقابلية التفسير
- 9:31والاحتفاظ بسجلات مفصلة جاهزة للتدقيق وتنفيذ رقابة بشرية
- 9:35فجأة لا يطلب من مدينتك الجديدة المشرقة أن تعمل فحسب
- 9:37بل يطلب منها إثبات كيفية عملها وسببه بالتفصيل
- 9:40بالنسبة للمطورين وصناع الحلول هذا تحول حاد
- 9:42بالأمس كان يمكن إضافة الميزات إلى التطبيقات بسرعة فائقة
- 9:46اليوم قد تتطلب تلك الميزات نفسها مراجعات امتثال قبل أي عرض توضيحياً
- 9:50تطبيق توظيف يصنف السير الذاتية كان مجرد أداة مفيرة للوقت
- 9:53أصبح فجأة في منطقة عالية المخاطر
- 9:55لم يتعطل التطبيق لكنه يؤثر على الناس بطرق يحددها القانون كحساسة
- 10:00وهذا يغير الرهانات
- 10:01وهنا يبدأ الذعر لدى العديد من الفرق
- 10:03تعني شفافية سجلات لكيفية اتخاذ القرارات
- 10:06وليس مجرد قائمة مبهمة في عرض تقديمين
- 10:08تتطلب القابلية للتدقيق تخزين كل مسار قرار ليكون قابلاً للاسترجاع
- 10:12وجاهزاً لفحص المنظمين
- 10:14تعني الرقابة البشرية مسئولية مباشرة
- 10:15أشخاص حقيقيون يراقبون النظام
- 10:17قادرون على التدخل عندما ينحرف النموذج عن مساره
- 10:20هذه ليست إرشادات خفيفة
- 10:21بل شروط قابلة للإنفاذ
- 10:23تتحول النماذج الأولية سريعة إلى عمليات نشر خاضعة للإشراف
- 10:25تتطلب موافقة الانتثال في كل خطوة
- 10:27تفسح السرعة المجال للهيكلة
- 10:29فكر في القانون ليس كاروتين بيروكراطي
- 10:31بل كقواعد الأكسجين على متن مركبة فضائية
- 10:33قد تتجاهل ارتداء القناع في الظروف العادية
- 10:35ولكن أثناء الاضطرابات
- 10:37هو الشيء الوحيد الذي يبقي الطاقم على قيد الحياة
- 10:39القانون هو نفسه
- 10:41تبدو القواعد ثقيلة حتى تتذكر سبب وجودها
- 10:43لأن زلة واحدة يمكن أن تخنق الثقة في صناعة بأكملها
- 10:46وهنا تحذير بالغ الأهمية
- 10:48لا يمكنك تأجيل الامتثال
- 10:50يفرض القانون التزامات الآن
- 10:51وتعديل السجلات والضوابط والرقابة لاحقا
- 10:54سيكون أكثر تكلفة من تضمينها في مرحلة التصميم
- 10:57عواقب تجاهل هذه المتطلبات ليست مالية فقط
- 11:00الغرامات مؤلمة نعم
- 11:02لكن السمعة أصعب في الإصلاح
- 11:04بمجرد أن يكتشف العملاء أن أداتك تجاوزت الخط الأحمر
- 11:06تتأكل الثقة في شركتك بالكامل
- 11:08لا يمكنك إصلاح ذلك بتحديث برمجي
- 11:10ثقة الجمهور هشة
- 11:11وعندما تتصدع ينتقل المستخدمون إلى مكان آخر
- 11:14أكبر عقوبة ليست مكتوبة في القانون
- 11:16بل في سلوك العملاء
- 11:17إذن إليك سؤال الجرد غير المريح
- 11:19هل تعرف حتى أي من ميزات الذكاء الاصطناعي لديك تصنف على أنها عالية المخاطر
- 11:23ذلك المصنف للسير الذاتية
- 11:24أداة الإنتاجية التنبؤية تلك
- 11:26إذا كانت تلمس مجالات حساسة مثل التوظيف أو الأفاق المالية
- 11:29فإن القانون يهتم بها
- 11:30ولا يهم إذا كنت تراها مساعدات غير ضرة
- 11:33التصنيف يحمل التزامات سواء اعترفت بها أم لا
- 11:36تبدأ المنظمات الذكية بجرد
- 11:37وتصنيف الميزات ومواقعها قبل أن يطلب المنظمون منها الإجابة مقابل غرامة
- 11:41هذا هو التحول الحقيقي
- 11:43القانون لا يوصي بلطف بالذكاء الاصطناعي المسؤول
- 11:46بل يفرضه
- 11:46الحوكمة لم تعد ميزة اختيارية
- 11:48بل أصبحت جزءا لا يتجزأ من القانون
- 11:50إما أن تبني نظامك بمسؤولية من الأساس
- 11:53أو سيفرض القانون المسؤولية من الخارج عبر العقوبات ومراجع الحسابات
- 11:57بهذا المعنى لقد هبط الكويكب بالفعل
- 11:59لا يمكنك دفعه بعيدا
- 12:01لا يمكنك سوى حماية نفسك من الارتطام والحفاظ على مدينتك صالحة للعيش
- 12:04وهذا يطرح السؤال العملية
- 12:06ما هي الدروع المتاحة لديك؟
- 12:07لأنه في هذا المشهد النجاة من الكويكب لا تتعلق بالحظ
- 12:10بل باستخدام وسائل الدفاع الموجودة بالفعل في لوحة تحكمك
- 12:14دروع وضوابط نظام مايكروسوفت البيئي
- 12:16في نظام مايكروسوفت البيئي
- 12:18الدروع مدمجة بالفعل في السفينة
- 12:20عليك فقط تشغيلها
- 12:22تحتوي مايكروسوفت 365 وPower Platform على أدوات حوكمة تمر غالبا دون أن يلاحظها أحد
- 12:27وكأنها إضافات اختيارية
- 12:28إنها ليست للزينة
- 12:29بل هي صفائح الهيكلية التي تحافظ على سلامة أنظمتك
- 12:31عندما تلوخ في الأفق مخاطر وتحديات تنظيمية
- 12:33يكمن الخطر عندما تلقي الفرق نظرة سريعة على لوحات المعلومات هذه
- 12:36ثم تتجهلها وتمضي قدما
- 12:38لأن هذه ليست خيارات إضافية
- 12:39بل هي أدوات للبقاء
- 12:40ابدأ بالرؤية الشاملة
- 12:42تدمج مايكروسوفت 365 وPower Platform
- 12:45ميزات رقابية تتيح لك تتبع سلوك النماذج
- 12:47وتسجيل القرارات وتوضيح الأسباب بلغة واضحة
- 12:50لا داعي للاعتماد على صندوق أسود
- 12:52يصدر أحكاما غامضة
- 12:53ستحصل على حلقة تغذية رجعة فعلية
- 12:55وإشارات تنبيه على لوحة كل من حرفت الخوارزمية عن مسارها
- 12:57هذا الفارق هو الخط الفاصل بين القيادة العمياء والملاحة
- 13:00باستخدام أدوات تخبرك بدقة عندما تبدأ في الانحراف
- 13:03ثم هناك الشفافية
- 13:04يوفر بعض البائعين مثل أوز بطاقات خدمة الذكاء الاصطناعي
- 13:07لتوثيق استخدام النموذج وقيوده
- 13:09تتبع مايكروسوفت نهجا مختلفا بمعيار الذكاء الاصطناعي المسؤولي
- 13:12وأدوات مثل لوحة تحكم الذكاء الاصطناعي المسؤولي
- 13:15توفر هذه للممارسين تقارير قابلية التفسير
- 13:18وملاحظات الأداء وخيارات التصميم المسؤولي
- 13:20فكر في الأمر كطيار مساعد يشرح منطقه بدلا من مجرد تقديم خطة لك
- 13:24أن ترى كل اعتبار وليس فقط النتيجة النهائية
- 13:27أما بالنسبة لحماية النماذج
- 13:29تذكر هذا
- 13:30يقدم جميع البائعين ضوابط حماية بشكل أو بآخر
- 13:33في بيئة مايكروسوفت
- 13:34ستجد عناصر تحكم في السياسات
- 13:35ولوحات تحكم لقابلية التفسير
- 13:37وسجلات تدقيق تؤدي نفس الدور
- 13:39بحجب محاولات الإدخال الضارة وتصفية النتائج قبل أن تتحول إلى فوضى
- 13:42بالنسبة لقابلية التفسير ذاتها
- 13:44هناك طرق راسخة مثل شب أو أدوات خاصة بالبائعين مثل سيج ميكر كليريفاي
- 13:48في عالم مايكروسوفت
- 13:49تقوم لوحة تحكم الذكاء الاصطناعي المسؤول بهذا الدور
- 13:51مقدمة تقارير واضحة حول المتغيرات التي دفعت النموذج لاتخاذ قراره
- 13:54مع هذه الأدوات
- 13:55تتوقف خدعة قرارات الذكاء الاصطناعي عن كونها أمرا مخيفا
- 13:58يمكنك رؤية المدخلات التي كانت مهمة وتقييم ما إذا كانت النتيجة عادلة
- 14:02يحصل المدقيقون على أدلة قابلة للتتبع
- 14:04ويكتسب المستخدمون الثقة بأن النموذج لا يختلق هراء من العدم
- 14:07ثم تأتي شبكة الأمان البسيطة والضرورية
- 14:10حماية البيانات
- 14:11قم بتمكين منع فقدان البيانات للحيلولة دون تسرب المعلومات الحساسة إلى جهات غير المصرح لها
- 14:16واقر ذلك بالاحتفاظ بسجلات التدقيق وتتبعها
- 14:18تعمل هذه الأدوات مجتمعة بمثابة الصندوق الأسود الخاص بك
- 14:21يتم فهرسة كل إجراء وكل انحراف حتى تتمكن من تتبع الأخطاء عند وقوعها
- 14:26إذا تخطيت هذا فلن تجد سوى أثر من الغموض عندما تتفاقم الأخطاء
- 14:29العائد ليس مجرد فكرة مجردة
- 14:31تأمل في تطبيق PowerApp أساسي تم بنائه باستخدام أي Builder
- 14:34في مسوداته الأولى كان يجمع من المعلومات الشخصية أكثر مما يمكن لأي مؤسسة تبريره
- 14:38أسماء وسجلات وحقول حساسة كانت مكشوفة
- 14:41بمجرد تفعيل أعدادات الامتثال توقف التدفق وتصلبت حدود البيانات
- 14:44واستمر التطبيق في العمل وتم احترام قواعد الخصوصية
- 14:47لم يتم هدم البنية التحتية وإعادة بنائها
- 14:50بل تم ضبطها من خلال تفعيل دروع كانت موجودة هناك طوال الوقت
- 14:53بالنسبة لمراحل النشر الأولى
- 14:55هناك ممارسة أخرى تستحق التبنية
- 14:56وهي البيئات المعزولة على طراز تيلوس
- 14:58من خلال اختبار المساعدين الأذكياء في بيئة تجربية خاضعة للرقابة وقابلة للتدقيق
- 15:02يمكنك حصر أي سلوك غير متوقع في منطقة آمنة قبل إطلاقه في سير العمل الحيوي
- 15:06إنها ساحة اختبار بجدران عالية بما يكفي لمنع تسرب الأخطاء إلى أنظمة الإنتاج
- 15:11أقنا ذلك بمراقبة قوية
- 15:12وستتمكن مؤسستك من رصد الأخطاء قبل أن تتحول إلى عنوين أخبار
- 15:15تعمل لوحات معلومات الحكمة على ربط كل هذا ببعضه
- 15:18إنها ليست مجرد شاشات لعرض الحالة
- 15:20بل تمنح الفرق إشرافا فعلا
- 15:21يمكن للمشرفين استجواب مخرجات الذكاء الاصطناعي أو الموافقة عليها أو رفضها في الوقت الفعلي
- 15:25هذا هو جوهر التفاعل البشري في النظام
- 15:27بدون هذا الإشراف تعمل الأتمتة بحرية حتى تصطدم بانتهاك للسياسات
- 15:32مع وجود لوحات المعلومات يجلس البشر في برج المراقبة
- 15:35ينسقون كل نظام ذكاء اصطناعي مثل الطائرات في مجال جوي مزدحم
- 15:38بدلا من الفوضى في الأجواء تحصل على تدفق متزامن ومنظم
- 15:42وهنا يكمن التحول
- 15:43بمجرد أن تنظر المؤسسات إلى هذه الأنظمة كدفعات
- 15:46فإنها تتحول من عبء تنظيمي إلى مضاعف للإنتاجية
- 15:49أن تتجنب إعادة العمل
- 15:50أن تقدم للهيئات التنظيمية السجلات التي يريدونها في لحظة
- 15:53أن تتحرك بشكل أسرع لأن الامتثال كان جزءا من التصميمي
- 15:55وليس مجرد تصحيح أضيف لاحقا
- 15:57ما كان يعيق سرعتك سابقا أصبح الآن يسرعها
- 15:59ومع ذلك الدروع لا تعمل من تلقاء نفسها
- 16:01فهي تتطلب التكوين والمراجعة والمراقبة المستمرة
- 16:04هذه الضوابط مفيدة
- 16:05ولكن يجب أن يديرها الأشخاص بشكل صحيح
- 16:08مجالس الحوكمة
- 16:09خط الدفاع الأخير ضد الفوضى
- 16:11فكر في مجلس الحوكمة كتاقم قيادة سفيناتك الفضائية
- 16:14إنهم المجموعة التي تحافظ على ثبات المسار عندما تهز الاضطرابات أدوات التحكم
- 16:18قد تعمل الدروع ومفاتيح الامتثال وسجلات التدقيق في الخلفية
- 16:20لكن لا يزال يتعين على شخص ما نظر عبر النافذة ومراقبة المؤشرات
- 16:24والاستجابة عندما يظهر ما هو غير متوقع
- 16:26بدون هذا الإشراف تظل أفضل حواجز الحماية مجرد معدن بدون حكم سليم خلفها
- 16:31مجلس الحوكمة ليس ضابطا وحيدا يصدر الأوامر
- 16:34تتألف هذه المجموعة من فريق متعدد الوظائف
- 16:36يضم قادة تقنيين ومسؤول حوكمة البيانات
- 16:38ومستشارين قانونيين أو متخصصين في الامتثال
- 16:40وممثلا عن قطاع الأعمال ومراجعا مستقلا وحدا على الأقل
- 16:43يؤدي كل فرد دورا مختلفا لأن الذكاء الاصطناعي لا يقتصر على قسم واحد محدد
- 16:47فأداة فحس السيار الذاتية تؤثر على الموارد البشرية
- 16:49وخوارزمية التنبؤ تشكل التمويل وربوت المحادثة يتحدث مباشرة مع عملائك
- 16:53لا يمكن لوظيفة واحدة بمفردها توقع جميع العواقب
- 16:56الأمر يتطلب طاولة مستديرة لرصد المخاطر وتصحيحها قبل أن تمتدى لتشمل أقسام أخرى
- 17:00الآن تخيل العمل دون هذا الفريق
- 17:02ترك الذكاء الاصطناعي دون رقابة يشبه تفعيل الطيار الآلي في حقل من الكويكبات
- 17:06يبدو الأمر طبيعيا حتى تقوم مناورة غريبة بحرف السفينة عن مسارها
- 17:09قد توجد تدابير وقائية لكنها لا تفسر ولا تتساءل ولا تستبق الأمور
- 17:14مجلس الحوكمة هو طبقة التفكير حيث ينظر البشر إلى ما وراء الأضواء الوامضة لرؤية السياق والأخلاقيات والتبعات قبل أن يتحول الانحراف إلى كارثة
- 17:20واجباتهم ليست مجرد نظريات مجردة
- 17:22إنهم يجرون عمليات تدقيق دورية للتحيز والعدالة ويتحققون من مصدر البيانات
- 17:26ويراجعون تقارير الانتثال ويتتبعون كيفية ارتجال الأنظمة غير الحتمية
- 17:30إنهم يديرون وطيرة العمل ويضعون جدولا زمنيا للفخصات ليتم اكتشاف المشكلات مبكرا بدلا من اكتشافها بعد الإطلاق
- 17:35ويوسعون ذلك بتحديد مؤشرات الأداء الرئيسية ومقاييس العدالة والدقة والانحراف
- 17:39لتصبح المراقبة المستمرة مسئولية محسوبة وليست مجرد تخمينا
- 17:42بالنسبة للمخرجات غير الحتمية على وجه الخصوص تعمل هذه المجالس كحارس للحدود
- 17:46الذكاء الاصطناعي لا يقدم دائما الرد نفسه
- 17:48إنه يعتمد على العينات والارتجال والاستكشاف
- 17:51قد يولد ذلك إجابات إبداعية أو قد ينحرف نحو مخرجة مضللة تقود الثقة
- 17:56يعمل مجلس الحوكمة كرقيب أمان رقمي حيث يسجل النتائج غير المتوقعة
- 18:00ويختبر المطالبات ريد تيمين ويحدد الأنماط الخطرة
- 18:03ويعيد البشر إلى حلقة العمل عندما تفشل المرشحات الآلية في رصد شيء ما
- 18:07إنهم لا يعيقون الابتكار بل يبقونه يعمل ضمن حدود آمنة
- 18:10وهنا يكمن الفرق العملي
- 18:12المنظمات التي لديها مجالس حوكمة فعالة تميل إلى اكتشاف المشكلات أثناء التجارب الأولية
- 18:17تكشف عملية تدقيق العدالة عن تحيز في نموذج التوظيف
- 18:19فيتم تصحيح المشكلة بهدوء ويستمر الإطلاق دون فضائح
- 18:23في المنظمات التي تفتقر إلى مثل هذه الرقابة تظهر القصة في الصحافة أولا
- 18:27يكتشف العملاء الضرر ويرصد المنظمون الإخفاقات وتأتي الإجراءات التصحيحية بعد فوات الأواني
- 18:32الوقاية تتطلب وقتا
- 18:34والعلاج يكلف السمعة
- 18:36يتكرر هذا النمط بما يكفي ليكون الدرس واضحا
- 18:39تتمحور ركائز هذه المجالس حول العدالة والشفافية والمساءلة والسلامة والخصوصية
- 18:44تضمن العدالة ألا تعاقب النتائج المستخدمين بناء على اعتبارات ديمغرافية
- 18:48تتطلب الشفافية أن تكون القرارات قابلة للتفسير بعبارات واضحة
- 18:52سواء للمستخدمين أو لأغراض الانتثال
- 18:54تضمن المساءلة وجود دور محدد يتحمل المسئولية بحيث لا يقال الذكاء الاصطناعي فعل ذلك
- 18:59بل يتولى هذا المسئول المحاسبة عن النتيجة
- 19:01تحمي سلامة المخرجات من التسبب في أي ضرر أو سوء استخدام
- 19:04تحمي الخصوصية البيانات الحساسة
- 19:06كي لا يصبح الأفراد حمولة غير مقصودة في رحلة محفوفة بالمخاطر
- 19:09كل مبدأ قوي بمفرده
- 19:11لكنها معا تشكل الهيكل الذي يجعل الذكاء الاصطناعي المسئول يعمل تحت المجهر
- 19:15ولا تكتفي مجالس الإدارة بدعم المبادئ فحسبه
- 19:17بل تنفذ إجراءات ملموسة
- 19:19فهي تراجع وثائق النماذج للتأكد من وضوحها
- 19:21وتدير عمليات تقييم المخاطر لتصنيف حالات الاستخدام
- 19:23وتفرض نقاط فحص تتدخل فيها العناصر البشرية حيث ما لازم الأمر
- 19:27كإنجاز أولي من أبسط الإجراءات وأكثرها قيمة هو إنشاء سجل لحالات استخدام الذكاء الاصطناعي وتصنيف المخاطر المرتبطة بها
- 19:33توضح هذه الخريطة سريعة المشاريع التي تصنف كمخاطر عالية
- 19:36وتلك التي تتطلب حوكمة صارمة وتلك ذات المخاطر الأقل
- 19:39إنه دليل ملموس للقيادة والجهات التنظيمية على أن الرقابة منظمة وليست ارتجالية
- 19:43حتى عند العمل بأقصى سرعة تعمل اجتماعات المجلس كفخصات دورية خلال الرحلة
- 19:47هم لا يضعون الاستراتيجية فحسبه بل يتتبعون المقاييس ويفرضون تقارير الانتثال
- 19:52هذا الإيقاع يبني المرونة
- 19:54تطبط دورات الاختبار ومؤشرة الأداء الرئيسية للعدالة
- 19:57ومراجعة الانحراف الإيقاع لتبقى حواجز الحماية نشطة بدلا من أن تتلاشى بعد النشر
- 20:02من خلال هذه التقوس تتوقف الرقابة عن كونها مجرد خانة للاختيار لمرة واحدة وتصبح عملية حية
- 20:07يقدم الذكاء الاصطناعي في التوظيف قصة تحذيرية
- 20:09نماذج تدربت على بيانات معيبة انقصة التحيز بصمت
- 20:13فخفضت تقييم مرشحين من مجموعات معينة دون أي قصد من المطورين
- 20:17وبسبب عدم ملاحظة ذلك انتشر التمييز على نطاق واسع حتى أدى إلى رفع دعاوة قضائية
- 20:21كان بإمكان مجلس حوكمة مسلح بعمليات تدقيق العدالة وفحص المصادر ملاحظة هذا الانحراف قبل الانتاج بوقت طويل
- 20:27هذا الفرق الوقاية مقابل الكشف هو سبب وجود هذه المجالس
- 20:30لذا مجالس الحوكمة ليست مشاريع جانبية وليست لجانا تجميلية
- 20:34إنها خط الدفاع الأخير بين التوجيه المستقر والفوضى التي يمكن تجنبها
- 20:37وهي الطاقم المكلف بتحويل شعارات الذكاء الاصطناعي المسؤول إلى ممارسات واقعية
- 20:41من خلال الحفاظ على الهيكل والمقاييس والمساءلة
- 20:43يضمنون تقدم السفينة مع بقاء ثقة سليمة
- 20:46وهذا يعيدنا إلى نقطة البداية
- 20:48بوجود المجالس تصبح الرقابة ثقافة لا مجرد ترقيع
- 20:50وهو ما يطرح الحقيقة الأكثر حدة التي نختتم بها
- 20:53الذكاء الاصطناعي المسؤول ليس إعدادا إضافيا تشغله للعرض
- 20:56إنه جهاز الأمان الذي يحدد ما إذا كنت ستنجو من الاضطرابات القادمة
- 21:00الذكاء الاصطناعي المسؤول ليس اختياريا
- 21:02إنه ما يفصل بين مؤسسة مسيطرة وأخرى تنجرف نحو الفوضى
- 21:06به أن تبني ثقة وتقلل المخاطر بشكل كبير
- 21:08وتضع مشاريع الذكاء الاصطناعي الخاصة بك على مسار النجاح طويل الأمد
- 21:11بدلا من النجاحات قصيرة الأجل
- 21:13إذن إليك خطوتك التالية
- 21:15جلد حالات استخدام الذكاء الاصطناعي لديك
- 21:16وفعل وسائل الحماية المتاحة بالفعل في منصتك
- 21:19وأنشئ مجلس حوكمة لمراقبتها
- 21:21تعامل مع هذه الخطوات كمركز قيادة للمهمة
- 21:23لا كمهام جانبية
- 21:24تتضمن ملاحظات الحلقة قائمة مراجعة وروابط للأدوات التي غطيناها
- 21:27حتى تتمكن من البدء فورا
- 21:28إذا شحنت هذه الحلقة طاقة ذكائك
- 21:30فاض بالتطبيق البودكاست الخاص بك على التحميل التلقائي
- 21:33اضغط على متابعة
- 21:34أرسل أسئلتكم إلى ورشوات وسأقرأ أفضلها في المرة القادمة