B2Shift · تم النشر ٣ أغسطس ٢٠٢٦ · تم التحديث ١٤ أغسطس ٢٠٢٦
معظم حوادث سلامة الذكاء الاصطناعي في الأعمال التجارية ليست إخفاقات في النماذج. إنها فشل في الوصول: نظام يمكنه الوصول إلى بيانات أكثر من المهمة المطلوبة، ويعمل بدون نقطة تفتيش، ولا يترك أي سجل لما فعله. والضوابط التي تمنع ذلك هي ممارسة هندسية عادية، ويتم تطبيقها عمدا.
ابدأ بتقليل البيانات وتحقيق غرض موثق
تبدأ الأتمتة المتوافقة مع القانون العام لحماية البيانات (GDPR) قبل أي تعليمات برمجية: قم بتدوين الهدف من سير العمل، والبيانات الشخصية التي يحتاجها بالفعل، والمدة التي يجب الاحتفاظ بهذه البيانات فيها. ثم قم بمطابقة النظام. يجب أن تكون الحقول والأنظمة التي يتطلبها سير العمل فعليًا هي فقط التي يمكن الوصول إليها - وليس إدارة علاقات العملاء (CRM) بأكملها لأنه كان من الأسهل منحها.
يعد هذا أيضًا أرخص عنصر تحكم في التنفيذ وأكثر تكلفة في التحديث. يعد توسيع الوصول لاحقًا بمثابة تغيير في التكوين؛ إن تضييق نطاقه بعد تشغيل النظام لمدة عام يعني اكتشاف ما أصبح يعتمد عليه بهدوء.
ضع بوابات على الإجراءات التي لا يمكن التراجع عنها
لا تحتاج كل خطوة إلى الموافقة، كما أن التعامل معها بنفس الطريقة يدرب الأشخاص على النقر عليها. تقسيم الإجراءات حسب إمكانية الرجوع. يمكن عادةً تشغيل القراءة والتصنيف والصياغة والتوجيه دون مراقبة. إرسال الأموال ونشر الأسعار والرد على الشكاوى وحذف السجلات وأي شيء يصل إلى العميل باسمك يستحق بوابة بشرية، أو على الأقل نافذة تأخير يمكن أن يتدخل فيها الشخص.
ينتمي الوصول المستند إلى الدور إلى نفس المحادثة. يجب أن تعمل الأتمتة بهويتها الخاصة وأذوناتها الخاصة، وليس عن طريق استعارة بيانات اعتماد المسؤول - وهي مشكلة أمنية ومشكلة تدقيق في نفس الوقت، لأنه بعد ذلك لا يستطيع أحد التمييز بين الإنسان والآلة في السجلات.
اتخذ كل قرار قابلاً لإعادة البناء
يجب أن يترك كل إجراء سجل تدقيق: ما الذي أدى إلى حدوثه، والسياق الذي تم استخدامه، وما قرره النظام، وما هي الثقة التي يتمتع بها، وما إذا كان الإنسان قد وافق عليه، وما الذي تغير نتيجة لذلك. يبدو هذا بمثابة التزام عام حتى المرة الأولى التي يعترض فيها العميل على شيء ما، وعندها يكون هذا هو الشيء الوحيد الذي يقف بينك وبين التخمين.
التعامل بالثقة ينتمي هنا أيضًا. يجب أن يشتمل سير العمل على مسار واضح لحالات الثقة المنخفضة - لشخص مسمى أو قائمة انتظار، وليس بشكل صامت لأفضل تخمين. وضع الفشل الذي تريده هو "لقد حدث هذا للإنسان"، وليس "لقد حدث خطأ ولم يلاحظ أحد لمدة ثلاثة أسابيع".
تعرف على مكان تشغيل النموذج وما يحتفظ به
اطرح ثلاثة أسئلة على أي مزود: أين تتم معالجة البيانات، وهل يتم الاحتفاظ بها، وهل يتم استخدامها للتدريب. تختلف الإجابات بشكل كبير بين المنتجات الاستهلاكية ومستويات الأعمال لنفس البائع، وبين عمليات النشر المستضافة والخاصة. بالنسبة للبيانات المنظمة، فإن اختيار النشر - مناطق الاتحاد الأوروبي، أو الاستضافة الخاصة، أو النماذج المفتوحة ذاتية الاستضافة - هو قرار امتثال، وليس تفضيلًا.
يعتبر رأي المجلس الأوروبي لحماية البيانات بشأن نماذج الذكاء الاصطناعي هو المرجع الذي يستحق القراءة قبل الالتزام بالهندسة المعمارية؛ وهو يغطي متى تتضمن مخرجات النموذج وبيانات التدريب التزامات حماية البيانات على الإطلاق.
ما لا تستطيع الضوابط الفنية فعله
كل ما ورد أعلاه يقلل من المخاطر. ولا يشكل أي منها أساسًا قانونيًا للمعالجة، أو صياغة إشعار الخصوصية الخاص بك، أو تحديد ما إذا كان تقييم تأثير حماية البيانات مطلوبًا، أو تسوية مسؤولياتك كمراقب أو معالج. يعتمد ذلك على حالة الاستخدام المحددة لديك والأطراف المعنية، ويحتاجون إلى مراجعة قانونية وليس مراجعة هندسية. الضوابط الجيدة تجعل تلك المراجعة واضحة ومباشرة؛ لا يحل محله.
ناقش سير عملك