في شركة مثل فيسبوك لديها مليارات المستخدمين من كافة ارجاء العالم، تحتاج الى عدد كبير من الموظفين للقيام بالمهام الوظيفية اليومية، خصوصا مراقبة المنشورات والتعليقات و الحسابات المخالفة لمعايير استخدام الفيسبوك. لحل هذه المشكلة يقوم فيسبوك بانشاء نظام ذكاء صناعي للقيام بمهام المشرفين، يساعد نظام الذكاء الصناعي ليس فقط في تقليل عدد المشرفين داخل فيسبوك، بل ايضا في عمليات السرعة في اتخاذ القرار.
أعلن فيسبوك عن تكنولوجيا ذكاء صناعي جديد بمبدأ تعلم الألة، مختصة في ترتيب التبليغات التي تصل الى المشرفين. قبل شرح هذا النظام لنأخذ نظرة كيف يعمل مشرفين الفيسبوك!
المنشروات و التعليقات التي قد تخالف معاير الاستخادم ( شتائم ، نشجيع على العنف ، المنشروات والتعليقات العشوائية .. الخ ) يتم الكشف عنها بطريقتين:
الاولى: كشف تلقائي عن طريق نظام فلترة الفيسبوك، تشاهد الكثير من المستخدمين يتعمدون كتابة بعض الكلمات بطريقة زخرفة أو نقاط بين الكلمات، اعتقادا منهم ان هذه طريقة لتخطي نظام كشف الفيسبوك. هنا أود الاشارة الى ان نظام الفيسبوك يعمل على مبدأ تعلم الألة، لذلك ان كانت احدى طرق الكتابة قد تتخظى نظام فلترة الفيسبوك فهي مسألة وقت حتى يتم الكشف عنها وبعدها اتخاذ الاجراء المناسب من قبل النظام.
الثانية: تبليغات المستخدمين، هنا أود الاشارة الى ان هناك مفاهيم خاطئة لدى العديد من المستخدمين، اهمها اعتقاد ان عدد التبليغات يعمل على حظر حساب او حذف منشور، فهذا مفهوم خاطئ، عند عمل تبليغ معين يتم ارساله الى مشرفين الفيسبوك، الذين بدورهم يراجعون التبليغ ان كان مخالف لمعايير النشر داخل الفيسبوك أم لا، وبعدها اتخاذ الاجراء المناسب. لدى فيسبوك اكثر من 15 الف مشرف من كافة ارجاء العالم، حيث تعرض فيسبوك الى انتقادات عديدة سابقا بسبب المهام المتعبة جدا التي تعطى للمشرفين خصوصا من فرز التبليغات واتخاذ قرار بشأنها. لمعرفة المزيد حول الصدمة التي قد يعاني منها مشرف الفيسبوك https://youtu.be/bDnjiNCtFk4
قديما كان المشرفون يقومون بالتعامل مع التبليغات حسب طريقه وصولها الزمني، بمعنى انه قد يصادف موظف الفيسبوك مثلا 100 تبليغ غير مخالف لمعايير الفيسبوك، في حين ان التبليغ رقم 101 يكون مخالف لمعايير الفيسوك، هنا التبليغ المخالف يبقى داخل الفيسبوك لفترة زمنية طويلة لغاية ما يتم مراجعته حسب التسلسل الزمني في وصول التبليغات (لغاية وصول دور مراجعته).
حاليا فيسبوك يقول أن نظام الذكاء الصناعي الخاص بفرز التبليغات يعمل على اعادة ترتيب التبليغات بدلا من الوصول الزمني الى ترتيب يشمل معايير مختلفة منها مدى انتشارها ، مدى خطورتها ، احتمالية انتهاكها للقواعد و الشروط. وهذا الترتيب يعطي افضلية لوصول التبليغات الاكثر اهمية للمشرف عن التبليغات التي يعتقد انها لا تشكل خطرا داخل الفيسبوك.
ناظم التبليغ القديم لمشرفين الفيسبوك
تسلسل سير عمل التبليغات لموظفين الفيسبوك
فيسبوك لم يوضح كيف يتم توزيع الاوزان بالنسبة لمعايير ترتيب التبلغيات، لكن فيسبوك يقول أن الهدف هو التعامل مع المنشورات التي تشكل ضررا اكبر أولا. مثلا في حال كان المنشور اكثر انتشارا بين المستخدمين ( مشاركة ، تعليق ، اعجاب .. ) يصبح ترتيب التبليغ عنه أولا بين تبليغات المنشورات الأخرى.
يضيف فيسبوك انه يعمل على ترتيب المنشورات التي تشكل ضرر حقيقي على انها الأكثر أهمية، قد يتضمن ذلك المحتوى الذي يحتوي استغلال الاطفال، أو الأرهاب أو إيذاء النفس. في نفس الوقت يتم تصنيف المنشورات العشوائية (السبام) على انها اقل ضررا.
شارك فيسبوك مسبقا بعض التفاصيل التي تتعلق بطريقة تحليل نظام الالة للمنشورات سابقا، تتضمن هذه الانظمة نموذجا يسمى WPIE وهو يرمز الى عملية دمج المنشور بالكامل whole post integrity embeddings والتي تأخذ ما يسمى النهج الشامل في تقييم المحتوى.
هذا يعني ان الخوارزميات تحكم على المحتوى من خلال عدة عناصر مختلفة داخل المحتوى، لمعرفة ما تحتويه (الصورة ، العنوان ، نص المنشور .. الخ) .
فيسبوك يتجه الى اتخاذ نظام الذكاء الصناعي في اغلب أنظمته، لكن يبقى الذكاء الصناعي يفتقر الى قدرة الانسان في الحكم. خصوصا المحتوى الذي يحتوي معلومات مضللة او المضايقات. قد يكون من شبه المستحيل على البرمجية ان تحدد مثل هذه المنشورات. شخصيا اتوقع ان فيسبوك سيدرج الذكاء الصناعي لاتخاذ قرارات في امورة نسبة دقتها 100% . مثلا عند كتابة كلمات بذيئة واضحة لنظام الذكاء الصناعي .
اخيرا، اود الاشارة هنا الى أن فيسبوك لا يتساهل مع المنشورات والتعليقات المخالفة لمعايير الاستخدام و الحسابات الوهيمة، فمثلا تعليق مسيئ واحد كفيل بتعطيل حسابك للأبد.
لا تنسى مشاركة المقالة مع اصدقائك..
للبقاء على تواصل واطلاع : http://shreateh.net/links