"إنستغرام" تتجه إلي الذكاء الصناعي لمنع التعليقات الهجومية

أعلنت منصة مشاركة الصور “إنستغرام” المملوكة لشركة "فيسبوك" الخميس، عن بدء طرحها لمرشح جديد من شأنه منع التعليقات الهجومية وغير المرغوب بها في حال قام المستخدم بتشغيل ذلك المرشح، ويتماشى ذلك مع تكثف المنصة من جهودها في سبيل حماية مستخدميها من المحتوى غير المرغوب فيه.

ونشر الرئيس التنفيذي والمؤسس المشارك لشركة “إنستغرام” كيفن سيستروم، عبر تدوينة نشرها على موقع الشركة “اعتمدنا على تقنيات الذكاء الصناعي والتعلم الآلي من أجل توفير المرشح الجديد، وهو أحدث أدواتنا للحفاظ على منصتنا وجعلها مكاناً آمناً، وقد عمل فريقنا على تدريب أنظمتنا لبعض الوقت للتعرف على أنواع معينة من التعلقيات المسيئة والرسائل غير المرغوب فيها حتى لا يضطر المستخدمين إلى رؤيتها”، وأضاف :" لقد أخبرنا العديد من المستخدمين بأن التعليقات السامة تمنعهم من الاستمتاع بـ”إنستغرام” والتعبير عن أنفسهم بحرية، ونحن نعتقد ان استعمال الذكاء الصناعي وتقنيات تعلم الآلة لبناء أدوات لحماية التعبير عن الذات هو خطوة هامة في تعزيز وتوفير مجتمعات أكثر شمولًا وأدبًا، ويعتبر عملنا بعيد عن الكمال إلا أننا نأمل أن نساعدكم على الشعور بالأمان ضمن المنصة”.

ويمكن الوصول إلى ذلك المرشح عن طريق الانتقال إلى إعدادات التعليقات من خلال النقر على قائمة الإعدادات ضمن ملف التعريف الشخصي والانتقال للأسفل للنقر على التعلقيات ومن ثم تبديل خيار “إخفاء التعليقات المسيئة”، وتعمل المنصة بعد ذلك على إخفاء التعليقات المزعجة تلقائياً، ويتوفر هذا الحل حالياً للغة الإنجليزية وتخطط الشركة لتوسيعه إلى المزيد من اللغات في المستقبل، في حين تظهر التعلقات العادية بشكل طبيعي عند تشغيل المرشح وكما تظهر عادةً، بحيث لا يعمل المرشح على منع أي تعليقات عادية يرغب المستخدم بمشاهدتها، ويمكن للمستخدمين الإبلاغ عن أي تعليقات مسيئة تتجاوز عملية التصفية أو حذف تعليقات محددة يدويًا أو تعطيل التعليقات بشكل كامل على مشاركات معينة.

وعملت المنصة خلال الخريف الماضي على إدخال خيار يتيح للمستخدمين تصفية التعلقات استنادًا إلى مجموعة من الكلمات التي يخاروها أو عبر قائمة افتراضية للمصطلحات التي غالبًا ما يتم الإبلاغ عنها على انها غير ملائمة للظهور، وبحسب المنصة فإن مرشح التعلقيات الهجومية الجديد يتجاوز ذلك بحيث انه آلي ويستعمل تقنيات التعلم الآلي، بينمت يعمل المرشح الجديد على البحث عن أي كلمات أو عبارت غير مرغوب فيها ضمن التعليقات، بحيث يعمل على مسحها من التدوينات ومقاطع فيديو البث المباشر، كما يعمل المرشح الجديد على إزالة الكلمات والعبارات المسيئة غير المرغوب فيها المكتوبة باللغة الإنجليزية والإسبانية والبرتغالية والعربية والفرنسية والألمانية والروسية واليابانية والصينية.