أعلنت شركة "غوغل"، أمس الثلاثاء عن برنامج جديد يعتمد على الذكاء الصناعي، مصمم خصيصًا لكشف المحتوى المسيء إلى الأطفال ، في خطوة منها إلى تجنت الضغوط المتزايدة من الحكومات لمعالجة محتوى الويب التي كان آخرها خطاب وزير داخلية بريطانيا ساجد جاويد، الذي طالب جميع شركات التقنية للعمل أكثر ، للحد من انتشار المحتوى السيئ على منصاتهم  ، وعلى الرغم من أن إزالة المواد المسيئة للأطفال يعتبر أولوية بالنسبة للشركات الكبرى، فإن هذه العملية ليست سهلة التطبيق ، فهي تعتمد في الأساس على البلاغات التي تستقبلها المواقع من المستخدمين العاديين أو على بعض الحلول التقنية كبرنامج "فوتو دي إن إيه " PhotoDNA من "مايكروسوفت"، الذي يقوم بفرز الصور التي تم وضع علامة عليها بأنها مسيئة.

وستوفر "غوغل" هذه الأداة الجديدة مجانًا للشركات والمؤسسات المتخصصة في مراقبة المواد المسيئة للأطفال لتساعد المشرفين البشر في عملية فرز الصور ومقاطع الفيديو، بحيث تقوم الأداة بتحديد أولويات المحتوى الأكثر احتمالاً في هذه الفئة لتسريع عملية المراجعة ، مما يؤدي في النهاية إلى إزالة الصور بشكل أسرع ، و نشرت "غوغل" نتائج تجربتها مع إحدى هذه الشركات، حيث استطاع مشرفوها إزالة المحتوى المسيء بشكل أسرع بنسبة 700 في المائة، مقارنة بالاعتماد فقط على العنصر البشري لفرز المحتوى.

و كشف أن المحتوى المسيء للأطفال يؤثر على واحدة من كل أربع فتيات وواحد من كل 20 صبيًا في الولايات المتحدة وفقاً لمنظمة "كوميتي فور تشيلدرين" الأميركية، كما أفادت وكالة الجريمة الوطنية البريطانية أخيرًا بأن عدد حالات الإبلاغ عن المحتوى السيئ كان أكثر بـ7 مرات في عام 2017 مقارنة بعام 2012
وأكدت "غوغل"، أنها استثمرت كثيراً في مجال تكنولوجيا الكشف عن المحتوى المسيء، وستواصل القيام بذلك من أجل جعل الإنترنت أكثر أمانًا للناس في جميع أنحاء العالم ،و ستعمل الشركة أيضًا على تحسين تقنيات الذكاء الصناعي التي تستخدم الشبكات العصبية العميقة لمعالجة الصور ومقاطع الفيديو من دون الاعتماد على قواعد بيانات قديمة لكي تزيل العبء من كاهل المشرفين، وتوكل هذه المهمة إلى أجهزة الكومبيوتر القادرة على فرز المحتوى بطريقة أسرع وأكثر فاعلية.