الحكومات والمراقبون في جميع أنحاء العالم مرارا وتكرارا مخاوف بشأن القوة الاحتكارية لشركات التكنولوجيا الكبرى والدور الذي تلعبه الشركات في نشر المعلومات المضللة. وردا على ذلك، حاولت شركات التكنولوجيا الكبرى استباق القواعد التنظيمية من خلال تنظيم نفسها .
مع إعلان فيسبوك أن مجلس الرقابة التابع لها سيتخذ قرارًا بشأن ما إذا كان بإمكان الرئيس السابق دونالد ترامب استعادة الوصول إلى حسابه بعد أن قامت الشركة بتعليقه، فإن هذه الخطوة وغيرها من التحركات البارزة التي اتخذتها شركات التكنولوجيا لمعالجة المعلومات المضللة قد أعادت إشعال الجدل حول ماهية المسؤولية الذاتية. - ينبغي أن يبدو التنظيم من قبل شركات التكنولوجيا.
تُظهر الأبحاث ثلاث طرق رئيسية يمكن أن يعمل بها التنظيم الذاتي لوسائل التواصل الاجتماعي: تقليل أولوية المشاركة، وتصنيف المعلومات الخاطئة، والتحقق من دقة التعهيد الجماعي.
عدم إعطاء الأولوية للمشاركة
تم تصميم منصات وسائل التواصل الاجتماعي للتفاعل المستمر ، وتقوم الشركات بتصميم الخوارزميات التي تختار المنشورات التي يراها الأشخاص للحفاظ على تفاعل المستخدمين. تظهر الدراسات أن الأكاذيب تنتشر بشكل أسرع من الحقيقة على وسائل التواصل الاجتماعي ، غالبًا لأن الناس يجدون الأخبار التي تثير المشاعر أكثر جاذبية ، مما يزيد من احتمالية قراءتهم لهذه الأخبار والتفاعل معها ومشاركتها. يتم تضخيم هذا التأثير من خلال التوصيات الخوارزمية. عملي الخاص أن الأشخاص يتفاعلون مع مقاطع فيديو YouTube حول مرض السكري في كثير من الأحيان عندما تكون مقاطع الفيديو أقل إفادة.
معظم منصات شركات التكنولوجيا الكبرى أيضًا بدون حراس البوابات أو المرشحات التي تحكم المصادر التقليدية للأخبار والمعلومات. إن مخزونهم الهائل من البيانات الديموغرافية الدقيقة والمفصلة يمنحهم القدرة على "الاستهداف الدقيق" لأعداد صغيرة من المستخدمين . وهذا، إلى جانب التضخيم الخوارزمي للمحتوى المصمم لتعزيز المشاركة، يمكن أن يكون له مجموعة من العواقب السلبية على المجتمع، بما في ذلك قمع الناخبين الرقميين ، واستهداف الأقليات للتضليل واستهداف الإعلانات التمييزية .
إن إلغاء إعطاء الأولوية للمشاركة في توصيات المحتوى يجب أن يقلل من تأثير وسائل التواصل الاجتماعي ، حيث ينظر الأشخاص إلى منشور بعد آخر، والفيديو بعد الفيديو. التصميم الخوارزمي لمنصات التكنولوجيا الكبرى الأولوية للمحتوى الجديد والموجه بدقة، وهو ما يعزز انتشار المعلومات الخاطئة دون رادع تقريبا. وقد لخص تيم كوك، الرئيس التنفيذي لشركة أبل، المشكلة مؤخراً قائلاً : "في لحظة انتشار المعلومات المضللة ونظريات المؤامرة التي تغذيها الخوارزميات، لم يعد بإمكاننا أن نغض الطرف عن نظرية التكنولوجيا التي تقول إن كل التفاعل هو تفاعل جيد - وكلما طالت المدة كان ذلك أفضل - وكل ذلك بهدف جمع أكبر قدر ممكن من البيانات.
تسمية معلومات خاطئة
يمكن لشركات التكنولوجيا أن تتبنى نظام تصنيف المحتوى لتحديد ما إذا كان قد تم التحقق من الخبر أم لا. خلال الانتخابات، أعلن تويتر عن سياسة النزاهة المدنية التي بموجبها لن توصي خوارزمياته . تظهر الأبحاث أن وضع العلامات يعمل. تشير الدراسات إلى أن تطبيق التصنيفات على المشاركات من وسائل الإعلام التي تسيطر عليها الدولة ، مثل القناة الإعلامية الروسية RT، يمكن أن يخفف من آثار المعلومات الخاطئة.
في إحدى التجارب، قام الباحثون بتعيين عمال مؤقتين مجهولين لتصنيف المشاركات الجديرة بالثقة . تم عرض المنشورات لاحقًا على فيسبوك مع ملصقات توضيحية من قبل العاملين في التعهيد الجماعي. في تلك التجربة، تمكن العاملون في مجال الحشود من مختلف الأطياف السياسية من التمييز بين المصادر الرئيسية ومصادر الأخبار الحزبية أو المزيفة، مما يشير إلى أن الحشود غالبا ما تقوم بعمل جيد في معرفة الفرق بين الأخبار الحقيقية والمزيفة.
التجارب أيضًا أن الأفراد الذين لديهم بعض التعرض لمصادر الأخبار يمكنهم بشكل عام التمييز بين الأخبار الحقيقية والمزيفة. تجارب أخرى أن تقديم تذكير حول دقة المنشور يزيد من احتمالية مشاركة المشاركين لمنشورات دقيقة أكثر من المشاركات غير الدقيقة.
وفي عملي الخاص، قمت بدراسة كيف يمكن استخدام مجموعات من المعلقين البشريين، أو مشرفي المحتوى، وخوارزميات الذكاء الاصطناعي ــ ما يشار إليه بذكاء الإنسان في الحلقة ــ لتصنيف مقاطع الفيديو المرتبطة بالرعاية الصحية على موقع يوتيوب . في حين أنه ليس من الممكن أن يشاهد المتخصصون الطبيون كل مقطع فيديو على اليوتيوب عن مرض السكري، فمن الممكن أن يكون هناك طريقة بشرية لتصنيف المرض. على سبيل المثال، قمت أنا وزملائي بتعيين خبراء متخصصين لتقديم تعليقات إلى خوارزميات الذكاء الاصطناعي، مما يؤدي إلى تقييمات أفضل لمحتوى المنشورات ومقاطع الفيديو.
وقد استخدمت شركات التكنولوجيا بالفعل مثل هذه الأساليب. يستخدم فيسبوك مجموعة من أدوات تدقيق الحقائق وخوارزميات اكتشاف التشابه لفحص المعلومات الخاطئة المتعلقة بفيروس كورونا (COVID-19). الخوارزميات التكرارات والنسخ القريبة من المنشورات المضللة.
الإنفاذ على أساس المجتمع
أعلن تويتر مؤخرًا عن إطلاق منتدى مجتمعي بعنوان Birdwatch لمكافحة المعلومات الخاطئة. على الرغم من أن تويتر لم يقدم تفاصيل حول كيفية تنفيذ ذلك، فإن آلية التحقق المستندة إلى الجمهور والتي تضيف أصواتًا لأعلى أو لأسفل للمشاركات الشائعة واستخدام خوارزميات ملف الأخبار لخفض تصنيف المحتوى من مصادر غير جديرة بالثقة يمكن أن تساعد في تقليل المعلومات الخاطئة.
الفكرة الأساسية مشابهة لنظام المساهمة بالمحتوى في ويكيبيديا ، حيث يقوم المتطوعون بتصنيف ما إذا كانت المنشورات الشائعة حقيقية أم مزيفة. ويتمثل التحدي في منع الأشخاص من التصويت لصالح محتوى مثير للاهتمام ومقنع ولكن لم يتم التحقق منه، لا سيما عندما تكون هناك جهود متعمدة للتلاعب بالتصويت . يستطيع الناس التلاعب بالأنظمة من خلال العمل المنسق ، كما في حلقة ضخ المخزون الأخيرة من موقع GameStop .
وتتمثل مشكلة أخرى في كيفية تحفيز الناس على المشاركة طوعا في جهد تعاوني مثل الكشف عن الأخبار المزيفة بالاستعانة بمصادر خارجية. ومع ذلك، تعتمد مثل هذه الجهود على متطوعين يقومون بتعليق دقة المقالات الإخبارية ، على غرار ويكيبيديا، وتتطلب أيضًا مشاركة منظمات خارجية لتدقيق الحقائق والتي يمكن استخدامها لاكتشاف ما إذا كان أحد الأخبار مضللاً.
ومع ذلك، يحتاج النموذج على غرار ويكيبيديا إلى آليات قوية لإدارة المجتمع لضمان اتباع المتطوعين الأفراد لإرشادات متسقة عند التحقق من صحة المنشورات والتحقق منها. قامت ويكيبيديا مؤخرًا بتحديث معايير مجتمعها خصيصًا لوقف انتشار المعلومات الخاطئة . أما ما إذا كانت شركات التكنولوجيا الكبرى ستسمح طوعا بمراجعة سياساتها الخاصة بالإشراف على المحتوى بكل شفافية فهي مسألة أخرى.
[ احصل على أفضل قصص العلوم والصحة والتكنولوجيا. اشترك في النشرة الإخبارية العلمية للمحادثة .]
مسؤوليات شركات التكنولوجيا الكبرى
في نهاية المطاف، يمكن لشركات وسائل التواصل الاجتماعي استخدام مزيج من عدم تحديد أولويات المشاركة، والشراكة مع المؤسسات الإخبارية، والذكاء الاصطناعي واكتشاف المعلومات الخاطئة من خلال التعهيد الجماعي. ومن غير المرجح أن تعمل هذه الأساليب بمعزل عن غيرها، بل يجب تصميمها للعمل معًا.
إن الإجراءات المنسقة التي تيسرها وسائل التواصل الاجتماعي من الممكن أن تعطل المجتمع، من الأسواق المالية إلى السياسة . تلعب منصات التكنولوجيا دورًا كبيرًا إلى حد غير عادي في تشكيل الرأي العام، مما يعني أنها تتحمل مسؤولية أمام الجمهور في حكم نفسها بشكل فعال.
تتزايد الدعوات إلى التنظيم الحكومي لشركات التكنولوجيا الكبرى في جميع أنحاء العالم، بما في ذلك في الولايات المتحدة، حيث أظهر استطلاع للرأي أجرته مؤسسة غالوب مؤخرا تدهور المواقف تجاه شركات التكنولوجيا وزيادة الدعم للتنظيم الحكومي. الألمانية الجديدة بشأن الإشراف على المحتوى مسؤولية أكبر على عاتق شركات التكنولوجيا فيما يتعلق بالمحتوى الذي تتم مشاركته على منصاتها. ومن شأن عدد كبير من اللوائح التنظيمية في أوروبا التي تهدف إلى الحد من حماية المسؤولية التي تتمتع بها هذه المنصات واللوائح التنظيمية المقترحة في الولايات المتحدة والتي تهدف إلى إعادة هيكلة قوانين الإنترنت أن تؤدي إلى قدر أكبر من التدقيق في سياسات الإشراف على المحتوى الخاصة بشركات التكنولوجيا.
من المحتمل أن يكون هناك شكل من أشكال التنظيم الحكومي في الولايات المتحدة. لا تزال شركات التكنولوجيا الكبرى لديها الفرصة للانخراط في التنظيم الذاتي المسؤول - قبل أن يضطر المشرعون إلى التصرف.
أنجانا سوسارلا ، أستاذة أومورا ساكسينا للذكاء الاصطناعي المسؤول، جامعة ولاية ميشيغان
تم إعادة نشر هذه المقالة من The Conversation بموجب ترخيص المشاع الإبداعي. إقرأ المقال الأصلي .
