“قد تكون المعلومات المذكورة في هذا البيان الصحفي حساسة للبعض.”

• إن البحوث التقنية التي أجريت بالشراكة مع معهد الشفافية الخوارزمية ومنظمة آي أي فورنسيكس باستخدام الحسابات الآلية أظهرت أنه بعد قضاء 5 إلى 6 ساعات على المنصة، كان مقطع فيديو واحد تقريبًا من كل مقطعَيْن مرتبطًا بالصحة العقلية ومن المحتمل أن يكون ضارًا، أي ما يقارب 10 أضعاف الحجم المعروض للحسابات غير المهتمة بالصحة العقلية.
• أصبح تأثير “المتاهة” أسرع عندما أعاد الباحثون يدويًا مشاهدة مقاطع الفيديو المتعلقة بالصحة العقلية المقترحة على الحسابات التجريبية التي تحاكي المستخدمين البالغين من العمر 13 عامًا في الفلبين وكينيا والولايات المتحدة الأمريكية.
• بعد مرور ما بين 3 إلى 20 دقيقة من البحث اليدوي، كان أكثر من نصف مقاطع الفيديو في صفحة ‘فور يو’ مرتبطًا بالصراعات المتعلقة بالصحة العقلية، وكان العديد من مقاطع الفيديو الموصى بها في ساعة واحدة يضفي طابعًا رومانسيًا على الانتحار أو يطبّعه أو يشجّع عليه.
• إن نموذج عمل تيك توك مسيء بطبيعته ويمنح امتيازات المشاركة لإبقاء المستخدمين على المنصة، من أجل جمع المزيد من البيانات عنهم. إنه يطبق أشكال الحماية بشكل غير متساو على المستخدمين حول العالم.

يُظهر تقريران مكمِّلان أصدرتهما اليوم منظمة العفو الدولية أن نظام التوصيات الخاص بالمحتوى على منصة تيك توك وممارساتها المنتهكة للخصوصية في جمع البيانات تشكل خطرًا على المستخدمين الشباب من خلال تضخيم المحتوى المتعلق بالاكتئاب والانتحار، ما يخاطر بتفاقم التحديات المتعلقة بالصحة العقلية القائمة أصلًا.

إنَّ التقريريْن المعنونيْن بـ – “يُدفعون إلى هاوية الظلام: كيف يشجع تيك توك على إيذاء النفس والتفكير الانتحاري“، و“أشعر أنني مفضوح: عالق في شبكة الرقابة العنكبوتية على تيك توك“– يلقيان الضوء علىالانتهاكات التي يتعرض لها الأطفال والشباب الذين يستخدمون تيك توك، ويشيران إلى كيفية تسبُّب نظام التوصيات الخاص بهذا التطبيق ونموذج العمل الذي يستند إليه بهذه الانتهاكات.

وتُظهر نتائج تحقيق تقني مشترك أُجري مع شريكَيْنا – معهد الشفافية الخوارزمية (ATI) في المؤتمر الوطني للمواطَنة (National Conference on Citizenship) ومنظمة آي أي فورنسيكس (AI Forensics) – كيف أن الأطفال والشباب الذين يشاهدون المحتوى المتعلق بالصحة العقلية على صفحة ‘فور يو’ (خاص بك – For You) على تيك توك يتم جذبهم سريعًا إلى “متاهات” من المحتوى الذي يحتمل أن يكون ضارًا، بما في ذلك مقاطع الفيديو التي تضفي طابعًا رومانسيًا وتشجع على التفكير الاكتئابي وإيذاء النفس والانتحار.

وقالت الباحثة في منظمة العفو الدولية ليزا ديتمر: “تفضح نتائج البحث ما تتخلله ممارسات منصة تيك توك من تلاعب وإدمان، فهي مصممة بصورة تهدف إلى الإبقاء على المستخدمين على المنصة لأطول مدة ممكنة. كما تُبيّن أن نظام التوصيات الخوارزمي الخاص بالمحتوى، والمساهم في الظهور العالمي السريع للمنصة، يعرِّض الأطفال والبالغين الشباب الذين يعانون من تحديات متعلقة بالصحة العقلية أصلًا لمخاطر إيذاء جسيمة”.

نظام التوصيات الخوارزمي الخاص بالمحتوى، والمساهم في الظهور العالمي السريع للمنصة، يعرِّض الأطفال والبالغين الشباب الذين يعانون من تحديات متعلقة بالصحة العقلية أصلًا لمخاطر إيذاء جسيمة.

الباحثة في منظمة العفو الدولية ليزا ديتمر

يفصّل التقرير المعنون بـ “يُدفعون إلى هاوية الظلام: كيف يشجع تيك توك على إيذاء النفس والتفكير الانتحاري” كيف أن سعي تطبيق تيك توك، بلا كلل أو ملل، إلى جذب اهتمام المستخدِمين الشباب يخاطر بتفاقم المخاوف المتعلقة بالصحة العقلية، من قبيل الاكتئاب والقلق وإيذاء النفس.

إن صفحة ‘فور يو’ على تيك توك هي صفحة شخصية للغاية ويمكن تصفحها بشكل لا نهائي، وتتضمن محتوى موصى به خوارزميًا اختير ليعكس اهتمامات المستخدم بحسب استنتاج النظام.

أُجري البحث التقني باستخدام ما يزيد على 30 حسابًا آليًا أُعِدَّت لتمثل المستخدمين البالغين من العمر 13 عامًا في كينيا والولايات المتحدة الأمريكية من أجل قياس آثار نظام توصيات تيك توك على المستخدمين صغار السن. وأُجريت محاكاة إضافية يدوية شملت حسابًا في كل من الفلبين وكينيا والولايات المتحدة الأمريكية.

وأظهر البحث التقني أنه بعد قضاء 5 إلى 6 ساعات على منصة تيك توك، كان مقطع فيديو واحد تقريبًا من كل مقطعَيْن مرتبطًا بالصحة العقلية ومن المحتمل أن يكون ضارًا، أي ما يقارب 10 أضعاف الحجم المعروض للحسابات غير المهتمة بالصحة العقلية.

وأصبح تأثير “المتاهة” أسرع عندما أعاد الباحثون يدويًا مشاهدة مقاطع الفيديو المتعلقة بالصحة العقلية المقترحة للحسابات التجريبية التي تحاكي المستخدمين البالغين من العمر 13 عامًا في الفلبين وكينيا والولايات المتحدة الأمريكية.

بعد مرور ما بين 3 إلى 20 دقيقة من البحث اليدوي، كان أكثر من نصف مقاطع الفيديو في صفحة ‘فور يو’ مرتبطًا بالصراعات المتعلقة بالصحة العقلية، وكان العديد من مقاطع الفيديو الموصى بها في ساعة واحدة يضفي طابعًا رومانسيًا على الانتحار أو يطبّعه أو يشجّع عليه.

إنَّ مناقشات مجموعات التركيز والمقابلات والحسابات التي تحاكي حسابات الأطفال في الفلبين وكينيا والولايات المتحدة الأمريكية، بالإضافة إلى الأدلة المتوفرة المستقاة من البحوث المتعلقة بأضرار وسائل التواصل الاجتماعي والصحة العامة، تُظهر أن تصميم منصة تيك توك يشجع على الاستخدام غير الصحي للتطبيق.

عندما أشاهد فيديو حزينًا يمكن أن يعنيني، فجأةً تصبح صفحة ‘فور يو’ بأكملها حزينة، وأصبحُ في “Sadtok” (القسم الحزين من تيك توك). إنه أمر يؤثر على حالتي الشعورية.

فرانسيس، طالب عمره 18 عامًا في مقاطعة باتانغاس بالفلبين

* لويس، طالب جامعي من مانيلا عمره 21 عامًا، تم تشخيص إصابته باضطراب ثنائي القطب، تحدَّث لمنظمة العفو الدولية عن تجربته مع صفحة ‘فور يو’ على تيك توك:

“إنها متاهة لأنها تبدأ بفيديو واحد فقط. وإذا تمكَّن فيديو واحد من جذب انتباهك، حتى لو لم يعجبك، فإنه يظهر في وجهك عندما تفتح تطبيق تيك توك في المرة التالية. ونظرًا لأنه يبدو مألوفًا لديك، فإنك تشاهده مرة أخرى، وبعد ذلك ترتفع وتيرة تكراره على نحو أسرع خلال تصفحك”.

 *قال فرانسيس، وهو طالب عمره 18 عامًا في مقاطعة باتانغاس بالفلبين: “عندما أشاهد فيديو حزينًا يمكن أن يعنيني، فجأةً تصبح صفحة ‘فور يو’ بأكملها حزينة، وأصبحُ في “Sadtok” (القسم الحزين من تيك توك). إنه أمر يؤثر على حالتي الشعورية”.

وأوضح مشارك آخر في إحدى مجموعات التركيز قائلًا: “إن المحتوى الذي أراه يجعلني أبالغ في التفكير أكثر فأكثر، مثل مقاطع الفيديو التي يكون فيها شخص ما مريضًا أو يشخِّص نفسه بنفسه. يؤثر ذلك على عقليتي ويجعلني أشعر كأنني أعاني من الأعراض نفسها، ويتفاقم قلقي. حتى أنني لا أبحث عنها (مقاطع الفيديو)، بل هي تظهر خلال تصفحي”.

* وقالت جويس، وهي امرأة في الفلبين عمرها 21 عامًا: “لقد حذفته [تيك توك] لفترة لأنني كنت مدمنة جدًا عليه… كنت أقضي ساعات عدة على تيك توك وأنا أنتقل من مقطع فيديو إلى آخر، لأن المرء لا يستطيع ألا يترقُّب ما سيجد تاليًا عندما يمرر الصفحة إلى أسفل”.

وقال أطفال وشباب أُجريت معهم مقابلات في كينيا إنهم شعروا أن استخدام تطبيق تيك توك أثَّر على دراستهم وعلى وقت التواصل الاجتماعي مع أصدقائهم، وقادَهم إلى تصفح التطبيق حتى وقت متأخر من الليل بدلاً من أن يأخذوا قسطًا كافيًا من النوم.

وقد أكَّد هذه الشهادات عدد من علماء نفس المراهقة ممن استشارتهم منظمة العفو الدولية كجزء من البحث.

وفي حين أن الإجابات الفردية للشباب والسياقات التي تؤثر على استخدامهم وسائل التواصل الاجتماعي قد تختلف، وَضَع تيك توك – شأنه شأن منصات وسائل التواصل الاجتماعي الأخرى – تصاميم تهدف إلى إطالة الوقت الذي يقضيه المستخدمون على منصته إلى أقصى حد.

وقالت الباحثة في منظمة العفو الدولية ليزا ديتمر: ” يُظهر بحثنا أن تطبيق تيك توك يمكن أن يعرَّض الأطفال والشباب إلى مخاطر صحية جسيمة بسبب مثابرة التطبيق على نموذج عمله الحالي الموجَّه إلى إدامة تَسمُّر عيونهم على المنصة أكثر من توجُّهه إلى احترام حق الأطفال والشباب في الصحة”.

يُظهر التقرير المُعَنوَن “أشعر أنني مفضوح: عالق في شبكة الرقابة العنكبوتية على تيك توك” كيف أن ممارسات تيك توك في جمع البيانات بطريقة تنتهك الحقوق إنما تدعم ممارسات المشاركة الضارَّة من قبل مستخدميها، بل وتستمد إدامتها منها.

يُظهر بحث منظمة العفو الدولية أن نموذج عمل تيك توك مسيء بطبيعته ويمنح امتيازات المشاركة لإبقاء المستخدمين على المنصة، من أجل جمع المزيد من البيانات عنهم باستمرار. ثم يستخدم تيك توك هذه البيانات لإنشاء ملفات تعريف للمستخدمين واستخلاص استنتاجات عنهم، مما يسمح له بتجميع المستخدمين في مجموعات لاستهدافهم بمحتوى شخصي للغاية للحفاظ على مشاركتهم. يتم أيضًا توفير هذه المجموعات والفئات لأصحاب الإعلانات حتى يتمكنوا من استهداف المستخدمين بإعلانات شخصية.

حتى أن تيك توك وضع سياسات وممارسات لضمان احترام حقوق الطفل بصورة أكبر، ولكنها تختلف من منطقة إلى أخرى، مما يترك الأطفال والشباب في بعض أنحاء العالم عرضة لجمع البيانات التي تنطوي على استغلالهم في مناطق أخرى.

وقالت لورين آرمستيد نائبة مدير برنامج التكنولوجيا في منظمة العفو الدولية في منظمة العفو الدولية: “يستهدف تيك توك المستخدِمين، بمن فيهم الأطفال، من خلال ممارسات أكثر عدوانية لجمع البيانات في أجزاء من العالم حيث يتمتع الأشخاص بحماية أقل لبياناتهم بموجب القوانين والأنظمة المحلية – مما يعني أن الأطفال الذين يعيشون في بلدان لديها أنظمة ضعيفة، ومنها العديد من البلدان التي تضم أغلبية على المستوى العالمي، يتعرضون إلى أسوأ الانتهاكات لحقهم في الخصوصية”.

وأضافت: “يتعين على تيك توك احترام حقوق جميع مستخدميها الأصغر سنًا، وليس في أوروبا فحسب، عن طريق حظر كافة الإعلانات المستهدِفة الموجَّهة إلى الأشخاص دون سن الـ 18 في العالم أجمع”.

كما ينبغي على تيك توك أن يوقف المبالغة في شخصنة مقاطع الفيديو على صفحة ‘فور يو’ تلقائيًا، وبدلاً من ذلك، يجب أن يسمح للمستخدمين باختيار الاهتمامات التي تشكل توصيات المحتوى الخاص بهم بناءً على موافقتهم المستنيرة وما إذا كانوا يريدون مقاطع فيديو شخصية.

وفي الوقت الذي تدعو منظمة العفو الدولية منصة تيك توك إلى اتخاذ هذه الخطوات العاجلة والملحَّة باتجاه وضع نموذج عمل يحترم الحقوق، فإنه ينبغي وضع أنظمة لحماية حقوق الأطفال والشباب والإيفاء بها.

تتمثل أفضل طريقة لحماية الأطفال من إساءة استخدام بياناتهم الشخصية على الإنترنت في فرض الحكومات حظرًا قانونيًا على كافة الإعلانات المستهدِفة المبنيَّة على جمع البيانات الشخصية بطريقة تنتهك الخصوصية.

وردًّا على نتائج بحثنا أحالتْنا شركة تيك توك إلى مبادئ المجتمع التوجيهية للمنصة، التي تحدد أنواع المحتوى المحظورة، والتي إذا تم الإبلاغ عنها أو تحديدها، فإنها تُحذف من المنصة. وتتضمن هذه المبادئ التوجيهية فرض حظر على المحتوى الذي “يُظهر أو يروِّج أو يقدم إرشادات بشأن الانتحار وإيذاء النفس، والتحديات، والجسارة والألعاب والاتفاقيات ذات الصلة”، والذي “يعرض أو يروّج خِدع الانتحار وإيذاء النفس”، والذي “يشارك الخطط المتعلقة بالانتحار وإيذاء النفس”.

وقالت شركة تيك توك إنها تعكف على تطوير “عملية مثابرة واجبة لمراعاة حقوق الإنسان على مستوى الشركة بأسرها، وستتضمن إجراء تقييمات دورية لتأثير حقوق الإنسان”. بيد أن الشركة لم تقدم تفاصيل بشأن ماهية المخاطر المعيّنة على الحقوق الإنسانية للمستخدمين الأطفال والشباب التي حدَّدتها. إن عدم وجود عملية مثابرة واجبة لمراعاة حقوق الإنسان على مستوى الشركة بأسرها لدى تيك توك حتى الآن يعتبر تقاعسًا واضحًا من جانب الشركة عن مسؤوليتها عن احترام حقوق الإنسان.

إن كلا التقريريْن يضيفان إلى الأدلة التي أوردتْها منظمة العفو الدولية في تقاريرها البحثية السابقة. فقد فضح التقرير المعنون بـ “عمالقة الرقابة“ أن نموذج عمل فيسبوك وغوغل بطبيعته لا يتوافق مع الحق في الخصوصية، ويشكِّل تهديدًا لمجموعة من الحقوق الأخرى، ومن بينها الحق في حرية الرأي والتعبير، وحرية الفكر، والحق في المساواة وعدم التمييز.

ويُظهر تقريرا منظمة العفو الدولية:

“ميانمار: الفظائع الاجتماعية: ميتا والحق في الإنصاف لجماعة الروهينغيا؛ و” إثيوبيا: إخفاقات ميتا أسهمت في الانتهاكات التي تعرَّض لها مجتمع تيغراي خلال النزاع  في شمال إثيوبيا“، كيف أنَّ نموذج عمل منصة فيسبوك المبني على المشاركة يمكن أن يُحدث آثارًا مدمرة عبر تضخيم المحتوى المتطرف الذي يحرض على العنف والكراهية والتمييز، مما يسهم بالتالي في ارتكاب انتهاكات جسيمة لحقوق الإنسان.

إن هذه التقارير، مجتمعةً، تُسهم في قاعدة الأدلة المتنامية للحملة العالمية لمنظمة العفو الدولية من أجل مساءلة الشركات، وإنصاف ضحايا انتهاكات حقوق الإنسان المرتبطة بنموذج عمل شركات ميتا وغوغل وتيك توك وغيرها من منصات شركات التكنولوجيا الكبرى.