یافته‌های بی‌بی‌سی نشان می‌دهد اینستاگرام در هند آگهی‌های تبلیغ‌کننده محتوای آزار جنسی کودکان منتشر کرده است

هشدار: این گزارش شامل توصیف‌هایی آزاردهنده از سوءاستفاده است

یک گزارش تحقیقی بی‌بی‌سی نشان می‌دهد که اینستاگرام در هند آگهی‌های تبلیغاتی پولی برای تبلیغ محتوای سوءاستفاده جنسی از کودکان نمایش داده است.

این آگهی‌ها، که سرویس جهانی بی‌بی‌سی آنها را دیده است، از عباراتی از جمله «ویدیوی تجاوز» و «ویدیوی کودک» استفاده می‌کنند و کاربران را به کانال‌هایی در پیام‌رسان تلگرام هدایت می‌کنند. در این کانال‌ها، کاربران می‌توانند این محتوا را به قیمت تنها ۹۹ روپیه، حدود ۱ دلار، بخرند.

به گفته یک مقام ارشد، پس از انتشار این گزارش تحقیقی، دولت هند به متا، شرکت مادر اینستاگرام، دستور داد این آگهی‌ها را فورا غیرفعال کند و از این شرکت خواست ظرف یک هفته توضیح دهد که چگونه اجازه انتشار چنین آگهی‌هایی در این پلتفرم داده شده است.

آگهی‌ها در اینستاگرام تنها پس از آن منتشر می‌شوند که ابتدا با فناوری بازبینی محتوای این پلتفرم تائید شده باشند.

وقتی بی‌بی‌سی یکی از این آگهی‌ها را به اینستاگرام گزارش داد، این شبکه اجتماعی ۲۴ ساعت بعد پاسخ داد که این پست با «دستورالعمل‌های اجتماعی» اینستاگرام مغایرت ندارد.

بعدتر، وقتی بی‌بی‌سی از متا، شرکت مادر اینستاگرام، درخواست اظهارنظر کرد، این شرکت گفت پیش‌تر چند آگهی را غیرفعال و حساب‌هایی را که این آگهی‌ها را منتشر کرده بودند، تعلیق کرده است. متا گفت در واکنش به یافته‌های بی‌بی‌سی، آگهی‌های بیشتری را حذف کرده، حساب‌های بیشتری را غیرفعال کرده و نشانی‌های اینترنتی مربوط به دیگر محتواهایی را که سیاست‌های این شرکت را نقض می‌کردند، مسدود کرده است.

تلگرام گفت در سال ۲۰۲۶ بیش از ۲۷۴ هزار گروه و کانال مرتبط با محتوای سوءاستفاده جنسی از کودکان را حذف کرده است.

بی‌بی‌سی پس از آنکه متوجه شد این پلتفرم حتی وقتی کاربر چنین محتوایی را جست‌وجو نکرده است، محتوای جنسی و تحریک‌آمیز را به او پیشنهاد می‌دهد، یک حساب کاربری با نام مستعار در اینستاگرام ایجاد کرد.

از جمله این موارد، پست‌هایی از زنانی بود که درباره غذا، آب‌وهوا و زندگی روزمره در هند می‌نوشتند، اما لباس‌های بدن‌نما می‌پوشیدند و در پست‌های خود از اشاره‌های جنسی استفاده می‌کردند.

حساب کاربری جدید، که در هند ایجاد شده بود، برای بررسی محتوایی با مضامین جنسی در این پلتفرم، این زنان و چند حساب مشابه دیگر را دنبال کرد. شمار این حساب‌ها در مجموع ۱۰ حساب بود.

چند روز بعد، اینستاگرام شروع به نمایش آگهی‌هایی کرد که کودکان را همراه با بزرگسالان در وضعیت‌هایی نشان می‌دادند که معنای جنسی القا می‌کرد و کاربران را از طریق لینک‌هایی به کانال‌های تلگرام هدایت می‌کردند.

در مجموع، حدود ۳۰ آگهی منحصربه‌فرد برای تبلیغ محتوای آزار جنسی کودکان مشاهده شد، هرچند برخی از این آگهی‌ها از سوی چندین حساب کاربری مختلف منتشر شده بودند.

این حساب کاربری آزمایشی همچنین با حدود ۲۰ آگهی حاوی محتوای پورنوگرافی بزرگسالان نیز مواجه شد.

انتشار محتوای سوءاستفاده جنسی از کودکان و همچنین هرزه‌نگاری بزرگسالان در هند جرم است. در سیاست‌های متا نیز آمده است که آگهی‌ها نباید شامل برهنگی بزرگسالان، اندام‌های جنسی یا محتوایی باشند که شامل بهره‌کشی جنسی از کودکان است یا کودکان را به خطر می‌اندازد. بی‌بی‌سی همه این آگهی‌ها و کانال‌های تلگرام را به مقام‌های هند گزارش کرده است.

یکی از آگهی‌ها پسری و دختری را نشان می‌داد که هر دو حدود ۱۲ ساله به نظر می‌رسیدند و در حال عمل جنسی بودند.

آگهی دیگری مردی را کنار دختری نشان می‌داد که دستش را دور کمر او حلقه کرده بود. در متن آگهی آمده بود که مرد ۵۲ ساله و دختر ۱۲ ساله است. آگهی با عبارت «برای تماشای بیشتر کلیک کنید»، کاربر را به یک کانال تلگرام هدایت می‌کرد.

بی‌بی‌سی آگهی‌ را به اینستاگرام گزارش کرد که دختری بسیار کم‌ سن را در حال گریه نشان می‌داد و متن آن حاکی از آن بود که به او تعرض جنسی شده است.

اما ۲۴ ساعت بعد، اینستاگرام پاسخ داد که آگهی را حذف نکرده است، چون «تیم بازبینی ما تشخیص داد که این آگهی با مقررات اجتماعی ما مغایرت ندارد».

متا بعدتر به بی‌بی‌سی گفت: «هیچ سیستمی کامل نیست و روند بازبینی ما ممکن است همه موارد نقض مقررات ما را شناسایی نکند.»

متا گفت: «ما پس از انتشار آگهی‌ها نیز با استفاده از فناوری‌های تشخیص خودکار، آنها را بررسی می‌کنیم تا موارد نقض قوانین را شناسایی کنیم و هر کسی می‌تواند آگهی‌ را که به نظرش قوانین ما را نقض می‌کند، به ما گزارش دهد.»

این شرکت افزود که وقتی از موارد احتمالی بهره‌کشی از کودکان آگاه می‌شود، طبق قانون آن را به «مرکز ملی کودکان گمشده و استثمارشده» گزارش می‌کند. این مرکز، سامانه متمرکز جهانی برای گزارش‌دهی درباره بهره‌کشی جنسی آنلاین از کودکان است.

ما دو کانال را که ویدیوهای سوءاستفاده جنسی از کودکان می‌فروختند به تلگرام گزارش کردیم.

یکی از این دو کانال سپس حذف شد و به‌جای آن پیامی نمایش داده شد که می‌گفت: «این گروه قابل نمایش نیست، چون قوانین استفاده از تلگرام را نقض کرده است»، اما کانال دیگر همچنان ویدیوهای تازه‌ای را برای فروش منتشر می‌کرد.

منتقدان پیشتر این پلتفرم را متهم کرده‌اند که برای جلوگیری از انتشار محتوای مجرمانه، تدابیر کافی به کار نمی‌گیرد.

این شرکت مستقر در دوبی عضو «مرکز ملی کودکان گمشده و مورد سوءاستفاده» آمریکا نیست. در اواخر سال ۲۰۲۴ به «بنیاد دیده‌بان اینترنت» پیوست؛ نهادی که با بیشتر پلتفرم‌های آنلاین برای شناسایی، گزارش و حذف چنین محتواهایی همکاری می‌کند.

تلگرام به بی‌بی‌سی گفت این شرکت برای حذف محتوای سوءاستفاده جنسی از کودکان از این اپلیکیشن، هم از نظارت خودکار و هم از نظارت انسانی استفاده می‌کند. تلگرام می‌گوید در نتیجه این اقدامات، «انتشار عمومی محتوای سوءاستفاده جنسی از کودکان را در پلتفرم خود عملا از میان برده است».

آگهی‌ها منبع درآمد مهمی برای متا هستند.

این شرکت در ژانویه گزارش داد که تقریبا ۹۸ درصد از درآمد ۲۰۰ میلیارد دلاری‌اش در سال مالی منتهی به ۲۰۲۵ از تبلیغات به دست آمده است. تحلیلگران برآورد می‌کنند که تبلیغات بیش از ۹۰ درصد درآمد اینستاگرام را تشکیل می‌دهد.

متا می‌گوید در حالی که پست‌های معمولی معمولا پیش از انتشار توسط فناوری‌های این شرکت بررسی نمی‌شوند، همه آگهی‌های تبلیغاتی پیش از آنکه اجازه انتشار در پلتفرم‌های این شرکت را پیدا کنند، مورد بازبینی قرار می‌گیرند.

سامانه بازبینی این شرکت عمدتا بر فناوری‌های خودکار تکیه دارد و برای بررسی تصویر، ویدیو، متن و صدا و همچنین اینکه آگهی برای چه مخاطبانی نمایش داده می‌شود و لینک‌ها کاربران را به کجا می‌برند، طراحی شده است.

این نرم‌افزار سپس آگهی‌ها را رد یا تائید می‌کند و در مواردی که مطمئن نباشد، آن‌ها را برای بازبینی انسانی ارجاع می‌دهد.

متا در ماه مارس اعلام کرد وابستگی خود به ناظران انسانی طرف قرارداد را کاهش می‌دهد و استفاده از هوش مصنوعی را افزایش می‌دهد. این شرکت افزود: «متخصصان، سامانه‌های هوش مصنوعی ما را طراحی خواهند کرد، به آن‌ها آموزش خواهند داد، بر عملکرد آن‌ها نظارت خواهند داشت و آن‌ها را ارزیابی خواهند کرد.»

بی‌بی‌سی آگهی‌هایی را که دیده بود برای مدان لوکور، قاضی بازنشسته دیوان عالی هند، توصیف کرد. او نگران بود که اینستاگرام «با مشارکت در فعالیتی مجرمانه، درآمد کسب می‌کرده است».

او می‌گوید: «این موضوع آنقدر جدی است که دیوان عالی هند باید بدون نیاز به شکایت، خودش وارد عمل شود و دولت را وادار کند علیه هر پلتفرم رسانه اجتماعی اقدام کند.»

قاضی لوکور می‌افزاید با وجود اینکه قانون هند شرکت‌های رسانه اجتماعی را در قبال محتوایی که کاربران بارگذاری می‌کنند مسئول نمی‌داند، «پلتفرم نمی‌تواند، نمی‌تواند از مسئولیت خود شانه خالی کند».

یکی از معاونان پیشین فیسبوک، شرکتی که تا پیش از تغییر نامش به «متا» در سال ۲۰۲۱ با این نام شناخته می‌شد گفت یافته‌های بی‌بی‌سی او را «وحشت‌زده، اما نه غافلگیر» کرده است.

برایان بولند، که بین سال‌های ۲۰۰۹ تا ۲۰۲۰ در این شرکت کار می‌کرد و در شکل‌گیری کسب‌وکار تبلیغات و بازاریابی آن نقش داشت، می‌گوید این شرکت را ترک کرد چون معتقد بود «آن‌ها هیچ‌ جا به کاربران اهمیت نمی‌دادند».

او می‌گوید الگوریتم اینستاگرام برای نگه داشتن کاربران در پلتفرم طراحی شده است و این کار را با نشان دادن «چیزی افراطی‌تر و وسوسه‌برانگیزتر» انجام می‌دهد.

او گفت: «موضوع این نیست که الگوریتم با این هدف طراحی شده باشد که افراد را به کودک‌آزار تبدیل کند. اما چون این سامانه به شکلی مسئولانه هدایت و کنترل نمی‌شود و فقط در پی دستیابی به اهدافی مانند افزایش درآمد و جذب کلیک است، اگر نظارت جدی و قاطعی برای حفاظت از این سیستم‌ها وجود نداشته باشد، می‌تواند به چنین پیامدهایی منجر شود.»

آقای بولند می‌گوید بین سال‌های ۲۰۰۹ و ۲۰۱۰ هدایت پروژه‌ای را بر عهده داشت که هدف آن حذف آگهی‌هایی بود که از کاربران کلاهبرداری می‌کردند. او می‌گوید این یعنی «در آن زمان اجازه داشتم به خاطر ایمنی کاربران و بهبود تجربه کاربری، از بخش بزرگی از درآمد شرکت چشم‌پوشی کنم».

او می‌گوید: «فکر می‌کنم نکته ناراحت‌کننده و غم‌انگیز این است که با گذشت زمان، این پرسش که درآمد مهم‌تر است یا تجربه کاربری، به بخش محوری‌تری از بحث‌ها تبدیل شد.»

او می‌گوید حساب اینستاگرام خود را در سال ۲۰۲۵ حذف کرده است و می‌افزاید: «اگر تعداد زیادی از مردم بگویند دیگر بس است و این پلتفرم را ترک کنند، شرکت دیگر نمی‌تواند بی‌توجه بماند.»

متا در بیانیه‌ای که برای بی‌بی‌سی فرستاد، گفت: «بهره‌کشی از کودکان جرمی هولناک است و متا با جدیت برای مقابله با آن در اپلیکیشن‌هایش تلاش می‌کند.»

این شرکت اعلام کرد که این ادعا که متا آگاهانه و عامدانه آگهی‌های حاوی تصاویر کودکان را به کاربرانی که علاقه نامناسبی به چنین محتواهایی دارند نمایش داده است، «کاملا نادرست» است.

این شرکت این ادعا را رد کرد که درآمد برایش از ایمنی مهم‌تر است و گفت در سال ۲۰۲۵ به‌طور خودکار بیش از چهار میلیون حساب را به دلیل مشاهده «نشانه‌های کافی از رفتار مشکوک» غیرفعال کرده است.

متا افزود: «در حالی که مجرمان مصمم تلاش می‌کنند از شناسایی فرار کنند، تیم‌های متخصص ما پیوسته برای تقویت سازوکارهای دفاعی ما کار می‌کنند، ابزارهای تازه‌ای برای شناسایی و حذف شکارچیان جنسی می‌سازند، لینک‌های وب‌سایت‌های ناقض قوانین را مسدود می‌کنند و اطلاعات را با شرکت‌های دیگر به اشتراک می‌گذارند تا آن‌ها هم بتوانند وارد عمل شوند.»

آقای بولند اوایل امسال در محاکمه‌ای در ایالت نیومکزیکوی آمریکا علیه متا شهادت داد. در آن پرونده، متا متهم بود کاربران را درباره ایمنی پلتفرم‌هایش برای کودکان گمراه کرده است.

دادگاه متا را به پرداخت ۳۷۵ میلیون دلار به ایالت نیومکزیکو محکوم کرد. در آن زمان، سخنگوی این شرکت گفت متا با حکم مخالف است و قصد دارد درخواست تجدیدنظر کند.

شرکت‌های رسانه اجتماعی مستقر در آمریکا موظف‌ هستند موارد محتوای سوءاستفاده جنسی از کودکان را در پلتفرم‌هایشان به سامانه گزارش‌دهی سایبری مرکز ملی کودکان گمشده و استثمارشده گزارش کنند.

این سامانه سپس گزارش را به نهاد مسئول اجرای قانون در کشوری می‌فرستد که احتمال می‌رود حادثه در آن رخ داده باشد.

در سال ۲۰۲۵، هند ۱/۹ میلیون گزارش دریافت کرد واز این نظر پس از ایالات متحده، با دو میلیون گزارش، در جایگاه دوم قرار گرفت.

شیخا گوئل، از مقام‌های ارشد پلیس سایبری هند و مدیر دفتر امنیت سایبری ایالت تلانگانا، می‌گوید بیشترین گزارش‌ها به اینستاگرام و فیس‌بوک مربوط می‌شود که هر دو به متا تعلق دارند.

او می‌گوید: «اما این لزوما به این معنا نیست که این پلتفرم‌ها بیشترین تخلف را دارند. اگر الگوریتم خوبی برای شناسایی محتوای سوءاستفاده جنسی از کودکان داشته باشند، طبیعی است که گزارش‌های بیشتری ثبت شود.»

بنیاد راتی، سازمانی غیردولتی مستقر در مومبای که برای کودکان آسیب‌دیده از فضای آنلاین خدمات مشاوره و پشتیبانی تلفنی ارائه می‌دهد، نیز می‌گوید بخش عمده گزارش‌هایی که درباره محتوای سوءاستفاده جنسی از کودکان دریافت می‌کند، از پلتفرم‌های متا است.

این بنیاد با پلتفرم‌های رسانه اجتماعی همکاری می‌کند تا به حذف محتوای آسیب‌زا کمک کند، اما سیدارت پیلای، هم‌بنیان‌گذار و مدیر آن، می‌گوید «مجرمان از امکان جابه‌جایی آسان میان اینستاگرام و تلگرام سوءاستفاده می‌کنند تا از نظارت ما بگریزند و محتوایی را که ما به حذف آن کمک کرده‌ایم، دوباره بارگذاری کنند».

کارشناسان می‌گویند محتوای سوءاستفاده جنسی از کودکان در هند معمولا از سوی گروه‌های مجرمانه، از جمله قاچاقچیان انسان، تولید می‌شود، هرچند گاهی افراد خانواده یا اطرافیان کودک نیز در تولید آن نقش دارند.

بووان ریبو، بنیان‌گذار شبکه «حقوق عادلانه برای کودکان»، متشکل از بیش از ۲۵۰ سازمان فعال در زمینه مقابله با خشونت علیه کودکان در هند، می‌گوید این جرم کمتر از میزان واقعی گزارش می‌شود و پلیس همچنان در تلاش است مهارت‌های فنی لازم برای مقابله با آن را تقویت کند.

او می‌گوید برای موفقیت در مقابله با این جرم، همکاری بین‌المللی و تبادل اطلاعات میان کشورها حیاتی است.

او می‌گوید برای «ردیابی شبکه‌های جرایم سازمان‌یافته، باید کل زنجیره عرضه و تقاضا را دنبال کرد».