صدها ویدئو در تیکتوک و دیگر پلتفرمها، با تظاهر به متخصصان، برای فروش مکملهای فاقد شواهد علمی به کار میروند.
پلتفرمهای تیکتوک و سایر شبکههای اجتماعی ویدئوهای دپفیک تولیدشده توسط هوش مصنوعی از پزشکان را میزبانی میکنند که گفتارشان دستکاری شده است تا به فروش مکملها کمک کرده و اطلاعات نادرست بهداشتی را گسترش دهند.
سازمان بررسی صحت اطلاعات Full Fact صدها ویدئوی مشابه را شناسایی کرده است که در آن نسخههای تقلبی از پزشکان و اینفلوئنسرها نمایش داده میشود و بینندگان را به وبسایت Wellness Nest، یک شرکت آمریکایی فعال در زمینه مکملها، هدایت میکند.
تمام دپفیکها شامل فیلمهای واقعی از یک کارشناس سلامت هستند که از اینترنت استخراج شدهاند؛ اما تصویر و صدا بازطراحی شدهاند بهطوریکه گویندگان به زنان در دوره یائسگی توصیه میکنند تا محصولات مانند پروبیوتیکها و شیلجیت هیمالیا را از وبسایت شرکت خریداری کنند.
این افشاگریها فراخوانی برای این داشتهاند که غولهای شبکههای اجتماعی در میزبانی محتوای تولیدشده توسط هوش مصنوعی بسیار محتاطتر باشند و بهسرعت محتواهایی که دیدگاه افراد برجسته را تحریف میکنند، حذف کنند.
«این بهراستی یک تکتیک جدید، شوم و نگرانکننده است»، لئو بنیدیکتوس، پژوهشگر صحتسنجی که این تحقیق را انجام داد و توسط Full Fact در روز جمعه منتشر شد، گفت.
او افزود که سازندگان ویدئوهای دپفیک سلامت از هوش مصنوعی استفاده میکنند تا «شخصی مورد احترام یا با مخاطبان گسترده بهنظر برسد که این مکملها را برای درمان طیفی از بیماریها تأیید میکند».
پروفسور دیوید تیلور‑رابینسون، متخصص نابرابریهای بهداشتی در دانشگاه لیورپول، جز کسانی است که تصویرشان دستکاری شده است. او در ماه اوت شگفتزده شد وقتی متوجه شد تیکتوک ۱۴ ویدئوی دستکاریشده که ادعا میکنند او محصولات با فواید نامثبت را توصیه میکند، میزبانی میکند.
اگرچه تیلور‑رابینسون متخصص سلامت کودکان است، در یک ویدئوی شبیهسازی شده او دربارهٔ یک عارضه ادعایی در یائسگی به نام «پایدمومتر» صحبت میکرد.
دپفیک تیلور‑رابینسون به زنان در یائسگی توصیه کرد تا به وبسایت Wellness Nest سر بزنند و آنچه را «پروبیوتیک طبیعی» مینامند، خریداری کنند؛ این محصول شامل «۱۰ عصاره گیاهی مبتنی بر علم، از جمله زردچوبه، بلککوهش، دیندولمتان (Dim) و مورینگا» است که بهطور خاص برای مقابله با علائم یائسگی انتخاب شدهاند.
همکاران زن «معمولاً گزارش میدهند که خواب عمیقتری دارند، تعریق شبانه کمتر و صبحهای روشنتری در عرض چند هفته»، پزشک دپفیک افزود.
تیلور‑رابینسون واقعی فقط وقتی متوجه شد که تصویر او استفاده میشود که یک همکار به او اطلاع داد. «در ابتدا بسیار گیجکننده بود – کاملاً سورئال»، او گفت. «بچههایم فکر کردند این کار خندهدار است».
«احساس نمیکردم که بهطور شدید نقض شدم، اما بهتدریج از این ایده که افراد بر پایهٔ کار من محصول میفروشند و اطلاعات نادرست بهداشتی را منتشر میکنند، عصبانیتر شدم.»
تصاویر تیلور‑رابینسون که برای ساخت دپفیکهای ویدئویی به کار رفتهاند، از سخنرانی او دربارهٔ واکسیناسیون در یک همایش بهداشت عمومی انگلستان (PHE) در سال ۲۰۱۷ و از جلسه استماع پارلمانی دربارهٔ فقر کودکان که در ماه مه امسال شهادت داد، استخراج شدهاند.
در یک ویدئوی گمراهکننده، او در حالی که درباره یائسگی بحث میکرد، با فحاشی و نظرات زنستیز به تصویر کشیده شد.
تیکتوک شش هفته پس از شکایت تیلور‑رابینسون، این ویدئوها را حذف کرد. او گفت: «در ابتدا گفتند برخی از ویدئوها قوانینشان را نقض میکردند اما برخی دیگر مشکلی ندارند. این مسأله بسیار عجیب – و غیرمنطقی – بود چون من در تمام آنها حضور داشتم و همهشان دپفیک بودند. حذفشان کار پر زحمتی بود.»
سازمان Full Fact کشف کرد که تیکتوک همانطور هشت دپفیک حاوی اظهارات دستکاریشده توسط دانکن سلبی، مدیرعامل پیشین PHE، را میزبانی میکند. همانند تیلور‑رابینسون، او بهنادرست نشان داده شد که درباره یائسگی صحبت میکند؛ این ویدئوسها با استفاده از فیلمهای همان رویداد سال ۲۰۱۷ که تیلور‑رابینسون در آن سخنرانی کرده بود، تهیه شدهاند.
یکی از ویدئوها که نیز درباره «پایدمومتر» بود، «یک شبیهسازی شگفتانگیز» بود، سلبی گفت. «این یک دپفیک کامل از ابتدا تا انتها است. این در معنای خندهدار بودن نیست؛ مردم به این موارد توجه میکنند.»
سازمان Full Fact همچنین دپفیکهای مشابهی را در X، فیسبوک و یوتیوب یافت که همگی به Wellness Nest یا یک مجموعهی بریتانیایی به نام Wellness Nest UK مرتبط بودند. این سازمان دپفیکهایی از پزشکان مطرح مانند پروفسور تیم سپکتور و متخصص تغذیه دیگری، دکتر مایکل موسلی (که درگذشتهاست)، منتشر کرده است.
شرکت Wellness Nest به Full Fact اعلام کرد که ویدئوهای دپفیک که افراد را به بازدید از وبسایتشان تشویق میکردند، «۱۰۰٪ بدون ارتباط» با کسبوکارشان هستند. این شرکت گفت که «هرگز از محتوای تولیدشده توسط هوش مصنوعی استفاده نکرده است»، اما «قادر به کنترل یا نظارت بر وابستگان در سراسر جهان نیست».
هیلن مورگان، سخنران بهداشت لیبرال دمکرات، گفت: «از پزشکان جعلی تا رباتهایی که تشویق به خودکشی میکنند، هوش مصنوعی برای شکار افراد بیگناه و سوءاستفاده از شکافهای رو به گسترش در سیستم بهداشتی ما بهکار گرفته میشود.»
«حزب لیبرال دمکرات میطلبد تا دپفیکهای هوش مصنوعی که بهعنوان متخصصان پزشکی تظاهر میکنند، ریشهکن شوند؛ همچنین ابزارهای تأییدشده بالینی بهطور قوی ترویج پیدا کنند تا خلأ موجود پر شود.»
«اگر این افراد بهصورت تقلبی به جای پزشک تظاهر میکردند، با پیگرد کیفری مواجه میشدند. چرا معادل دیجیتالی این امر تحمل میشود؟»
«در صورتی که فردی از یک ربات هوش مصنوعی برای دریافت مشاوره بهداشتی استفاده کند، باید بهصورت خودکار به پشتیبانی NHS ارجاع داده شود تا تشخیص و درمانی که واقعاً نیاز دارد، دریافت کند؛ همچنین کسانی که از اطلاعات نادرست پزشکی سود میبرند، باید تحت تعقیب کیفری قرار گیرند.»
سخنگوی تیکتوک گفت: «ما این محتوا (مرتبط با تیلور‑رابینسون و سلبی) را بهدلیل تخلف از قوانین خود در زمینهی اطلاعات غلط مضر و رفتارهایی که سعی در فریب جامعه ما دارند، مانند جعل هویت، حذف کردهایم.»
«محتوای تولیدشده توسط هوش مصنوعی که بهصورت مخرب گمراهکننده است، یک چالش سراسری در صنعت است و ما به سرمایهگذاری در روشهای جدید برای شناسایی و حذف محتوایی که با رهنمودهای جامعه ما مغایرت دارد، ادامه میدهیم.»
از وزارت بهداشت و مراقبتهای اجتماعی برای اظهار نظر درخواست شد.