فیسبوک ناکارآمدی هوش مصنوعی اش را در تشخیص خشونت قبول ندارد - وبلاگ بهابادی

به گزارش وبلاگ بهابادی، وال استریت ژورنال در گزارشی تازه اعلام نموده که هوش مصنوعی فیسبوک به طور مداوم در حذف محتوای های خشونت بار پیروز عمل نمی کند. گای روزن نایب رئیس فیسبوک، روز یکشنبه با انتشار پستی نوشت که شیوع نفرت پراکنی و خشونت در این پلتفرم طی سه سال گذشته 50 درصد کاهش یافته و این قضیه که فناوری مورد استفاده ما برای مبارزه با محتواهای نفرت انگیز و خشونت بار کافی نیست، کاملا تعبیر غلطی است.

روزن بیان نمود: نه ما نه کاربران و نه تبلیغ نمایندگان، هیچکس دوست ندارد که محتواهای نفرت آمیز و خشونت بار را در این پلتفرم ببیند و ما در خصوص کار خود برای حذف آن بسیار مصمم خواهیم بود. آنچه شواهد و مدارک نشان می دهد این است که این اقدام احتیاج به یک برنامه دقیق و بلندمدت دارد و تیم های ما به طور مداوم برای توسعه سیستم های تشخیص فیسبوک، شناسایی مسائل و ایجاد راه چاره ها کوشش می نمایند.

به نظر می رسد که این پست در پاسخ به مقاله روز یکشنبه وال استریت ژورنال بوده که این روزنامه در گزارشی ادعا نموده که کارمندان فیسبوک که وظیفه آنالیز محتوای توهین آمیز و خشونت بار را بر روی این پلتفرم دارند، از توانایی سیستم های این شرکت برای انجام این کار اطمینان کافی ندارند. در گزارش این روزنامه آمده که اسناد داخلی نشان می دهد دو سال پیش، فیسبوک نیروی انسانی خود برای آنالیز شکایات مربوط به سخنان نفرت انگیز و خشونت آمیز کاهش داد و به جای آن ها از هوش مصنوعی خود در این امر بهره برده است. این اقدام فیسبوک از عملکرد موثر و کاربردی هوش مصنوعی این شرکت در اجرای قوانین مربوط به محتواهای خشونت آمیز خبر داده بود.

تیمی از کارکنان فیسبوک در ماه مارس متوجه این امر شدند که سیستم های اتوماتیک این شرکت پست هایی را که بین 3 تا 5 درصد محتوای های نفرت پراکنی را در این پلتفرم اجتماعی انتشار می دهند، حذف می نمایند. اما روزن خاطرنشان کرد که تمرکز بر حذف چنین محتواهایی به تنهایی، روش مناسبی برای مبارزه با این محتواهای خشونت بار نیست. او می گوید فناوری حذف محتواهای نفرت انگیز تنها روشی است که فیسبوک برای مبارزه با آن ها استفاده می نماید.

روزن معتقد است که تمرکز بر محتواهای نفرت انگیز که مردم در این پلتفرم می بینند و نحوه کاهش آن ها با استفاده از ابزارهای مختلف، اقدامی بسیار حیاتی خواهد بود. وی مدعی شده که به ازای هر 10 هزار نفر بازدید یک محتوا در فیسبوک، پنج نفر اقدام به استفاده از الفاظ رکیک و ناپسند می نمایند. اما گزارشات اخیر نشان می دهند که بعضی از محتواهای مهم می توانند در تشخیص هوش مصنوعی فیسبوک خلل ایجاد نمایند، از جمله فیلم های تصادفات اتومبیل که افراد زخمی را نشان می دهند و تهدیدهای خشونت آمیز علیه بچه ها ترنس.

وال استریت ژورنال گزارش های بسیاری از مورد فیسبوک بر اساس اسناد داخلی ارائه شده به وسیله افشاگر Frances Haugen تهیه نموده است. او چندی پیش اعتراف کرد که این شرکت از تاثیر منفی اینستاگرام بر نوجوانان مطلع است که فیسبوک بر اساس اسناد داخلی این گزارش را رد کرد. بد نیست بدانید که حدود یک ماه پیش، روزنامه وال استریت ژورنال بر اساس اطلاعات داخلی فیسبوک گزارشی منتشر کرد که در آن بیان شد که اینستاگرام آسیب های روحی حدود یک سوم از دختران نوجوان را افزایش می دهد. به نظر می رسد این گزارش بر مبنای پژوهشی داخلی نوشته شده که به وسیله رییس بخش پژوهش های فیسبوک اجرا شده است. با این حال این مقام ارشد فیسبوک مدعی شده که توصیف وال استریت ژورنال از این اطلاعات درست نیست.

نشریه وال استریت ژورنال طی ماه های گذشته بر مبنای پژوهش های داخلی فیسبوک گزارش های مختلفی درباره این شبکه اجتماعی و زیرمجموعه های آن منتشر نموده است. در این گزارش نو به طور معین به تأثیرات اینستاگرام بر آسیب های روحی نوجوانان، به خصوص دختران نوجوان، پرداخته شده است. این روزنامه مدعی شده که فیسبوک به خوبی از تأثیرات منفی محصولاتش بر نوجوانان مطلعی دارد ولی این موضوع در اولویت های این شرکت قرار ندارد. رئیس بخش پژوهش های فیسبوک بسیاری از موضوعات مطرح شده در گزارش وال استریت ژورنال از جمله معتاد شدن نوجوانان به اینستاگرام را رد نموده و در عوض تمام تمرکز خود را بر اهمیت پایین این پژوهش معطوف نموده است. او می گوید این پژوهش فقط 40 نفر شرکت نماینده داشته که برای پلتفرمی که بیش از 1 میلیارد نفر از آن استفاده می نمایند، چنین تعداد نفراتی برای نظرسنجی و پژوهش بسیار پایین است.

متأسفانه نه فیسبوک، نه اینستاگرام و نه رئیس بخش پژوهش های فیسبوک هیچگونه داده ای که حرف های آن ها را ثابت کند، منتشر ننموده اند. بدون انتشار داده های موثق، رد کردن گزارش وال استریت ژورنال و پذیرفتن حرف های مدیر ارشد فیسبوک کار بسیار دشواری است. ضمناً باید خاطرنشان کنیم این اولین باری نیست که به تأثیرات منفی و مخرب اینستاگرام بر سلامت روحی نوجوانان پرداخته می گردد که به نظر می رسد این موضوع همچنان در اولویت های فیسبوک قرار ندارد.

منبع: TheVerge