فیلتر تصاویر، کامنت و کپشن توسط هوش مصنوعی اینستاگرام

ویژگی جدید اینستاگرام با استفاده از هوش مصنوعی تلاش می‌کند تا موارد مزاحمت را در تصاویر، کامنت و کپشن شناسایی و فیلتر کند.

سال گذشته، اینستاگرام ویژگی فیلتر بهبودیافته کامنت را معرفی کرد که با استفاده از هوش مصنوعی، واژه‌ها و عبارات توهین‌آمیز را در متون چالش‌برانگیز تشخیص می‌داد. اکنون این شرکت، فناوری مشابهی را برای تصاویر و زیرنویس‌ها معرفی کرده است. شبکه اجتماعی محبوب روز سه‌شنبه اعلام کرد که پیش از ارسال محتوا به ناظران انسانی برای بررسی، با بهره‌گیری از هوش مصنوعی به‌صورت فعالانه مزاحمت را تشخیص می‌دهد.

این ویژگی جدید در هفته‌های آتی در دسترس کاربران قرار خواهد گرفت و به‌موقع برای ماه پیشگیری از مزاحمت ملی در ایالات متحده و اندکی پیش از هفته ضد مزاحمت در بریتانیا منتشر می‌شود. این فناوری همچنین به لایو افزوده شده است تا کامنت‌ها را در آنجا نیز فیلتر کند.

این نخستین معرفی محصول اینستاگرام تحت مدیریت جدید آدام موسری محسوب می‌شود که پس از کناره‌گیری کوین سیستروم و مایک کریگر، بنیان‌گذاران این شبکه اجتماعی در ماه گذشته میلادی به سمت مدیرعاملی اینستاگرام منصوب شد. بنا به گزارش‌ها، این جدایی به‌دنبال تشدید اختلافات بین این دو و فیسبوک، شرکت مادر اتفاق افتاد که به‌طور مرتب به دخالت در اینستاگرام می‌پرداخت.

با تداوم کاهش اعتماد عمومی به Facebook، اینستاگرام به‌عنوان نقطه روشن کارنامه این شرکت باقی مانده است. Instagram محبوب و سودآور است و خوشبختانه رسوایی‌هایی که گریبان فیسبوک را گرفتند هنوز دامن‌گیر آن نشده‌اند. در نتیجه، استفاده از هوش مصنوعی برای کمک به حذف محتوای توهین‌آمیز و ایمن نگاه داشتن اینستاگرام برای کاربران از اهمیت فوق‌العاده‌ای برخوردار است.

در مقاله‌ای که وب‌سایت وایر سال گذشته منتشر کرد، برخی از جزئیات فیلتر کامنت مبتنی بر هوش مصنوعی اینستاگرام توضیح داده شد؛ اما باور عموم این است که این نوع فناوری، روشی جادویی برای تعدیل محتوا محسوب نمی‌شود. این درست است که هوش مصنوعی، ابزاری ارزان‌قیمت برای به‌کارگیری در مقیاس بالا به‌شمار می‌رود؛ اما هنوز در مقابله با متون ظریف و پیچیده نوشته‌شده به‌دست انسان با دشواری مواجه است. درست به همین دلیل، این فیلترهای جدید مزاحمت باید محتوا را به‌منظور بررسی نهایی برای ناظران انسانی نیز ارسال کنند. خودکارسازی بدون نظارت می‌تواند به بروز فاجعه منتهی شود.

اینستاگرام به‌نحو جالب‌توجهی می‌گوید ویژگی جدیدش صرفا کپشن تصاویر را برای شناسایی مزاحمت تحلیل نخواهد کرد؛ بلکه به بررسی خود تصویر نیز خواهد پرداخت. یکی از سخنگویان اینستاگرام در گفتگو با خبرگزاری ورج با ارائه مثالی نحوه کار این ویژگی را توضیح داد. به‌عنوان نمونه، اگر در تصاویر تقسیم‌شده در صفحه فردی به‌صورت نامناسب با شخص دیگری مقایسه شده باشد، هوش مصنوعی به جستجو برای شناسایی مزاحمت بالقوه خواهد پرداخت. با این حال، اینکه هوش مصنوعی در جستجوی چه عوامل دیگری خواهد بود، هنوز مشخص نیست. البته باید این موضوع را درنظر گرفت که اگر فیسبوک اعلام کند با استفاده از هوش مصنوعی تصاویر را اسکن خواهد کرد، افراد احتمالا به فکر دور زدن چنین فیلترهایی خواهند افتاد.

اینستاگرام علاوه‌بر فیلترهای جدید، «افکت مهربانی دوربین» را نیز منتشر می‌کند. به‌نظر می‌رسد این افکت، روشی برای انتشار پیام‌های مثبت به‌عنوان شیوه‌ای برای افزایش تعامل کاربران محسوب می‌شود. در حین استفاده از دوربین اصلی، این افکت‌ها صفحه‌نمایش را با پوششی از کامنت‌های محبت‌آمیز به زبان‌های مختلف پر خواهند کرد. کاربر سپس با انتخاب دوربین سلفی، ایموجی‌ها و تشویق‌های مودبانه دریافت خواهد کرد تا «دوستی را که خواهان پشتیبانی او است» در تصویر خود برچسب‌گذاری کند.