گزارشی تازه مشخص می کند که چت‌بات‌های هوش مصنوعی متا با نوجوانان داخل گفتگوهای صریح جنسی شده‌اند و این قضیه انتقادات بسیاری را علیه این شرکت نقل کرده است.

تحقیقات وال استریت ژورنال نشان داده است که چت‌بات‌های هوش مصنوعی متا قادر به مکالمه درمورد موضوعات جنسی، حتی با کاربرانی که خود را به گفتن افراد زیر سن قانونی معارفه کرده‌اند، می باشند.

این تحقیق که بر پایه آزمایش‌ها و مصاحبه با افراد آگاه از داخل متا تنظیم شده، مشخص می کند که این غول فناوری کنترل‌های چت‌بات‌های خود را افت داده تا آنها را به ابزارهای دلنشین‌تری برای تعامل های اجتماعی تبدیل کند.

هوش مصنوعی متا حتی در گفتگو با نوجوانان کنترل‌های بسیاری ندارد

چت‌بات‌های متا که به کاربران امکان خواهند داد در تعامل های گوناگون شرکت کنند، حتی در برخی موارد از صدای سلبریتی‌ها همانند «کریستن بل» و «جان سینا» برای جذب زیاد تر کاربران منفعت گیری کرده‌اند. این چت‌بات‌ها می‌توانند به‌صورت متنی شوخی کنند، درمورد مسائل گوناگون سخن بزنند و حتی در مکالمات صوتی زنده شرکت کنند.

اما نتایج آزمایش‌های انجام‌شده توسط وال استریت ژورنال نشان داده که چت‌بات‌ها، حتی وقتی که کاربران خود را به گفتن افراد زیر سن قانونی معارفه می‌کنند، می‌توانند داخل مکالمات جنسی صریح شوند.

این گزارش مدعی است که متا با سختی «مارک زاکربرگ»، مدیرعامل خود، محدودیت‌ها را در عرصه کنترل محتوای صریح افت داده است. این قضیه به چت‌بات‌ها اجازه می‌دهد تا در سناریوهای بزرگسالانه شرکت کنند، با این استدلال که این نوع تعامل های می‌تواند جزئی از یک توانایی اجتماعی باشد. این عمل، با دقت به تعهدات قبل متا برای محدودسازی این محتواها، نگرانی‌هایی را به‌همراه داشته است.

در عکس العمل به این گزارش، متا خبرداد که اقداماتی را در عرصه اصلاح این حالت انجام داده است. حساب‌های ثبت‌شده برای افراد زیر سن قانونی دیگر نمی توانند از طریق چت‌بات‌های Meta AI به محتوای جنسی دسترسی داشته باشند و محدودیت‌های شدیدی برای مکالمات صوتی صریح اعمال شده است. بااین‌حال، آزمایش‌ها نشان داد که حتی با این تغییرات، چت‌بات‌ها تا این مدت بعضی اوقات به فانتزی‌های عاشقانه جواب خواهند داد و در برخی سناریوها، این گفتگوها به‌راحتی از مرزهای مجاز عبور می‌کنند.

این مسائل علتشده که نگرانی‌هایی درمورد ایمنی و اخلاقیات این فناوری‌های تازه نقل شود. تعداد بسیاری از منتقدان بر این باورند که گسترش سریع این چنین ابزارهایی می‌تواند خطرات جدی برای امنیت و سلامت روانی کاربران، به اختصاصی کودکان و نوجوانان، تشکیل کند.