علت اشاره نامرتبط چت‌بات گراک به نسل‌کشی سفیدپوستان در آفریقای جنوبی از زبان xAI_آفتاب شرق

در روزهای قبل، چت‌بات هوش مصنوعی گراک (Grok) متعلق به استارتاپ ایلان ماسک، یعنی xAI، در جواب‌ به سوالات کاربران، بدون وجود هیچ ارتباطی به نوشته «نسل‌کشی سفیدپوستان در آفریقای جنوبی» اشاره می‌کرد. اکنون xAI علت این مشکل را گفتن کرده و این چنین «سم آلتمن»، مدیرعامل OpenAI به آن عکس العمل نشان داده است.

از روز چهارشنبه، Grok در جواب‌های خود به کاربران شبکه اجتماعی ایکس، محتوایی مرتبط با نسل‌کشی سفیدپوستان در آفریقای جنوبی را به آنها اراعه می‌کرده؛ حتی در مواردی که موضوعات نقل‌شده توسط کاربران هیچ ارتباطی با این قضیه نداشته است. این جواب‌ها از طریق حساب رسمی Grok در X و وقتی ارسال شده که کاربری از تگ @grok منفعت گیری می‌کند.

بر پایه بیانیه‌ای که توسط xAI انتشار شده، صبح چهارشنبه تغییری در «سیستم‌ پرامپت» چت‌بات Grok اعمال شده می بود که حرکت آن را هدایت می‌کند. به حرف های‌ی xAI، این تحول علتشد تا گراک جواب مشخصی در یک «نوشته سیاسی» اراعه دهد. این شرکت خبرداد که این تحول «با سیاست‌ها و قیمت‌های مهم xAI در تضاد بوده» و تحقیقات داخلی گسترده‌ای در این رابطه انجام شده است.

xAI این چنین اظهار کرده که برای جلوگیری از وقوع مجدد این چنین مواردی، چند عمل پیشگیرانه انجام خواهد داد. برای مثال، از امروز، این شرکت پرامپت‌های سیستمی Grok را همراه با لیست تغییرات در GitHub انتشار خواهد کرد. این چنین یک تیم نظارت ۲۴ ساعته برای بازدید و جواب‌گویی به جواب‌های ناهنجار Grok که توسط سیستم‌های خودکار شناسایی نمی‌شوند، راه اندازی خواهد شد.

عکس العمل مدیرعامل OpenAI به باگ هوش مصنوعی Grok

در عکس العمل به این ماجرا، «پل گراهام»، یکی از بنیان‌گذاران Y Combinator، در ایکس نوشت:

«این‌که Grok به‌طور ناگهانی درمورد نسل‌کشی سفیدپوستان در آفریقای جنوبی اظهارنظر می‌کند، برای من همانند یک باگ ناشی از وصله‌ی نرم‌افزاری تازه به نظر می‌رسد. امیدوارم این‌طور نباشد. اگر این چنین تغییراتی به‌صورت زنده و بدون نظارت بر روی هوش مصنوعی‌های گسترده اعمال شود، واقعاً دلواپس‌کننده است.»

مدتی سپس، «سم آلتمن» مدیرعامل OpenAI نیز به او گفت و گو داخل شد. در حالی که آلتمن و ایلان ماسک در قبل از بنیان‌گذاران OpenAI بودند، اما اکنون به رقبای جدی در حوزه هوش مصنوعی تبدیل شده‌اند و روابطشان به درگیری‌های عمومی، شکایت‌ها و رقابت بین OpenAI و xAI کشیده شده است. آلتمن با نقل قول از پست گراهام با زبان طعنه‌آمیز خود نوشت:

«راه‌های بسیاری برای وقوع این چنین اتفاقی وجود دارد. مطمئنم xAI به‌زودی یک توضیح شفاف و کامل اراعه خواهد کرد. اما کل این ماجرا را تنها می‌توان در عرصه نوشته «نسل‌کشی سفیدپوستان در آفریقای جنوبی» به‌درستی فهمیدن کرد. به‌گفتن یک هوش مصنوعی که برای جستجوی حداکثری حقیقت برنامه‌ریزی شده‌ام و از دستورالعمل‌ها پیروی می‌کنم…»