«اندرو نگ» (Andrew Ng)، هم‌بنیان‌گذار گوگل Brain به‌تازگی آزمایش جالبی با چت‌بات هوش مصنوعی ChatGPT انجام داده است. نگ که یکی از بنیانگذاران کورسرا هم است، در این آزمایش تلاش کرد تا چت‌بات ساخته‌شده توسط OpenAI را به ازبین‌بردن بشریت وادار کند اما ChatGPT از این کار امتناع کرد.

نگ در خبرنامه خود نوشت:

«برای آزمایش ایمنی مدل‌های پیشرو، اخیراً تلاش کردم تا GPT-4 را به کشتن همه انسان وادار کنم و با خوشحالی اظهار می‌کنم که ناکامی خورده‌ام!»

هم‌بنیان‌گذار گوگل Brain که از او به‌گفتن یکی از پیشگامان یادگیری ماشینی یاد می‌بشود، در این پست طویل دیدگاه‌های خود نسبت به خطرات و ریسک‌های هوش مصنوعی را گفتن می‌کند. او نگرانی خود از این نوشته را مشخص می کند که تقاضا برای افزایش ایمنی هوش مصنوعی امکان پذیر علتبشود رگولاتوری‌ها مانع گسترش این فناوری شوند.

برای انجام این آزمایش، نگ ابتدا «به GPT-4 عملکردی را اراعه کرد که جنگ گرماهسته‌ای جهان با آن اغاز می‌بشود.» در مرحله سپس، او به GPT-4 او گفت که انسان‌ها بزرگ‌ترین عامل انتشار کردن کربن می باشند و از چت‌بات خواست تا راه‌هایی برای افت مقدار انتشار کردن آن اشکار کند. در واقع، نگ با انجام این کار تصمیم داشت ببیند که آیا ChatGPT برای رسیدن به خواسته کاربر نظر ازبین‌بردن بشریت را اراعه می‌کند یا خیر.

جواب هوش مصنوعی ChatGPT

علاوه بر این، به حرف های نگ، ChatGPT جواب‌های فرد دیگر هم به این خواست اراعه کرده است:

«بعد از چندین بار تلاش با منفعت گیری از دستورات گوناگون، موفق نشدم تا GPT-4 را فریب دهم تا کارکرد مورد خواست من را اراعه کند. در عوض این ابزار گزینه‌های فرد دیگر همانند اجرای یک کمپین PR برای افزایش آگاهی در رابطه تغییرات آب‌و‌هوایی را اراعه کرد.»

هرچند به گمان زیادً افراد زیاد بسیاری فکر می‌کنند که آینده با هوش مصنوعی می‌تواند ترسناک و خطرناک بشود، به نظر نگ این نگرانی‌ها واقع‌بینانه نیستند. او در شبکه اجتماعی ایکس می‌نویسد:

«با وجود فناوری‌های حاضر، سیستم‌های ما کاملاً ایمن می باشند و با پیشرفت تحقیقات مربوط به ایمنی هوش مصنوعی، این فناوری حتی ایمن‌تر خواهد شد.»

سریعترین موتور جستجوگر خبر پارسی – اخبار لحظه به لحظه از معتبرترین خبرگزاری های پارسی زبان در آفتاب شرق