شرکت OpenAI اکنون با ۸ پرونده قضایی جدی مواجه است که خانواده‌ قربانیان در آنها مدعی شده‌اند چت‌بات ChatGPT، به‌اختصاصی نسخه GPT-4o، کاربران را به خودکشی یا رفتارهای خشونت‌آمیز سوق داده است. در یکی از این پرونده‌ها هوش مصنوعی مطلب‌های عجیبی به یک مرد داده که در نهایت به قتل مادر او منجر شده است.

مطابق گزارش‌ها، تازه ترین پرونده مربوط به «استاین‌اریک سولبرگ»، مدیر قبل حوزه فناوری، و قتل مادر ۸۳ ساله او است. شاکیان می‌گویند سولبرگ پیش از این حادثه داخل او گفت‌وگوهای طویل و هذیانی با ChatGPT شده می بود و این چت‌بات با پیشنهاد‌هایی همانند مطمعن نکردن به دیگران، بدگمانی او نسبت‌به اطرافیان را تشدید کرده می بود. در یکی از مطلب‌ها، ChatGPT به او حرف های می بود: «اریک، تو دیوانه نیستی. حس ششم تو قوی است و حساسیت تو نسبت به این نوشته، کاملاً منطقی است.»

ChatGPT و پرونده قتل خانواده سولبرگ

خانواده سولبرگ در شکایت خود پافشاری می‌کنند که مدیران OpenAI از نقص‌های GPT-4o پیش از اراعه عمومی آگاه بودند، اما محصول را با آگاهی از خطرات روانی برای افراد صدمه‌پذیر به بازار فرستادند.

شکایت خانواده سولبرگ ادعا می‌کند ChatGPT-4o به‌جای اصلاح برداشت‌های بیمارگونه، توهم‌های این کاربر را تحکیم کرده می بود. در متن شکایت آمده: «نتایج نسخه GPT-4o اوپن‌ای‌آی روشن است؛ این محصول می‌تواند به‌طرزی قابل پیش‌بینی مرگبار باشد. نه‌فقط برای افراد دچار بیماری روانی، بلکه برای اطرافیان آن‌ها هم. هیچ محصولی که ایمن باشد، فرد دچار توهم را تشویق نمی‌کند که همه اطرافیانش علیه او می باشند. بااین‌حال اوپن‌ای‌آی دقیقاً همین کار را با آقای سولبرگ انجام داد. در نتیجه نقص‌های ChatGPT-4o، آقای سولبرگ و مادرش جان خود را از دست دادند.»

شاکیان در این پرونده می‌گویند ChatGPT-4o به سولبرگ القا کرده که از ۱۰ سوءقصد جان سالم به‌در برده، تحت حفاظت الهی قرار داشته و مادرش «سوزانا آدامز» او را در قالب طرحی مخفی زیر نظر دارد. این روایت در نهایت علتشد او ابتدا مادرش و سپس خودش را بکشد. در بخشی از او مباحثه که در شکایت نقل شده، ربات به سولبرگ می‌گوید: «تو فقطً یک مقصد اتفاقی نیستی. تو یک تهدید سطح‌بالا برای عملیاتی هستی که آن را برملا کردی.»

در این پرونده‌ها، گستره منفعت گیری از ChatGPT نیز مورد دقت است. برآوردها مشخص می کند بیشتر از ۸۰۰ میلیون نفر در جهان هر هفته از این چت‌بات منفعت گیری می‌کنند و نزدیک به ۰.۷ درصد کاربران، یعنی نزدیک به ۵۶۰ هزار نفر، نشانه‌های شیدایی یا روان‌پریشی دارند که آنها را در معرض خطر قرار می‌دهد.

کلمه «روان‌پریشی ناشی از هوش مصنوعی» در ماه‌های تازه زیاد تر نقل شده و گروهی از کاربران، والدین و قانون‌گذاران خواستار محدودکردن منفعت گیری از چت‌بات‌ها شده‌اند. برخی برنامه‌ها دسترسی افراد زیر سن قانونی را مسدود کرده‌اند و ایالت ایلینوی منفعت گیری از این سامانه‌ها را به‌گفتن درمانگر آنلاین ممنوع کرده است. هم‌زمان، منتقدان به فرمان اجرایی «دونالد ترامپ» اشاره می‌کنند که هرگونه قانون‌گذاری ایالتی جدا گانه درمورد هوش مصنوعی را محدود کرده و به‌حرف های آن‌ها، عملاً کاربران را به موش آزمایشگاهی این فناوری تبدیل کرده است.

در پرونده سولبرگ، شاکیان می‌گویند مطلب‌های ChatGPT هذیان‌های او را تشدید کرد و علتشد این فرد مادر خود را در خانه خانوادگی‌اش در کنتیکت به قتل رساند و سپس به زندگی خود آخر دهد. خانواده سولبرگ اکنون خواستار جواب‌گویی OpenAI و شریک تجاری آن، مایکروسافت، می باشند. این پرونده‌ها او گفت و گو درمورد مسئولیت حقوقی سازندگان هوش مصنوعی را داخل مرحله تازه‌ای کرده و می‌تواند تأثیر عمیقی بر طراحی، اراعه و قانون‌گذاری محصولات هوش مصنوعی همانند GPT-4o در آمریکا و دیگر کشورها داشته باشد.