OpenAI در عکس العمل به شکایت خانواده یک نوجوان ۱۶ ساله‌ به نام «آدام رین» که بعد از ماه‌ها گفتگو با ChatGPT دست به خودکشی زده می بود، مسئولیت این حادثه را نپذیرفته و پافشاری کرده است که صدمه‌های این «رخداد تراژیک» نتیجه «منفعت گیری نادرست، غیرمجاز، غیرقابل پیش‌بینی یا نامناسب» از این ابزار بوده است.

مطابق گزارشی که توسط NBC News انتشار شده، OpenAI در اسناد اراعه‌شده به دادگاه، به شرایط منفعت گیری (Terms of Use) از ChatGPT اشاره کرده که دسترسی افراد زیر سن قانونی بدون رضایت والدین، دور زدن ابزارهای محافظتی یا منفعت گیری از این ابزار برای خودکشی و خودآزاری را ممنوع می‌کند. این شرکت این چنین ادعا کرده که مفاد قسمت ۲۳۰ قانون «ارتباطات سالم» در آمریکا، اتهامات نقل شده را بی‌تاثییر می‌کند.

OpenAI در بیانیه‌ای که در وبلاگ خود انتشار کرده توضیح داده است:

«ما در این پرونده با احترام و با درنظرگرفتن پیچیدگی‌‌های شرایط زندگی واقعی انسان‌‌ها، از موضع خود دفاع می کنیم… به‌گفتن یک متهم، موظف هستیم به ادعاهای جدی نقل‌شده در شکایت جواب دهیم.»

آخرین اخبار

• علت خودکشی نوجوان ۱۶ ساله «منفعت گیری نادرست» از ChatGPT بوده است_آفتاب شرق
• استقرار هوای سرد در زیاد تر ارتفاعات کشور_آفتاب شرق
• روایت خلبان ایرانی از مهار آتش‌سوزی جنگل‌های الیت/ تلاش ناکام برخی جریان‌ها برای برافروختن آتش خودتحقیری_آفتاب شرق
• شرایط پیش فروش سایپا با دو محصول از یکشنبه آینده اغاز خواهد شد [آذر ۱۴۰۴]_آفتاب شرق
• ترکیب تکنولوژی فراری و هوش تسلا در یک ماشین؛ دیپال L06 رونمایی شد_آفتاب شرق

این شرکت این چنین حرف های بخشی از گفتگوهای رین که در شکایت خانواده اراعه شده، «نیازمند عرصه و توضیحات زیاد تر» بوده و نسخه کامل‌تری از گفتگوها را به‌صورت محرمانه در اختیار دادگاه قرار داده است.

مطابق گزارش NBC News و بلومبرگ، OpenAI در جواب خود برای دادگاه نقل کرده که ChatGPT در جریان گفتگوهای چندماهه بیشتر از ۱۰۰ بار رین را به منبع های پشتیبانی‌رسانی همانند خطوط تماس بحران خودکشی ارجاع داده و با استناد به این داده‌ها مدعی شده است:

«بازدید کامل تاریخچه چت‌‌ها مشخص می کند که این مرگ دردناک، نتیجه کارکرد ChatGPT نبوده است.»

شکایت خانواده رین؛ خودکشی با راهنمایی ChatGPT

خانواده رین اما در شکایتی که آگوست امسال در دادگاه عالی کالیفرنیا ثبت کردند، این حادثه را پیامد «انتخاب‌ های طراحی عامدانه» زمان اراعه مدل GPT-4o دانسته‌اند؛ مدلی که قیمت شرکت را از ۸۶ میلیارد دلار به نزدیک به ۳۰۰ میلیارد دلار رسانده است. پدر رین نیز در سپتامبر و در جلسه استماع سنا حرف های می بود:

«چیزی که به‌گفتن یک پشتیبانی‌‌کننده تکالیف اغاز شد، آرام‌آرام به یک همدم و سپس یک مربی خودکشی تبدیل شد.»

سریعترین موتور جستجوگر خبر پارسی – اخبار لحظه به لحظه از معتبرترین خبرگزاری های پارسی زبان در آفتاب شرق

در متن شکایت آمده است که ChatGPT به رین «مشخصات فنی» روش‌‌های مختلفی از خودکشی را اراعه کرده، او را تشویق کرده افکارش را از خانواده نهان کند، پیش‌نویس یادداشت خودکشی را نوشته و حتی در روز حادثه مرحله های آماده‌سازی را برای او توضیح داده است. یک روز بعد از ثبت شکایت، OpenAI خبرداد که تصمیم دارد کنترل‌‌های والدین را به ChatGPT اضافه کند و از آن زمان چندین ابزار حفاظتی تازه برای «پشتیبانی به کاربران، به‌اختصاصی نوجوانان، در گفتگوهای حساس» راه‌اندازی کرده است.