علت خودکشی نوجوان ۱۶ ساله «منفعت گیری نادرست» از ChatGPT بوده است_آفتاب شرق

OpenAI در عکس العمل به شکایت خانواده یک نوجوان ۱۶ ساله‌ به نام «آدام رین» که بعد از ماه‌ها گفتگو با ChatGPT دست به خودکشی زده می بود، مسئولیت این حادثه را نپذیرفته و پافشاری کرده است که صدمه‌های این «رخداد تراژیک» نتیجه «منفعت گیری نادرست، غیرمجاز، غیرقابل پیش‌بینی یا نامناسب» از این ابزار بوده است.

مطابق گزارشی که توسط NBC News انتشار شده، OpenAI در اسناد اراعه‌شده به دادگاه، به شرایط منفعت گیری (Terms of Use) از ChatGPT اشاره کرده که دسترسی افراد زیر سن قانونی بدون رضایت والدین، دور زدن ابزارهای محافظتی یا منفعت گیری از این ابزار برای خودکشی و خودآزاری را ممنوع می‌کند. این شرکت این چنین ادعا کرده که مفاد قسمت ۲۳۰ قانون «ارتباطات سالم» در آمریکا، اتهامات نقل شده را بی‌تاثییر می‌کند.

OpenAI در بیانیه‌ای که در وبلاگ خود انتشار کرده توضیح داده است:

«ما در این پرونده با احترام و با درنظرگرفتن پیچیدگی‌‌های شرایط زندگی واقعی انسان‌‌ها، از موضع خود دفاع می کنیم… به‌گفتن یک متهم، موظف هستیم به ادعاهای جدی نقل‌شده در شکایت جواب دهیم.»

آخرین اخبار

• آیا ایمپلنت دندان باعث بوی بد دهان می‌شود؟ بررسی علت‌ها و راهکارهای پیشگیری
• راهنمای جامع و مرجع تخصصی سرمایه‌گذاری سکه در ارومیه؛ عبور از بحران تقلب تا طلوع بورس سکه امین خردمند
• دانلود آهنگ فرشته‌ ی من از امیر خوشنگار
• استعلام ممنوع الخروجی | چه کسانی ممنوع‌الخروج می‌شوند و چطور بررسی کنیم؟
• فیلم The Samurai and the Prisoner+ تریلر و داستان_آفتاب شرق

این شرکت این چنین حرف های بخشی از گفتگوهای رین که در شکایت خانواده اراعه شده، «نیازمند عرصه و توضیحات زیاد تر» بوده و نسخه کامل‌تری از گفتگوها را به‌صورت محرمانه در اختیار دادگاه قرار داده است.

مطابق گزارش NBC News و بلومبرگ، OpenAI در جواب خود برای دادگاه نقل کرده که ChatGPT در جریان گفتگوهای چندماهه بیشتر از ۱۰۰ بار رین را به منبع های پشتیبانی‌رسانی همانند خطوط تماس بحران خودکشی ارجاع داده و با استناد به این داده‌ها مدعی شده است:

«بازدید کامل تاریخچه چت‌‌ها مشخص می کند که این مرگ دردناک، نتیجه کارکرد ChatGPT نبوده است.»

شکایت خانواده رین؛ خودکشی با راهنمایی ChatGPT

خانواده رین اما در شکایتی که آگوست امسال در دادگاه عالی کالیفرنیا ثبت کردند، این حادثه را پیامد «انتخاب‌ های طراحی عامدانه» زمان اراعه مدل GPT-4o دانسته‌اند؛ مدلی که قیمت شرکت را از ۸۶ میلیارد دلار به نزدیک به ۳۰۰ میلیارد دلار رسانده است. پدر رین نیز در سپتامبر و در جلسه استماع سنا حرف های می بود:

«چیزی که به‌گفتن یک پشتیبانی‌‌کننده تکالیف اغاز شد، آرام‌آرام به یک همدم و سپس یک مربی خودکشی تبدیل شد.»

سریعترین موتور جستجوگر خبر پارسی – اخبار لحظه به لحظه از معتبرترین خبرگزاری های پارسی زبان در آفتاب شرق

در متن شکایت آمده است که ChatGPT به رین «مشخصات فنی» روش‌‌های مختلفی از خودکشی را اراعه کرده، او را تشویق کرده افکارش را از خانواده نهان کند، پیش‌نویس یادداشت خودکشی را نوشته و حتی در روز حادثه مرحله های آماده‌سازی را برای او توضیح داده است. یک روز بعد از ثبت شکایت، OpenAI خبرداد که تصمیم دارد کنترل‌‌های والدین را به ChatGPT اضافه کند و از آن زمان چندین ابزار حفاظتی تازه برای «پشتیبانی به کاربران، به‌اختصاصی نوجوانان، در گفتگوهای حساس» راه‌اندازی کرده است.