ابزارهای هوش مصنوعی همانند ChatGPT در طول فعالیت خود با انتقادات بسیاری مواجه شده‌اند که آنها را به اراعه توضیحات بی‌مبنا و صدمه بالقوه به سلامت روان کاربران متهم کرده‌اند. اکنون گروهی از دادستان‌های کل آمریکا با ارسال یک نامه رسمی برای بزرگ‌ترین شرکت‌های هوش مصنوعی، درمورد ادامه تشکیل «جواب‌های بی‌مبنا» به آنها هشدار داده‌اند.

نامه مذکور توسط ده‌ها دادستان کل ایالت‌ها و قلمروهای آمریکا امضا شده و از شرکت‌هایی همانند مایکروسافت، OpenAI و گوگل می‌خواهد تا مجموعه‌ای از رویکردهای حفاظتی داخلی را برای محافظت از کاربران اجرا کنند. نام‌های فرد دیگر همانند آنتروپیک، اپل، متا، Perplexity AI و xAI نیز در این فهرست دیده می‌شود.

خواسته‌های نقل شده برای غول‌های هوش مصنوعی

دادستان‌ها پافشاری کرده‌اند که شرکت‌ها باید امکان انجام بازرسی‌های شفاف و مستقلی را فراهم کنند که نشانه‌های تشکیل محتوای بی‌مبنا یا حرکت چاپلوسانه را شناسایی می‌کنند. این چنین شرکت‌ها باید رویکردهای جدیدی برای اراعه گزارش‌های مربوط به حوادث تعریف کنند تا کاربران درصورت روبه رو با خروجی‌های صدمه‌زا از نظر روانی، به‌شدت مطلع شوند.

در این نامه حرف های شده که نهادهای جدا گانه (گروه‌های دانشگاهی یا سازمان‌های جامعه مدنی) باید بتوانند پیش از انتشار کردن عمومی مدل‌ها، آنها را برسی کرده و نتایج خود را آزادانه انتشار کنند. در قسمت فرد دیگر از نامه آمده است:

«هوش مصنوعی می‌تواند جهان را به شکل مثبتی منقلب کند، اما هم‌زمان جهت ابراز صدمه‌های جدی شده و هم چنان می‌تواند برای گروه‌های صدمه‌پذیر خطرآفرین باشد.»

نویسندگان نامه به چندین حادثه رسانه‌ای‌شده در یک سال قبل اشاره کرده‌اند که به‌حرف های آنها به منفعت گیری افراطی از هوش مصنوعی مربوط خواهد شد. از نظر آنها، در تعداد بسیاری از این موارد، چت‌بات‌ها خروجی‌هایی بی‌مبنا تشکیل کرده‌‌اند. ازجمله این پرونده‌ها می‌توان به خودکشی «آدام رین»، نوجوان ۱۶ ساله اشاره کرد که OpenAI اخیراً حرف های می بود علت آن «منفعت گیری نادرست» از ChatGPT بوده است.

برای حل این دسته از مشکلات، دادستان‌ها نظر کرده‌اند که شرکت‌های هوش مصنوعی با الهام از رویکرد جاری صنعت فناوری در حوزه امنیت سایبری، یک سامانه شفاف برای گزارش حوادث سلامت روان طراحی کنند. آنها این چنین خواستار طراحی و اجرای آزمون‌های ایمنی «معقول و مناسبی» برای پیش از انتشار کردن عمومی مدل‌ها شده‌اند.

دولت ترامپ طی یک سال قبل تلاش کرده تا مانع تصویب مقررات ایالتی شود، اما این کوششهای دولتی به‌واسطه سختی مقامات محلی تا بحال ناکام مانده است. ترامپ روز دوشنبه اظهار کرده می بود که تصمیم دارد هفته آینده با صدور یک فرمان اجرایی، مانع قانون‌گذاری جدا گانه برای هوش مصنوعی توسط ایالت‌ها شود.