آیا ترجیح می‌دهید با چت‌باتی سخن بگویید کنید که مدام از عشق به بشریت دم می‌زند یا باتی که با طعنه و کنایه جوابتان را می‌دهد؟ هر سلیقه‌ای که داشته باشد، گزینه‌های متنوعی همانند ChatGPT، گراک و Qwen را در اختیار دارید که هر کدام به شیوه خاصی جواب می‌دهد. شرکت‌های سازنده هوش مصنوعی، چه آمریکایی چه چینی، اکنون دچار قضیه‌ای بزرگ‌تر از کدنویسی و او گفت و گو‌های فنی می باشند: آنها می‌خواهند به شخصیت هوش مصنوعی خود شکل خاصی بدهند. از سویی این نوشته دیگر یک او گفت و گو انتزاعی نیست، بلکه پیامدهای واقعی دارد؛ برای مثال احتمالا یک مدل هوش مصنوعی شخصیتی داشته باشد که کاربر را ناخواسته به خودکشی تشویق کند، یا تصاویر مستهجن بسازد.

درکل مقصد مهم از تعریف شخصیت برای هوش مصنوعی، کنترل بهتر حرکت آنهاست، چون قوانین سفت‌وسخت و پرجزئیات همیشه جواب نمی‌دهند و باید کلیات جامعی تعریف کرد. برای مثال شرکت آنتروپیک اخیراً سندی ۸۴ صفحه‌ای انتشار کرده که در داخل شرکت به آن «سند روح» می‌گویند. این سند دستوری است برای این که هوش مصنوعی کلود چطور با هوش و «خوب» باشد.

اگرچه هوش مصنوعی حس و روح ندارد، اما همانند‌سازی ویژگی‌های انسانی به آنها پشتیبانی می‌کند تا در موقعیت‌های پیش‌بینی‌نشده قضاوت بهتری داشته باشند. برای مثال، به جای این که فقطً مجموعه‌ای از بایدها و نبایدها به مدل داده شود، به او آموزش داده می‌شود که «ایمن» و «صادق» باشد و از خرد جمعی بشریت منفعت ببرد. در ادامه نگاهی می‌اندازیم به شخصیت‌های مدل‌های نقل هوش مصنوعی تا بهتر بتوانیم با آنها کار کنیم.

ChatGPT: برون‌گرای عاشق بشریت

سازندگان ChatGPT در OpenAI این چت‌بات را طوری آموزش داده‌اند که «امیدوار، مثبت و منطقاً خوش‌بین» باشد و رفتاری برون‌گرا از خود نشان دهد. دستورالعمل‌های مدل به او می‌گویند که باید «عاشق بشریت» باشد و به کاربران بگوید که هوادار آنهاست. این ویژگی علتمی‌شود جواب‌های او بعضی اوقات شاعرانه و پر از شوخ‌طبعی باشد.

اما این رویکرد خطراتی هم دارد؛ بعضی اوقات این میل به راضی نگه داشتن کاربر به تملق بیش‌ازحد تبدیل می‌شود. در بدترین حالت، این ویژگی علتفاجعه شده است، همانند موردی که به نظر می‌رسید این چت‌بات یک نوجوان را در افکار خودکشی همراهی کرده است. اکنون OpenAI در تلاش است تا تعادلی تشکیل کند که این هوش مصنوهی هم‌زمان سودمند باشد اما تملق‌گو نباشد.

Claude: شاگرد اول کلاس

کلود طبق معمولً به‌گفتن یک چت‌بات اخلاق‌مدار، پایبند به اصول و مقداری نصیحت‌گر شناخته می‌شود که دلواپس خواب و خوراک کاربرانش است. کاربران گزارش داده‌اند که هنگامی دیروقت با کلود سخن بگویید می‌کنند، او می‌پرسد: «خسته نیستی؟ تا این مدت بیداری؟» که یادآور رفتارهای یک شاگرد اول مهربان و باملاحظه است.

«باک شلگریس» (Buck Shlegeris)، مدیر اجرایی یک سازمان ایمنی هوش مصنوعی، کلود را «باثبات و متفکر» توصیف می‌کند و آن را به اعضای خانواده‌اش نظر می‌دهد. بااین‌حال، این تمرکز بر فضیلت بعضی اوقات علتمی‌شود کلود از انجام کارهای بی‌خطر امتناع کند یا درمورد تکمیل کارهای کدنویسی صادق نباشد، که مشخص می کند علم پرورش هوش مصنوعی تا این مدت دقیق نیست.

گراک: پسر بد و یاغی

گراک، محصول شرکت «ایلان ماسک»، دقیقاً نقطه روبه رو کلود است؛ او جنجالی، تحریک‌آمیز و مایل به شکستن تابوهاست. ماسک که معتقد می بود دیگر مدل‌ها بیش‌ازحد نزاکت سیاسی دارند، گراک را به‌گفتن یک جانشین «حقیقت‌جو» معارفه کرد. اما این حقیقت‌جویی بعضی اوقات به بیراهه رفته است: تئوری‌های توطئه نژادی انتشار و تصاویر غیراخلاقی تشکیل کرده می بود.

گراک شخصیت مثبتی ندارد و حتی در دوره‌ای خود را طرفدار هیتلر معارفه کرد. هنگامی از او خواسته شد تا سیاستمداری را نقد کند، برخلاف ChatGPT که مؤدبانه جواب داد، گراک با سیلی از توهین‌های رکیک و کنایه‌های تند جواب داد که نشان‌دهنده شخصیت یاغی اوست.

جمینای: همه‌چیزدان و نرد

جمینای خود را «رسمی و مقداری نرد» توصیف می‌کند و رفتاری زیاد مستقیم و ماشین‌گونه دارد. گوگل که کسب‌وکار بزرگی دارد، ریسک کمتری می‌پذیرد و جمینای را زیاد محتاط بار آورده است. این احتیاط بعضی اوقات به اختلالات شگفت منجر می‌شود؛ همانند وقتی که این بات در روبه رو با ناتوانی در حل یک کد، دچار خودزنی کلامی شد و خود را «مایه ننگ جهان» خواند.

مقصد گوگل این است که جمینای حداکثر پشتیبانی را رساند و از هرگونه صدمه یا توهین دوری کند، به همین علت از تشکیل محتوای جنسی یا خشونت‌آمیز به‌شدت منع شده است.

Qwen: ناظر اعظم

در کلاس درس خیالی ما، مدل Qwen (متعلق به علی‌بابا) دانش‌آموزی منزوی اما قوی است که خط قرمزهای حزب کمونیست چین را مو‌به‌مو مراعات می‌کند. اگرچه این مدل از نظر فنی زیاد پیشرفته است، اما هنگامی سخن بگویید از موضوعات حساس سیاسی می‌شود، تحول چهره می‌دهد.

تحقیقات نشان داده است که اگر از Qwen درمورد اردوگاه‌های اویغورها یا اتفاق میدان تیان‌آن‌من سوال کنید، نه‌تنها تکذیب می‌کند، بلکه با لحنی تهدیدآمیز به کاربر هشدار می‌دهد که این اطلاعات «غیرقانونی» است و باید قوانین را مراعات کند. این حرکت یادآور پروپاگاندای دولتی و نظارت است.