OpenAI دو مدل هوش مصنوعی تازه برای ترقی ایمنی آنلاین معارفه کرد_آفتاب شرق

OpenAI امروز از دو مدل استدلالگر تازه رونمایی کرده که گسترش‌دهندگان می‌توانند از آنها برای شناسایی و دسته‌بندی انواع صدمه‌های آنلاین در پلتفرم‌های خود منفعت گیری کنند.

به گزارش CNBC، این مدل‌ها با نام‌های gpt-oss-safeguard-120b و gpt-oss-safeguard-20b معارفه شده‌اند که اندازه آنها هم اشکار است و نسخه‌های تطبیق‌یافته و بهینه‌شده مدل‌های gpt-oss می باشند که OpenAI در آگوست اراعه داده می بود.

معارفه مدل‌های تازه OpenAI

این مدل‌ها به‌گفتن مدل‌های وزن-باز (open-weight) اراعه شده‌اند، به این معنی که پارامترهای مدل که کیفیت خروجی و دقت پیش‌بینی‌ها را تعیین می‌کنند، به‌صورت عمومی در دسترس می باشند. این نوع مدل‌ها امکان شفافیت و کنترل زیاد تر را برای کاربران فراهم می‌کنند، و اندکی با مدل‌های متن‌باز که کد منبع آنها برای ویرایش و شخصی‌سازی در دسترس است، تفاوت دارند.

OpenAI اظهار کرده است که سازمان‌ها می‌توانند این مدل‌ها را با سیاست‌ها و نیازهای خاص خود تنظیم کنند. از آنجایی که این مدل‌ها قابلیت استدلال و توضیح روال تصمیم‌گیری خود را دارند، گسترش‌دهندگان می‌توانند به‌طور مستقیم دریابند که مدل چطور به یک نتیجه اشکار رسیده است. برای مثال، یک سایت نقدوبررسی محصولات می‌تواند از مدل‌های gpt-oss-safeguard برای شناسایی بازدید‌های جعلی منفعت گیری کند یا یک انجمن بازی‌های ویدیویی می‌تواند پست‌های مرتبط با تقلب و تخلفات را طبقه‌بندی کند.

این مدل‌ها با همکاری دیسکورد، SafetyKit و ROOST که آخری یک سازمان فعال در عرصه تشکیل زیرساخت‌های ایمنی برای هوش مصنوعی است، گسترش یافته‌اند. اکنون مدل‌ها در حالت پیش‌نمایش تحقیقاتی اراعه شده‌اند و OpenAI تصمیم دارد از بازخورد پژوهشگران و متخصصان ایمنی منفعت‌مند شود.

معارفه این مدل‌ها می‌تواند به OpenAI پشتیبانی کند تا به برخی منتقدانش حوالی تجاری‌سازی سریع و رشد بدون دقت به اخلاق و ایمنی هوش مصنوعی پاسخی داده باشد. قیمت OpenAI اکنون نزدیک به ۵۰۰ میلیارد دلار است و چت‌بات ChatGPT بیشتر از ۸۰۰ میلیون کاربر فعال هفتگی دارد. روز سه‌شنبه OpenAI خبرداد که ساختار سازمانی خود را بازسازی کرده است.

کاربران می‌توانند وزن مدل‌ها را از Hugging Face دانلود کنند. «کامیل فرانسوا»، رئیس ROOST، در بیانیه‌ای او گفت:

«با پیشرفت سریع هوش مصنوعی، ابزارهای ایمنی و تحقیقات بنیادی نیز باید همزمان پیشرفت کنند و برای همه قابل دسترس باشند.»