شرکتی که به دیگران درمورد هوش مصنوعی مشاوره می‌دهد، خودش فریب توهمات آن را خورد. مؤسسه حسابرسی و مشاوره KPMG، یکی از چهار شرکت بزرگ حسابداری جهان، در ماه اکتبر سال قبل گزارشی درمورد مزایای هوش مصنوعی انتشار کرد که اکنون اشکار شده پر از اطلاعات ساختگی و توهمات هوش مصنوعی بوده است.

محققان شرکت GPTZero که سازنده ابزارهای تشخیص محتوای هوش مصنوعی است، با بازدید دقیق گزارش KPMG فهمید شدند که از بین ۴۵ منبع ذکرشده، فقط پنج مورد به منبع های واقعی و معتبر ارجاع داده‌اند، باقی آنها منبع های جعلی بودند یا قسمت‌های ساختگی به منبع های واقعی اضافه شده می بود؛ ۱۲ مورد نیز آن‌قدر مبهم نوشته شده که وجود خارجی آن‌ها قابل قبول نبوده است. محققان تشکیل منبع های جعلی توسط مدل‌های هوش مصنوعی را در این گزارش، Vibe Citing نام‌گذاری کرده‌اند.

گزارش KPMG درمورد مزایای هوش مصنوعی

برندهای شناخته‌شده‌ای همانند شرکت هواپیمایی امارات، بانک سوئیسی UBS و راه‌آهن فدرال سوئیس بدون خبر خودشان به‌گفتن مثالهای موفق منفعت گیری از هوش مصنوعی در مقاله KPMG معارفه شدند.

برای نمونه، نویسندگان این گزارش ادعا کرده بودند که شرکت هواپیمایی امارات یک چت‌بات به نام Sara دارد که می‌تواند پرواز مسافران را تحول دهد؛ درحالی‌که سارا تنها یک دستیار موبایلی ساده است که در سال ۲۰۲۳ راه‌اندازی شد و هیچ قابلیتی برای تحول رزروها ندارد.

در موردی دیگر، این گزارش ادعا کرده می بود که بانک یوبی‌اس هوش مصنوعی را در قسمت‌های مدیریت ریسک و مشاوره اندوخته‌گذاری ادغام کرده است، اما سخنگوی این بانک بلافاصله این اطلاعات را نادرست خواند و خواستار حذف آن شد. ادعاهای شبیهی درمورد منفعت گیری از هوش مصنوعی برای پیش‌بینی ترافیک در سازمان حمل‌ونقل لندن و پیش‌بینی بستری بیماران در سیستم بهداشت ملی منچستر نیز نقل شد که سخنگویان این سازمان‌ها همه آن‌ها را گمراه‌کننده و بی‌مبنا توصیف کرده‌اند.

«ادوارد تیان» (Edward Tian)، مدیرعامل GPTZero هشدار می‌دهد که انتشار کردن مقالات پر از نادرست توسط شرکت‌های نقل، چشمه اطلاعات را مسموم می‌کند و به گسترش توهمات دست‌دوم هوش مصنوعی دامن می‌زند. مقاله‌های شرکت‌هایی همانند KPMG به‌گفتن منابعی معتبر در دیگر پژوهش‌ها مورد استناد قرار می‌گیرند و اطلاعات نادرست آن‌ها به‌شدت در نشریات تخصصی پخش می‌شود.

بعد از افشای این رسوایی، سخنگوی کی‌پی‌ام‌جی خبرداد که این شرکت دقت محتوای خود را جدی می‌گیرد و به همین علت، گزارش مذکور را از همه وب‌سایت‌های خود حذف کرده تا شرایط انتشار کردن آن را بازدید کند.