تحقیقات آمازون مسبب تصمیم کاخ سفید برای ممنوع‌سازی مدل Fable 5 آنتروپیک بوده است

براساس گزارشی که وال استریت ژورنال منتشر کرده، فرمانی که روز گذشته منجر به قطع دسترسی به مدل‌های هوش مصنوعی Fable 5 و Mythos 5 شرکت آنتروپیک شد، تا حدودی به دلیل تحقیقات امنیت سایبری شرکت آمازون و گفتگوهای میان «اندی جاسی»، مدیرعامل آمازون، با کاخ سفید شکل گرفته است.

در این گزارش گفته شده که آمازون در تحقیقات خود ادعا می‌کند که توانسته از طریق مجموعه‌ای از پرامپت‌ها یا همان دستورهای متنی، مدل Fable 5 را وادار به ارائه اطلاعاتی کند که می‌توان از آنها در حملات سایبری استفاده کرد.

مدت کوتاهی پس از آنکه جاسی یافته‌های این شرکت را با دولت در میان گذاشت، کاخ سفید تصمیم گرفت استفاده از این مدل‌ها را برای اتباع خارجی مسدود کند. موضوع زمانی پیچیده‌تر می‌شود که بدانیم بسیاری از محققان خود شرکت آنتروپیک، متولد خارج از ایالات متحده هستند و این یعنی که آنها اکنون از دسترسی به محصولی که خودشان توسعه داده‌اند، محروم شده‌اند.

واکنش آنتروپیک و کارشناسان به تصمیم دولت

شرکت آنتروپیک با انتشار بیانیه‌ای، توصیف دولت از این مشکل به عنوان «جیلبریک» (Jailbreak) یا همان دور زدن قفل‌های امنیتی را رد کرد. این شرکت استدلال کرده که بسیاری از همین آسیب‌پذیری‌ها در سایر مدل‌های موجود برای عموم، از جمله GPT 5.5 نیز قابل کشف است.

برخی از محققان امنیتی نیز از این تفسیر آنتروپیک حمایت کرده‌اند. «کیتی موسوریس»، بنیان‌گذار و مدیرعامل شرکت LutaSecurity، در شبکه اجتماعی بلواسکای اعلام کرده که این مشکل جیلبریک نیست. از سوی دیگر، «کیت کورن»، مقام سابق وزارت بازرگانی، در گفتگو با وال استریت ژورنال گمانه‌زنی کرد که احتمالاً نارضایتی و مخالفت کاخ سفید با آنتروپیک روی این تصمیم تأثیرگذار بوده است.

آنتروپیک و دولت ترامپ از مدتی پیش به دلیل مخالفت این شرکت با استفاده از هوش مصنوعی خود در نظارت انبوه بر شهروندان آمریکایی یا تأمین قدرت سلاح‌های خودمختار مرگبار، با یکدیگر اختلاف داشته‌اند. در ماه فوریه، ترامپ به آژانس‌های فدرال دستور داد تا استفاده از هوش مصنوعی آنتروپیک را متوقف کنند و تنها چند ساعت بعد، «پیت هگست»، وزیر دفاع، این شرکت را به عنوان ریسکی برای زنجیره تأمین معرفی کرد.

هرچند به نظر می‌رسید دولت و این شرکت در ادامه به توافقاتی رسیده و برای گسترش دسترسی به مدل Mythos با یکدیگر همکاری کرده بودند، اما اکنون به نظر می‌رسد این دو مجموعه بار دیگر در مسیر تقابل قرار گرفته‌اند.