آنتروپیک مانع استفاده چند دانشمند از Claude برای ساخت سلاح‌های بیولوژیکی شد

براساس گزارش جدیدی که آنتروپیک منتشر کرده، این شرکت چندین دانشمند را که از مدل‌های هوش مصنوعی آن برای ساخت سلاح‌های بیولوژیکی احتمالی استفاده می‌کردند، شناسایی و فعالیت آنها را متوقف کرد.

گزارش آنتروپیک شامل پنج نمونه از استفاده از مدل‌های این شرکت برای توسعه سلاح‌های بیولوژیکی، اقدامات ایمنی که این سوءاستفاده‌ها را شناسایی کردند و واکنش شرکت به آن‌هاست. همان‌طور که آنتروپیک توضیح داده، تشخیص سوءاستفاده احتمالی پیچیده است؛ زیرا تحقیقات برای ساخت یک واکسن جدید می‌تواند بسیار شبیه به فرایند ساخت یک سلاح بیولوژیکی باشد. این شرکت می‌گوید در تمام این موارد، به دلیل پیامدهای احتمالی، احتیاط بیش از حد را رعایت کرده است

استفاده از Claude برای تحقیقات سلاح‌های بیولوژیکی

«جیکوب کلین» مدیر اطلاعات تهدیدات آنتروپیک، گفت:

«شما با فردی مواجه نیستید که به سبک شخصیت‌های کتاب‌های کمیک بگوید: «می‌خواهم یک سلاح بیولوژیکی بسازم تا همه را بکشم.» این یک موقعیت فوق‌العاده پیچیده و ظریف است.»

آنتروپیک می‌گوید در یکی از نمونه‌های بررسی‌شده سامانه طبقه‌بندی ایمنی زیستی این شرکت درخواستی را شناسایی کرد که از Claude می‌خواست یک پروپوزال پژوهشی برای تحقیقات Gain-of-Function روی ویروس چیکونگونیا تهیه کند. به گفته شرکت، این ویروس هیچ درمان تأییدشده‌ای ندارد و می‌تواند برای هفته‌ها یا ماه‌ها علائم ناتوان‌کننده ایجاد کند.

تحقیقات Gain-of-Function به بررسی روش‌های تغییر ژنتیکی یک موجود زنده می‌پردازد و در مورد این ویروس خاص، طرح پیشنهادی شامل افزایش قابلیت انتقال ویروس و توانایی آن برای فرار از پاسخ ایمنی بدن بود. این ترکیب خطرناک به نظر می‌رسید و آنتروپیک می‌گوید وابستگی پژوهش پیشنهادی به یک مؤسسه تحقیقاتی نظامی، نگرانی‌ها را بیشتر کرده بود.

این شرکت در مورد تحقیقات Gain-of-Function روی آنفلوانزای پرندگان نیز نگرانی مشابهی داشت. در موردی دیگر نیز یک پژوهشگر از Claude برای ایجاد اطلس پپتیدهای سمی موجود در زهر و یک فرایند تولیدی برای بهینه‌سازی ویژگی‌های سموم استفاده کرده بود. گزارش کامل همچنین نمونه‌هایی از استفاده از مدل‌های آنتروپیک به‌عنوان ابزار نظارتی و برای ایجاد آسیب‌پذیری‌های نرم‌افزاری، تبلیغات و سیستم‌های تسلیحاتی را شامل می‌شود.

به گفته آنتروپیک، حساب تمام افرادی که از Claude یا مدل‌های این شرکت سوءاستفاده کرده بودند، مسدود شده است. همچنین یافته‌های این تحقیقات برای بهبود بیشتر چارچوب‌های ایمنی مدل‌ها و جلوگیری از سوءاستفاده‌های آینده مورداستفاده قرار می‌گیرند.

باتوجه‌به ماهیت پیچیده سوءاستفاده‌های بیولوژیکی، آنتروپیک نام افراد یا مؤسساتی را که از مدل‌هایش برای توسعه این موارد خطرناک استفاده کرده‌اند، اعلام نکرده است.