هشدار مدیرعامل گوگل دیپ‌مایند: فرصت بشریت برای تضمین امنیت AGI کوتاه است

دمیس هاسابیس، مدیرعامل گوگل دیپ‌مایند، هشدار تکان‌دهنده‌ای درباره نزدیک بودن ظهور هوش مصنوعی بسیار قدرتمند صادر کرده و از بشریت خواسته است تا آمادگی خود را افزایش دهد. او در مقاله کوتاهی که روز سه‌شنبه در پلتفرم‌های ایکس و Substack منتشر کرد، اظهار داشت که انسان‌ها پیش از ورود به عصر هوش جامع مصنوعی یا AGI، یک «فرصت ارزشمند» برای اقدام در اختیار دارند. اصطلاح AGI به سیستمی اشاره دارد که می‌تواند وظایف شناختی را در سطح انسان یا فراتر از آن انجام دهد.

هاسابیس پیشنهاد تشکیل یک ائتلاف به رهبری ایالات متحده را مطرح کرده است تا پیش از انتشار عمومی پیشرفته‌ترین مدل‌های هوش مصنوعی، امنیت آنها ارزیابی شود. این اظهارات در پی اقدامات اخیر دولت ترامپ برای محدود کردن عرضه مدل‌های هوش مصنوعی توسط شرکت‌های OpenAI و آنتروپیک بیان شده است.

مدیرعامل دیپ‌مایند سال‌هاست که بر لزوم ایجاد یک مجمع رسمی از متخصصان برای هدایت دستاوردهای پیشرفته هوش مصنوعی، موسوم به مدل‌های پیشرو، تأکید دارد. پیشنهاد جدید او برای ایجاد یک «نهاد استاندارد»، واکنشی به رویکرد مداخله‌جویانه‌تر کاخ سفید در تنظیم مقررات هوش مصنوعی محسوب می‌شود.

او در یادداشت خود نوشت:

«پیشرفت سریع هوش مصنوعی نیازمند رویکردی جدید برای آزمایش قابلیت‌های مدل‌های پیشرو است؛ رویکردی که پویا، سازگار و دقیق باشد. ایالات متحده با توجه به جایگاه اقتصادی و فنی خود، پتانسیل بالایی برای برداشتن اولین قدم در توسعه چنین چارچوبی دارد.»

هاسابیس معتقد است این نهاد پیشنهادی می‌تواند شبیه به سازمان تنظیم مقررات صنعت مالی (FINRA) که یک نهاد نظارتی خصوصی و غیرانتفاعی در وال‌استریت است، عمل کند. او پیشنهاد داده که سازمان استانداردسازی هوش مصنوعی احتمالاً باید متکی به بودجه خود صنعت فناوری باشد.

مدیرعامل گوگل دیپ‌مایند در مقاله خود اشاره کرده که AGI احتمالاً تنها چند سال کوتاه با ما فاصله دارد. او پیش از این پیش‌بینی کرده بود که این فناوری ممکن است تا سال ۲۰۳۰ از راه برسد و هشدار داده بود که اقدامات کافی برای آمادگی در برابر آن صورت نگرفته است.

او همچنین بر اهمیت همکاری فلاسفه، اقتصاددانان و دیگر متخصصان برای بررسی تأثیرات کلان هوش مصنوعی تأکید کرد. هاسابیس در پست خود نوشت:

«ما می‌خواهیم با چه ارزش‌هایی زندگی کنیم؟ معنا و هدف چه خواهد بود و شرایط انسانی چگونه تغییر خواهد کرد؟ حل این پرسش‌ها قطعا نباید تنها به تکنولوژیست‌ها واگذار شود، بلکه نیازمند مشارکت همه ارکان جامعه برای تعریف این فصل جدید است. آنچه اکنون به صورت جمعی انجام می‌دهیم، نحوه شکل‌گیری مرحله بعدی تمدن را تعیین خواهد کرد.»