پژوهشگر سابق آنتروپیک: هوش مصنوعی ممکن است تا پایان این دهه بشر را نابود کند
جیکوب کاکسون (Jacob Coxon)، پژوهشگر سابق اوپنایآی (OpenAI) و شرکت انتروپیک (Anthropic)، با هشدار درباره خطرات هوش مصنوعی از سمت خود استعفا داده است.
وی معتقد است که رقابت شرکتهای بزرگ برای ساخت سیستمهای قدرتمندتر میتواند در سالهای آینده به تهدیدی جدی برای بشر تبدیل شود و حتی احتمال دارد هوش مصنوعی تا پایان این دهه همه انسانها را نابود کند.
به گفته کاکسون مشکل اصلی این است که شرکتهای فعال در این حوزه، با وجود آگاهی از خطرات احتمالی، همچنان با سرعت زیادی به توسعه مدلهای پیشرفته ادامه میدهند. به گفته او، اوپنایآی و انتروپیک در رقابت برای ساخت ابرهوشی هستند که بتواند تواناییهای خودش را بهبود دهد؛ مسیری که اگر کنترل نشود، میتواند پیامدهای خطرناکی برای بشر داشته باشد.
کاکسون در توضیح نگرانی خود گفت:
افرادی که هوش مصنوعی را میسازند، واقعاً معتقدند که این فناوری ممکن است تا پایان این دهه همه ما را از بین ببرد.
مدیر ارشد انتروپیک: احتمال نابودی بشر بیش از ۱۰ درصد است
نگرانی درباره خطر هوش مصنوعی تنها به کاکسون محدود نمیشود. ایوان هوبینگر (Evan Hubinger)، از مدیران ارشد تحقیقات ایمنی هوش مصنوعی در انتروپیک، اعلام کرده است که احتمال نابودی بشر بر اثر هوش مصنوعی در دهه آینده را بیش از ۱۰ درصد میداند. با این حال، او تأکید کرده که مدلهای فعلی چنین خطری ندارند و نگرانی اصلی مربوط به زمانی است که سیستمهای هوش مصنوعی بتوانند بدون دخالت انسان، خودشان را بهطور مداوم بهبود دهند و قدرتمندتر شوند.
کاکسون همچنین میگوید رقابت شدید میان شرکتهای هوش مصنوعی، کاهش سرعت توسعه این فناوری را دشوار کرده است. حتی اگر یک شرکت تصمیم بگیرد برای بررسی بیشتر خطرات سرعت خود را کاهش دهد، این نگرانی وجود دارد که رقیبش زودتر به فناوری پیشرفتهتری دست پیدا کند. او معتقد است شرکتهای بزرگ باید برای کاهش سرعت این رقابت با یکدیگر همکاری کنند و حتی توقف موقت توسعه برخی قابلیتهای پیشرفته را در نظر بگیرند.
استعفای کاکسون بار دیگر بحث درباره ایمنی نسلهای آینده هوش مصنوعی را پررنگ کرده است. نگرانی اصلی او این است که شرکتها پیش از اطمینان از امکان کنترل سیستمهای بسیار پیشرفته، به سمت ساخت آنها حرکت کنند. از نگاه او، تا زمانی که راه مطمئنی برای همسو نگهداشتن رفتار این سیستمها با منافع انسان وجود نداشته باشد، ادامه رقابت برای ساخت هوش مصنوعی قدرتمندتر میتواند خطراتی جدی به همراه داشته باشد.