سه محقق امنیتی از استارتاپ هک‌تران (Hacktron) با بهره‌گیری از هوش مصنوعی کلود (Claude) متعلق به شرکت آنتروپیک (Anthropic)، موفق شدند ظرف کمتر از ۷۲ ساعت به حساب‌های کاربری و مخزن کدهای داخلی شرکت اوپن‌ای‌آی (OpenAI) نفوذ کنند. این پژوهشگران با پیوند دادن یک آسیب‌پذیری پردازش تصویر در انجمن گفت‌وگوی اوپن‌ای‌آی با رخنه‌ای در ساختار احراز هویت، راه خود را به محیط توسعه داخلی این غول هوش مصنوعی باز کردند.
هوش مصنوعی کلود و نفوذ ۷۲ ساعته به اوپن‌ای‌آی
فهرست مطالب
محققان با استفاده از نسخه کلود اوپوس (Claude Opus) ضعف سرریز بافر را در کتابخانه تحلیل تصویر شناسایی کردند و در کمتر از چند ساعت موفق به ساخت اکسپلویت اجرایی شدند. پس از ورود به انجمن، نقص سیستم ورود یکپارچه اجازه داد پژوهشگران به حساب‌های چت‌جی‌پی‌تی و کدکس (Codex) نفوذ کرده و از طریق اتصال گیت‌هاب (GitHub) کارمند هدف، به مخازن نرم‌افزاری دست یابند. اوپن‌ای‌آی پس از دریافت گزارش، این نقص را ظرف ۱۴ ساعت رفع و پاداشی ۶,۵۰۰ دلاری پرداخت کرد.
کاهش زمان حملات سایبری با ابزارهای هوش مصنوعی
این آزمایش نشان می‌دهد ابزارهای تولید کد و هوش مصنوعی تا چه میزان چرخه توسعه ابزارهای نفوذ را فشرده کرده‌اند؛ موضوعی که زنگ خطری جدی برای متمرکز شدن فرایندهای توسعه بر روی دستیارهای هوشمند به شمار می‌رود.
موهان پدهاپاتی (Mohan Pedhapati)، هم‌بنیان‌گذار هک‌تران در حساب خود در شبکه اجتماعی ایکس نوشت:
نتیجه کلیدی ما از نفوذ به اوپن‌ای‌آی این است که هوش مصنوعی نیاز به تخصص‌های کمیاب را برای طراحی ابزارهای نفوذ کاهش می‌دهد. کارهایی که پیش‌تر ماه‌ها زمان می‌برد، اکنون ظرف چند روز انجام می‌شود و حتی پیشرفته‌ترین آزمایشگاه‌های فناوری نیز نفوذپذیر هستند.
نکته مهم در این ماجرا، زنجیره‌ای بودن نفوذ است. هیچ‌یک از سه حلقه این زنجیره به‌تنهایی یک شکاف کامل محسوب نمی‌شود: یک آسیب‌پذیری در پردازش تصویر، یک نقص در ورود یکپارچه و یک اتصال گیت‌هاب که دسترسی را به مخزن کد گسترش می‌دهد. اما در کنار هم، این حلقه‌ها مسیری از یک بخش کم‌اهمیت تا قلب محیط توسعه شرکت ساخته‌اند و همین موضوع، ارزش آزمایش را از نگاه امنیتی بالا می‌برد.
سرعت هم بخش دیگری از ماجراست. ساخت اکسپلویت برای ضعفی مانند سرریز بافر معمولاً به تخصص سطح پایین و زمان قابل توجه نیاز دارد، اما در این آزمایش هوش مصنوعی کلود این مرحله را به چند ساعت کاهش داده است. وقتی فاصله میان کشف و بهره‌برداری این‌قدر کوتاه شود، پنجره زمانی که تیم‌های امنیتی برای وصله کردن در اختیار دارند نیز به همان نسبت فشرده می‌شود.
واکنش اوپن‌ای‌آی نیز الگویی آشنا در برنامه‌های افشای مسئولانه است: رفع نقص در بازه‌ای کوتاه و پرداخت پاداش به پژوهشگر. چنین رویکردی نشان می‌دهد همکاری با محققان امنیتی، در برابر وسوسه پیگیری حقوقی، مسیر سریع‌تری برای بستن شکاف‌ها فراهم می‌کند. با این حال، خود گزارش نیز یادآور می‌شود که پیشرفته‌ترین آزمایشگاه‌ها هم در برابر این نوع حملات مصون نیستند و اعتماد به برند، جای کنترل‌های فنی را نمی‌گیرد.
بیشتر بخوانید: مراقب ربات‌های ترید باشید! سرقت ۲۷۴ اتریوم با آموزش‌های جعلی در یوتیوب
گزارش‌های بیشتر درباره امنیت شرکت‌های هوش مصنوعی را می‌توانید در رویترز دنبال کنید.
پرسش‌های متداول
هوش مصنوعی کلود در این نفوذ چه نقشی داشت؟
محققان با نسخه کلود اوپوس ضعف سرریز بافر را در کتابخانه تحلیل تصویر شناسایی کردند و در کمتر از چند ساعت اکسپلویت اجرایی آن را ساختند.
نفوذ به اوپن‌ای‌آی چقدر طول کشید؟
کل این فرایند کمتر از ۷۲ ساعت زمان برد و اوپن‌ای‌آی پس از دریافت گزارش، نقص را ظرف ۱۴ ساعت رفع کرد.
مهاجمان از چه مسیری به مخازن کد دست یافتند؟
آنها ابتدا از آسیب‌پذیری پردازش تصویر در انجمن گفت‌وگو وارد شدند، سپس نقص سیستم ورود یکپارچه امکان دسترسی به حساب‌های چت‌جی‌پی‌تی و کدکس را داد و از طریق اتصال گیت‌هاب کارمند هدف به مخازن نرم‌افزاری رسیدند.
اوپن‌ای‌آی چه پاداشی پرداخت کرد؟
این شرکت پس از دریافت گزارش، نقص را ظرف ۱۴ ساعت برطرف کرد و پاداشی ۶,۵۰۰ دلاری به پژوهشگران پرداخت کرد.
جمع‌بندی
این آزمایش نشان می‌دهد هوش مصنوعی کلود هم ابزار دفاع است و هم می‌تواند چرخه ساخت ابزار نفوذ را کوتاه کند. ترکیب یک آسیب‌پذیری کوچک با نقص احراز هویت و اتصال گیت‌هاب، مسیری تا قلب محیط توسعه اوپن‌ای‌آی ساخته است. درس اصلی برای سازمان‌ها روشن است: امنیت هر لایه به‌تنهایی کافی نیست و سرعت وصله کردن، به اندازه خود آسیب‌پذیری اهمیت دارد.