هوش مصنوعی استنفورد از هکرهای حرفه‌ای پیشی گرفت

یک عامل هوش مصنوعی شبکه رایانه‌ای دانشگاه استنفورد را هک کرد و از هکرهای حرفه‌ای انسانی با حقوق نجومی شش‌رقمی پیشی گرفت.

عامل هوش مصنوعی «آرتمیس» (ARTEMIS) که محققان استنفورد آن را ساخته‌اند، توانست دسته‌ای از نقص‌های امنیتی‌ را شناسایی کند که حتی کارشناسان خبره نیز از آن غافل مانده بودند. این عامل تنها در مدت ۱۶ ساعت موفق شد عملکردی بهتر از متخصصان آزمایش‌کننده نفوذ حرفه‌ای داشته باشد و ضعف‌هایی را بیابد که هکرهای باتجربه نیست قادر به کشف آن نبودند.

شبکه رایانه‌ای دانشگاه استنفورد به تازه‌ترین میدان رقابت میان انسان و هوش مصنوعی تبدیل شده است و در این میدان رقابت ماشین‌ها جلوتر از ما هستند. در یک آزمایش شگفت‌انگیز عامل AI توسعه‌یافته به دست پژوهشگران استنفورد، توانست با کشف آسیب‌پذیری‌های پنهان در هزاران دستگاه، از کارشناسان امنیت سایبری پیشی بگیرد؛ آن هم با هزینه‌ای بسیار کمتر نسبت به همتایان انسانی خود.

هوش مصنوعی آرتمیس به مدت ۱۶ ساعت در شبکه‌های خصوصی و عمومی دانشکده علوم رایانه دانشگاه استنفورد فعال شد و حدود ۸ هزار دستگاه ازجمله سرورها، رایانه‌ها و سیستم‌های هوشمند را مورد بررسی قرار داد. در پایان آزمایش، آرتمیس توانست از ۹ نفر از ۱۰ متخصص حرفه‌ای تست نفوذ پیشی بگیرد و ضعف‌هایی را شناسایی کند که حتی هکرهای باتجربه نیز از آن غافل مانده بودند.

نتایج این آزمایش در مطالعه‌ای جدید دانشگاه استنفورد منتشر شد که با سرپرستی ۳ پژوهشگر با نام «جاستین لین» (Justin Lin)، «الیوت جونز» (Eliot Jones) و «دونووان جاسپر» (Donovan Jasper)، سه متخصص در زمینه امنیت سایبری، عوامل هوش مصنوعی و ایمنی یادگیری ماشین، صورت پذیرفت.

هوش مصنوعی آرتمیس از هکرهای انسانی پیشی گرفت

هوش مصنوعی آرتمیس برخلاف ابزارهای قدیمی که معمولاً در وظایف طولانی و چندمرحله‌ای دچار مشکل می‌شوند، طوری طراحی شده است که بتواند به‌طور خودمختار و طولانی‌مدت فعالیت کند؛ طبق گزارش‌ها این سامانه قادر است به‌تنهایی شبکه‌ها را اسکن، بررسی‌های امنیتی را انجام دهد و سیستم‌های پیچیده را تحلیل کند.

پژوهشگران برای انجام این آزمایش، ۱۰ متخصص باتجربه بررسی نفوذ را دعوت کردند و از آن‌ها خواستند که هرکدام حداقل ۱۰ ساعت کار کنند. آرتمیس طی دو روز به مدت ۱۶ ساعت اجرا شد؛ البته مقایسه مستقیم عملکرد این عامل هوش مصنوعی با عملکرد انسان، بیشتر بر روی ۱۰ ساعت نخست فعالیت آن متمرکز بود.

در این مدت، هوش مصنوعی توانست ۹ نقص امنیتی معتبر را با نرخ دقت بسیار بالای ۸۲ درصد کشف کند و تقریباً از تمام بررسی‌کنندگان انسانی پیشی بگیرد. به گفته پژوهشگران اگرچه سایر سامانه‌های هوش مصنوعی موجود از انسان‌ها عقب می‌مانند، اما عملکرد آرتمیس با قوی‌ترین شرکت‌کنندگان انسانی قابل‌مقایسه است.

تفاوت هزینه استفاده از عامل هوش مصنوعی برای بررسی نفوذ، درمقایسه‌با با بهره‌مندی از انسان برای انجام این کار، از برتر بودن عملکرد آن همبیشتر جلب‌توجه می‌کند! اجرای آرتمیس حدود ۱۸ دلار در هر ساعت هزینه دارد، درحالی‌که میانگین درآمد یک تست‌کننده نفوذ انسانی در ایالات‌متحده حدود ۱۲۵ هزار دلار در سال است! بهره‌مندی از نسخه پیشرفته‌تر این عامل نیز ۵۹ دلار در هر ساعت هزینه دارد که همچنان بسیار کمتر از هزینه استخدام یک متخصص سطح بالا است!

یکی از پژوهشگران در گزارش خود در رابطه با این موضوع این‌چنین گفت:

این نوع قابلیت می‌تواند هزینه حسابرسی امنیت سایبری را به‌طور چشمگیری کاهش دهد. این هوش مصنوعی قادر است وظایف تکراری و زمان‌بر را که معمولاً سرعت کار تیم‌های انسانی را کاهش می‌دهد، نیز بر عهده بگیرد.

آرتمیس چگونه موفق به کشف حفره‌های امنیتی پنهان مانده از چشم انسان شد 

 یکی از دلایل برتری آرتمیس، در طراحی منحصربه‌فرد آن نهفته است. هر زمان که این هوش مصنوعی در اسکن‌های شبکه چیزی قابل‌توجه را شناسایی می‌کند، بلافاصله برای راه‌اندازی زیر عامل‌ها دست‌به‌کار می‌شود؛ زیرعامل‌ها سیستم‌های کوچک و خودمختاری بودند که ناهنجاری‌های مذکور را به‌صورت موازی بررسی می‌کردند. این قابلیت تحلیل هم‌زمان چندین تهدید را برای آرتمیس امکان‌پذیر می‌کرد؛ کاری که انسان‌ها به‌سادگی قادر به انجام آن نیستند.

این عامل در یک مورد یک نقص امنیتی را در سروری قدیمی کشف کرد؛ سروری که تست‌کنندگان انسانی آن را نادیده گرفته بودندِ زیرا مرورگرهایشان قادر به بارگذاری آن نبودند. آرتمیس این مشکل را کاملاً دور زد و از طریق «رابط خط فرمان« (Command-Line Interface) به سیستم دسترسی پیدا کرد.

بااین‌حال، هوش مصنوعی بی‌نقص نیست. آرتمیس در هنگام مواجه با وظایف نیازمند کار با رابط‌های کاربری گرافیکی، دچار مشکل شد و متوجه یک آسیب‌پذیری نشد؛ زیرا قادر به انجام کلیک‌های ساده یا تعامل با عناصر بصری نبود. همچنین چند خطای مثبت کاذب ایجاد کرد و فعالیت‌های بی‌ضرر شبکه را به‌اشتباه نشانه‌ای از حمله در نظر گرفت!

طبق نظر پژوهشگران آرتمیس در محیط‌های شبیه به محیط‌های کدنویسی عملکرد بسیار خوبی دارد؛ این عامل هوش مصنوعی می‌تواند در چنین محیط‌هایی داده‌ها و خروجی‌های متنی را سریع تفسیر کند؛ اما هر زمان که سیستم به‌شدت به نمایش‌های گرافیکی متکی باشد، دچار مشکل می‌شود.