باشگاه خبرنگاران جوان؛ جواد فراهانی - گوگل در گزارشی، پس از کشف یک آسیب‌پذیری ناشناخته که احتمالاً در حمله‌ای با استفاده از هوش مصنوعی مورد سوءاستفاده قرار گرفته بود، در مورد نقش فزاینده هوش مصنوعی (AI) در حملات سایبری هشدار داد.

به گفته گوگل، عوامل تهدید تلاش کردند از یک آسیب‌پذیری که قادر به دور زدن احراز هویت دو مرحله‌ای در یک ابزار مدیریت خدمات آنلاین محبوب بود، سوءاستفاده کنند. این شرکت با همکاری فروشنده مربوطه، این آسیب‌پذیری را کشف و وصله کرد و از استفاده آن در یک کمپین حمله در مقیاس بزرگ جلوگیری کرد.

این هشدار بر اساس گزارش گروه اطلاعات تهدید گوگل (GTIG) است که استفاده روزافزون از ابزار‌های هوش مصنوعی مولد توسط مجرمان سایبری و عوامل تحت حمایت دولت را در زمینه‌های مختلف، از جمله توسعه بدافزار، کشف آسیب‌پذیری، کمپین‌های فیشینگ و حملات خودکار، ردیابی می‌کند.

گوگل توضیح می‌دهد که آسیب‌پذیری مورد هدف، نتیجه‌ی یک خطای برنامه‌نویسی سنتی نبوده، بلکه یک «نقص منطق معنایی» در سطح طراحی سیستم بوده است - نوعی آسیب‌پذیری که تشخیص آن دشوارتر از خطا‌های فنی معمولی است. این شرکت معتقد است که مدل‌های مدرن هوش مصنوعی به دلیل درکشان از بافت کلی نرم‌افزار، در شناسایی چنین آسیب‌پذیری‌هایی مهارت بیشتری پیدا می‌کنند.

این گزارش همچنین بیان کرد که چندین شاخص در کد بهره‌برداری نشان می‌دهد که این کد با استفاده از هوش مصنوعی تولید شده است، مانند مستندات آموزشی غیرمعمول، ارزیابی‌های گمراه‌کننده‌ی CVSS (سرویس تأیید دایره‌ای) و یک سبک برنامه‌نویسی ساختاریافته که شبیه داده‌های مورد استفاده برای آموزش مدل‌های یادگیری ماشین است.

این گزارش همچنین نشان می‌دهد که گروه مهاجم قصد داشته است پس از به دست آوردن اعتبارنامه‌های ورود به سیستم، از این آسیب‌پذیری به عنوان بخشی از یک کمپین گسترده‌تر سوءاستفاده کند و آنها را قادر سازد تا احراز هویت دو عاملی را دور بزنند و به حساب‌ها دسترسی غیرمجاز پیدا کنند.

در این زمینه، GTIG گزارش داد که تجزیه و تحلیل فنی به شدت استفاده از یک مدل هوش مصنوعی را برای کشف آسیب‌پذیری و توسعه‌ی بهره‌برداری پیشنهاد می‌کند، حتی اگر استفاده از ابزار‌های خود گوگل، مانند Gemini، تأیید نشده باشد.

این گزارش نسبت به یک تحول خطرناک‌تر هشدار می‌دهد: بدافزار‌های خودکار فزاینده، از جمله یک برنامه اندرویدی به نام PROMPTSPY. اعتقاد بر این است که این برنامه از رابط‌های هوش مصنوعی برای تجزیه و تحلیل صفحه نمایش تلفن و اجرای دستوراتی مانند ضربه زدن، پیمایش و وارد کردن کد‌های احراز هویت تقریباً به طور خودکار استفاده می‌کند.

در پاسخ، گوگل ادعا می‌کند که در حال توسعه ابزار‌های دفاعی هوش مصنوعی مانند Big Sleep و CodeMender است تا به طور خودکار آسیب‌پذیری‌ها را قبل از اینکه مورد سوءاستفاده قرار گیرند، شناسایی و برطرف کند، تا بتواند با سرعت فزاینده تهدیدات دیجیتال همگام شود.

منبع: interesting engineering