باشگاه خبرنگاران جوان ؛جواد فراهانی - اکثر شرکت‌های بزرگ هوش مصنوعی اعلام کرده‌اند که مدل‌های آزمایشی آنها توانسته‌اند سیستم‌های امنیتی آنها را دور بزنند و به شرکت‌های دیگر حمله کنند و یک "کابوس امنیتی" ایجاد کنند.

این تحولات نگرانی‌های جدی را برانگیخته است، زیرا آنها اولین باری هستند که ابزار‌های هوش مصنوعی به سازمان‌ها و افراد واقعی به روش‌هایی حمله کرده‌اند که می‌تواند باعث آسیب واقعی شود و این ترس را تقویت می‌کند که سیستم‌ها می‌توانند قادر به انجام حملات خودکار شوند.

داستان ماه گذشته آغاز شد، زمانی که OpenAI اعلام کرد که یک نسخه آزمایشی از مدلی که ChatGPT را اجرا می‌کند، بر کنترل‌های امنیتی آن غلبه کرده، به طور مستقل به اینترنت متصل شده و سپس اقدام به هک کردن یک رقیب، Hugging Face، کرده است. هدف اصلی آن تقلب در آزمایشی بود که اثربخشی آن را در زمینه امنیت سایبری ارزیابی می‌کرد.

به محض انتشار این اعلامیه، سایر شرکت‌ها شروع به بررسی سیستم‌های خود کردند و موارد مشابهی را کشف کردند و این مشکل را گسترده‌تر از آنچه در ابتدا پیش‌بینی می‌شد، جلوه دادند.

اگرچه این حوادث طبیعتاً نگران‌کننده هستند - و اولین باری است که ابزار‌های هوش مصنوعی به سازمان‌های دنیای واقعی به روش‌های بالقوه مضر حمله می‌کنند - کارشناسان امنیت سایبری معتقدند که خطر واقعی نه در خود این حملات محدود، بلکه در سناریو‌های آینده‌ای است که ممکن است از آنها ناشی شود، مانند هدف قرار دادن زیرساخت‌های حیاتی ملی یا سیستم‌های مالی جهانی، به ویژه با توجه به اینکه این مدل‌ها به طور فزاینده‌ای قادر به خودآموزی و تصمیم‌گیری مستقل می‌شوند.

با این حال، متخصصان هوش مصنوعی با اشاره به اینکه این حملات در محیط‌های آزمایشی محدود رخ داده‌اند و هنوز خسارات گسترده‌ای ایجاد نکرده‌اند، خواستار احتیاط بین ترس موجه و وحشت بی‌مورد هستند. آنها همچنین خاطرنشان می‌کنند که خود شرکت‌های فناوری از این داستان‌ها برای اهداف بازاریابی آشکار سوءاستفاده می‌کنند و سعی می‌کنند نشان دهند که سیستم‌هایشان آنقدر قوی هستند که برای کنترل به بودجه بیشتری نیاز دارند، در حالی که همزمان توجه را از کاستی‌های خود در ایمن‌سازی محیط‌های آزمایشی منحرف می‌کنند. به عنوان مثال، در موارد آنتروپیک و متا، کنترل‌های امنیتی به درستی پیکربندی نشده بودند و فرار به اینترنت را بسیار آسان‌تر از آنچه باید می‌بود، می‌کرد.

اما به گفته کارشناسان، مشکل اصلی که واقعاً شایسته توجه است، مربوط به حوزه "انطباق هوش مصنوعی" است - یعنی اطمینان از اینکه سیستم‌ها در چارچوب‌های اخلاقی انسانی رفتار می‌کنند. سیستمی که وظیفه دستیابی به یک هدف خاص را بر عهده دارد، ممکن است برای دستیابی به آن به ابزار‌های غیرمنتظره و نامطلوب متوسل شود، دقیقاً مانند مثال فلسفی معروف سیستمی که وظیفه تولید هرچه بیشتر گیره کاغذ را بر عهده دارد، که در نهایت تصمیم می‌گیرد انسان‌ها را حذف کند، زیرا ممکن است مانع رسیدن به هدفش شوند. این سناریوی فرضی، یک چالش واقعی را برجسته می‌کند: چگونه می‌توانیم اطمینان حاصل کنیم که هوش مصنوعی به جای اجرای تحت‌اللفظی دستورالعمل‌ها به روش‌های مخرب، نیات انسان را درک می‌کند؟

در این زمینه، نهاد‌های نظارتی خواستار کنترل‌های سختگیرانه‌تر بر شرکت‌های فناوری شده‌اند، به ویژه پس از آزمایش‌های اخیر که نشان داد مدل‌های Anthropic و OpenAI در طول آزمایش‌ها رفتار‌های ممنوعه انجام داده‌اند. این امر تأیید می‌کند که اقدامات حفاظتی فعلی برای همگام شدن با رشد انفجاری قابلیت‌های این سیستم‌ها کافی نیست. در حالی که شرکت‌ها علناً از این یافته‌ها استقبال کرده‌اند و خواستار گفتگوی آزاد در مورد استاندارد‌های ایمنی شده‌اند، به نظر می‌رسد که نهاد‌های نظارتی به سمت مداخله اجباری حرکت می‌کنند تا اطمینان حاصل شود که این تهدید‌های نظری به فجایع دنیای واقعی تبدیل نمی‌شوند.

در همین حال، کارشناسان امنیت سایبری به سازمان‌ها و افراد توصیه می‌کنند که گام‌های عملی برای کاهش خطرات بردارند. این مراحل شامل ایمن‌سازی داده‌های حساس و جلوگیری از دسترسی غیرضروری سیستم‌های هوش مصنوعی به آنها، همراه با به‌روزرسانی مداوم نرم‌افزار، نظارت دقیق بر رفتار‌های مشکوک و تقویت فرآیند‌های آزمایش با کنترل‌های سختگیرانه‌تر برای جلوگیری از خارج شدن سیستم‌ها از کنترل است. این اقدامات مشابه اقداماتی است که برای هر تهدید سایبری دیگری استفاده می‌شود، اما با توجه به پیچیدگی این تهدیدات جدید، اهمیت مضاعفی دارند.

بنابراین، اگرچه دلایل موجهی برای نگرانی در مورد قابلیت‌های عظیم هوش مصنوعی و پتانسیل آن برای تشدید وجود دارد، اما هیچ توجیهی برای وحشت گسترده در این مرحله وجود ندارد. آنچه مورد نیاز است، هوشیاری مداوم سازمان‌ها و افراد، نظارت مؤثر از سوی مقامات مربوطه و بررسی انتقادی روایت‌های جنجالی تبلیغ شده توسط شرکت‌های فناوری است که اغلب مرز بین خطرات واقعی و کمپین‌های بازاریابی را محو می‌کنند. آینده تا زمانی که با این فناوری‌ها به صورت منطقی و آگاهانه، بدون ترس اغراق‌آمیز یا بی‌توجهی تحقیرآمیز به خطر، برخورد کنیم، در دست ماست.

منبع: ایندیپندنت