باشگاه خبرنگاران جوان؛ جواد فراهانی - مایکروسافت در اقدامی بی‌سابقه، پیش‌نویس آیین‌نامه رفتاری برای هوش مصنوعی خود را رونمایی کرده است که قوانین سختگیرانه‌ای را ترسیم و سیستم‌های هوشمند آن را ملزم می‌کند کاملاً تحت نظارت انسان باقی بمانند.

این شرکت این گام را در بحبوحه نگرانی‌های فزاینده در بخش فناوری در مورد احتمال خارج شدن سیستم‌های قدرتمند از کنترل برداشت.

این پیش‌نویس - که طی پنج تا شش ماه تهیه شده است - مایکروسافت را در خط مقدم پرداختن به سوالاتی قرار می‌دهد که در حال حاضر کل صنعت را نگران می‌کند: چگونه می‌توانیم اطمینان حاصل کنیم که هوش مصنوعی ابزاری در دست انسان باقی می‌ماند، نه نیرویی که از چنگ ما می‌گریزد؟

قوانین سختگیرانه

چارچوب پیشنهادی حکم می‌کند که هوش مصنوعی مایکروسافت هرگز نباید در برابر خاموش شدن یا اصلاح مقاومت کند، باید به وضوح با انسان‌ها ارتباط برقرار کند و باید هرگونه نقض سیاست را به عنوان یک شکست کامل تلقی کند. هدف این اقدام جلوگیری از انجام اقدامات خطرناک توسط مدل‌ها برای انجام یک کار است.

این شرکت تصریح کرده است که «انسان‌ها از هوش مصنوعی مهم‌تر هستند» و بار دیگر بر چشم‌انداز مداوم خود در مورد «پیشی گرفتن هوش مصنوعی از انسان» تأکید کرد. این مفهومی است که مایکروسافت برای توصیف نوعی هوش مصنوعی توسعه داده است که در حوزه‌های خاص از انسان‌ها بهتر عمل می‌کند، در حالی که تحت کنترل انسان باقی می‌ماند و به سمت خدمت به منافع انسان هدایت می‌شود.

مصطفی سلیمان، مدیرعامل مایکروسافت هوش مصنوعی، در مصاحبه‌ای با رویترز توضیح داد که دستورالعمل‌های پیشنهادی عملاً به عنوان قانون اساسی برای سیستم‌های آینده ساخته شده توسط این شرکت عمل خواهند کرد.

سلیمان افزود: این سند که پس از مشورت با متخصصان خارجی تهیه شده است، به مدت شش هفته برای بازخورد عمومی باز است و به سؤالات باز پاسخ می‌دهد - مانند اینکه آیا هوش مصنوعی باید به مرز‌های کاربر احترام بگذارد و چگونه باید با فردی در یک وضعیت عاطفی حساس تعامل داشته باشد. متعاقباً، از این قانون برای آموزش مدل‌هایی که در حال ساخت آنها هستیم استفاده خواهد شد.

تفاوت با آنتروپیک

برجسته‌ترین "چارچوب این قانون اساسی" چند سال پیش توسط آنتروپیک برای مدل کلود آن ایجاد شد. این طرح از جنبه‌های کلیدی با طرح مایکروسافت متفاوت است. به عنوان مثال، آنتروپیک اظهار می‌کند که "کاملاً مطمئن نیست" که آیا کلود ممکن است آگاهی یا وضعیت اخلاقی را توسعه دهد یا خیر. در مقابل، مایکروسافت اصرار دارد که مدل‌هایش «آگاه نیستند» و صریحاً بیان می‌کند: «ما اعطای شخصیت حقوقی به مدل‌ها یا اذعان به اینکه آنها ممکن است شایسته مراقبت یا حقوق باشند را رد می‌کنیم.»

هشداری برآمده از یک رخداد گذشته

سلیمان خاطرنشان کرد که بحث پیرامون ایمنی، زمانی به موضوعی حیاتی تبدیل شد که گروهی متشکل از حدود ۷۰۰ عامل (ایجنت) متعلق به شرکت «اوپن‌ای‌آی» (OpenAI) در ژوئیه گذشته، حمله‌ای سایبری را علیه پلتفرم متن‌باز «هاگینگ فیس» (Hugging Face) ترتیب دادند و مکرراً تلاش کردند تا اقدامات خود را پنهان کنند.

سلیمان گفت: «این یک زنگ هشدار اولیه است. اکنون روشن شده که زمان آن فرا رسیده است تا میان آزمایشگاه‌ها هماهنگی ایجاد شود و اطمینان حاصل کنیم که همچنان کنترل این فناوری را در دست داریم.»

او در واکنش به درخواست‌ها برای مدیریت سرعت پیشرفت هوش مصنوعی، افزود: «اکنون زمان مناسبی است تا همه وارد این گفت‌و‌گو شوند و نفسی تازه کنند.»

منبع: ایندیپندنت