باشگاه خبرنگاران جوان؛ جواد فراهانی - ویکی‌پدیا محدودیت‌های جدیدی را در استفاده از هوش مصنوعی مولد (GI) اعمال کرده است، اقدامی که با هدف محافظت از کیفیت محتوا و حفظ قابلیت اطمینان اطلاعات در پلتفرم خود انجام می‌شود.

نسخه انگلیسی ویکی‌پدیا، استفاده از مدل‌های زبان بزرگ (LLM) را برای ایجاد یا بازنویسی اساسی مقالات توسط ویراستاران ممنوع کرده است، زیرا نگرانی‌های فزاینده‌ای در مورد تأثیر این ابزار‌ها بر دقت دانش ارائه شده توسط جامعه وجود دارد.

این تصمیم در زمانی اتخاذ می‌شود که ابزار‌های هوش مصنوعی به طور فزاینده‌ای در زمینه‌های مختلف کار روزانه رواج پیدا می‌کنند و تمایز بین متن تولید شده توسط انسان و ماشین را به طور فزاینده‌ای دشوار می‌کنند. این امر چالش خاصی را برای ویکی‌پدیا ایجاد می‌کند، زیرا ویکی‌پدیا به اطلاعات قابل تأیید و منابع معتبر متکی است.

طبق سیاست جدید، ویراستاران مجاز نیستند برای ایجاد یا ویرایش محتوا به طور اساسی به هوش مصنوعی تکیه کنند، زیرا این پلتفرم معتقد است که این استفاده می‌تواند با استاندارد‌های آن، به ویژه در مورد مستندسازی و بررسی واقعیت، مغایرت داشته باشد.

با این حال، ویکی‌پدیا در دو مورد کلیدی استفاده محدودی از این ابزار‌ها داشته است. رویکرد اول شامل بهبود سبک و زبان، مشابه ابزار‌های ویرایش است، مشروط بر اینکه ویرایش‌ها قبل از انتشار به طور کامل بررسی شوند. رویکرد دوم شامل ترجمه است، که در آن هوش مصنوعی می‌تواند یک پیش‌نویس اولیه ایجاد کند، که سپس یک ویرایشگر مسلط به هر دو زبان آن را بررسی و اصلاح می‌کند.

ویکی‌پدیا در مورد خطرات تکیه بر این ابزارها، به ویژه در ترجمه، هشدار می‌دهد، زیرا ممکن است منجر به تغییرات ظریف در معنا شود که حتی با وجود دستورالعمل‌های واضح، توسط منابع پشتیبانی نمی‌شوند.

این رویکرد نشان‌دهنده احتیاط فزاینده در جوامع دیجیتال در مورد گسترش سریع هوش مصنوعی است.

این سیاست همچنین نشان دهنده واکنشی به تبلیغ فشرده هوش مصنوعی توسط شرکت‌ها در سال‌های اخیر است و تأکید می‌کند که علیرغم عدم توافق در مورد نحوه اجرای آن، اجماع عمومی در مورد نیاز به تغییر وجود دارد.

با وجود این محدودیت‌ها، نظارت بر محتوای خودکار همچنان یک چالش است، زیرا ابزار‌های تشخیص فعلی فاقد دقت کافی هستند و برخی از نوشته‌های انسانی ممکن است شبیه متن تولید شده توسط هوش مصنوعی باشند و احتمال خطا در ارزیابی را افزایش دهند.

ویکی‌پدیا دستورالعمل‌هایی را برای کمک به مدیران منتشر کرده است، اما اذعان می‌کند که برخی از تخلفات ممکن است، به ویژه در صفحات کمتر فعال، کشف نشوند.

شایان ذکر است که ویکی‌پدیا در شبکه‌ای از جوامع مستقل فعالیت می‌کند و این سیاست به طور جهانی اعمال نمی‌شود. نسخه‌های دیگر ممکن است رویکرد‌های متفاوتی را اتخاذ کنند. به عنوان مثال، ویکی‌پدیای اسپانیایی سیاست سختگیرانه‌تری دارد و استفاده از هوش مصنوعی را حتی برای کار‌های ویرایش و ترجمه کاملاً ممنوع می‌کند.

با توجه به توسعه سریع فناوری‌های هوش مصنوعی، این تصمیم نشان‌دهنده رویکردی محتاطانه از سوی ویکی‌پدیا است که به دنبال ایجاد تعادل بین استفاده از فناوری و حفظ یکپارچگی محتوای آن است.

منبع: interesting engineering