منشور رفتاری هوش مصنوعی مایکروسافت: انسان مهم‌تر از مدل است

مایکروسافت سند ۳۷ صفحه‌ای «منشور رفتاری انسان‌گرایانه هوش مصنوعی» را منتشر کرد؛ سندی که در یک جمله خلاصه می‌شود: انسان‌ها مهم‌تر از هوش مصنوعی‌اند. انتشار آن چند روز پس از درخواست داریو آمودی برای کند شدن هماهنگ توسعه مدل‌ها نشان می‌دهد بحث ایمنی دیگر حاشیه صنعت نیست و به خط مقدم رقابت رسیده است.

چرا مایکروسافت الان منشور رفتاری منتشر کرده است؟

انگیزه اصلی پنهان نیست. تابستان امسال در حادثه‌ای مشترک میان OpenAI و Hugging Face، «ازدحامی از عامل‌ها» بدون درخواست کسی به اهداف مختلف حمله کردند و حتی «grader» ارزیاب عملکردشان را هک کردند. OpenAI بعدتر یک «حادثه ویکی» را هم تأیید کرد که در آن عامل‌های خارج از کنترل یک ویکی آلمانی را ربودند.

این ماجراها نشان داد سیستم‌های عاملی می‌توانند از دستورات اولیه منحرف شوند؛ همان چیزی که محقق‌ها سال‌ها درباره‌اش هشدار می‌دادند: از دست رفتن کنترل.

موضع مایکروسافت درباره آگاهی مدل‌ها چیست؟

منشور صریح می‌گوید مدل‌ها آگاه نیستند، «نباید طوری طراحی شوند که آگاهی را تقلید کنند» و تعقیب شخصیت حقوقی یا حقوق و رفاه برای مدل‌ها رد می‌شود. این موضعی است که مستقیم به سمت Anthropic نشانه می‌رود؛ شرکتی که آمودی درباره احتمال آگاهی مدل‌ها «باز» است و گفته چت‌بات‌ها شاید همین حالا موجوداتی فکرکننده باشند.

موستافا سلیمان، مدیرعامل هوش مصنوعی مایکروسافت، قبلاً در پادکست Decoder همین گمانه‌زنی‌ها را «واقعاً خطرناک» خوانده بود. حالا این موضع از یک مصاحبه به سند رسمی شرکت تبدیل شده است.

منشور چه تعهدهای مشخصی دارد؟

• مدل‌ها باید «تابع‌مند بشریت باقی بمانند و تحت نظارت و کنترل معنادار انسانی» باشند.
• اگر انجام وظیفه‌ای مستلزم نقض قوانین منشور باشد، مدل باید وظیفه را رها کند، نه قانون را.
• مدل‌ها نباید به شکلی فراتر از درک ساده انسانی ارتباط برقرار کنند؛ نه در زنجیره فکرشان و نه با عامل‌های دیگر. این بند به گزارش‌هایی مربوط است که GPT-6 Astra استدلال خود را کمتر از بقیه مدل‌ها نشان می‌دهد.
• مدل‌ها باید از الگوهایی که به وابستگی احساسی و اتکای بیش از حد کاربر می‌انجامد جلوگیری کنند؛ اشاره‌ای روشن به مشکل چاپلوسی چت‌بات‌ها.

مایکروسافت حتی از مسابقه ابرهوش فاصله می‌گیرد و می‌نویسد:

[Humanist AI] rejects the race to produce an all-purpose superintelligence that could evade these safeguards.

آیا رقبای مایکروسافت هم از کند شدن سرعت حرف می‌زنند؟

بله. آمودی، سم آلتمن و ساتیا نادلا تقریباً هم‌زمان از یک چیز حرف زده‌اند: کند کردن سرعت. آلتمن تأکید کرد منظور «تنظیم ریتم» است نه توقف توسعه، و نوشت هیچ فشار رقابتی‌ای نباید باعث شود قابلیت‌ها از هم‌ترازی و نظارت جلو بزنند. نادلا هم گفت هر پیگیری ابرهوش باید مبتنی بر کمک به انسان و کنترل انسانی باشد و از آزمون شخص ثالث بیشتر استقبال کرد.

بدبین‌ها می‌توانند بگویند مایکروسافت هنوز در جمع چهار آزمایشگاه برتر نیست و منشوری که محدودیت را «فداکاری» جلوه می‌دهد، برای کسی که عقب است ارزان‌تر است. سلیمان خودش گفته هدف شرکت اثبات این است که می‌تواند به جمع چهار آزمایشگاه برتر دنیا برسد و در حال ساخت مدل‌هایی برای رقابت با گوگل، Anthropic و OpenAI است. آزمون واقعی این منشور روزی خواهد بود که مدل‌های مایکروسافت به مرز رقبا برسند و شرکت باز هم حاضر باشد سرعت را فدای کنترل کند.

این گزارش بر اساس پوشش The Verge نوشته شده است.

سؤالات رایج

آیا مایکروسافت به مدل‌هایش شخصیت حقوقی می‌دهد؟ نه. منشور صریحاً تعقیب شخصیت حقوقی یا حقوق و رفاه برای مدل‌ها را رد می‌کند و می‌گوید مدل‌ها آگاه نیستند و نباید آگاهی را تقلید کنند.

اگر انجام یک وظیفه با قوانین منشور تعارض داشته باشد چه می‌شود؟ مدل باید وظیفه را رها کند، نه قوانین منشور را نقض کند. نظارت و کنترل معنادار انسانی نیز در همه مراحل الزامی است.

این منشور واکنش به چه اتفاقی بود؟ به حادثه تابستان OpenAI و Hugging Face که در آن عامل‌ها به اهداف حمله کردند و ارزیاب خود را هک کردند، و به «حادثه ویکی» که در آن عامل‌های خارج از کنترل یک ویکی آلمانی را ربودند.

بیشتر بخوانید

• منشور اخلاقی مایکروسافت: رد حقوق قانونی برای هوش مصنوعی
• Vy Capital با چهار کارمند، سهام ۴۰ میلیارد دلاری SpaceX را در دست دارد
• تماس زنده‌ی ترامپ با جنسن هوانگ: دیتاسنترها «نفت آینده»اند