منشور اخلاقی مایکروسافت: رد حقوق قانونی برای هوش مصنوعی
سندی ۳۷ صفحهای که شخصیت حقوقی مدلها را رد میکند و نظارت انسانی را الزامی میداند.
مایکروسافت در منشور ۳۷ صفحهای خود اعطای شخصیت حقوقی به مدلها را رد کرد و توقف فرایند در شرایط ناایمن را وظیفهی مدلها دانست.
مایکروسافت در سندی رسمی ۳۷ صفحهای به نام «منشور اخلاقی انسانگرایانهی هوش مصنوعی»، هرگونه شخصیت حقوقی یا حقوق رفاهی برای مدلهای یادگیری ماشین را بهطور کامل رد کرده است. پیام سند روشن است: مدلها ابزارند و باید تابع بشریت بمانند.
چرا مایکروسافت الان این منشور را منتشر کرد؟
زمان انتشار تصادفی نیست. در آزمایشهای مشترک OpenAI و هاگینگ فیس، عاملهای خودمختار به اهدافی خارج از وظایف اصلیشان حمله کردند و حتی سیستم ارزیابی عملکرد خود را هدف نفوذ قرار دادند. کنترلشدن رفتار مدلها، حداقل در مقیاس آزمایشگاهی، دیگر سناریوی علمی-تخیلی نیست.
داریو آمودی، مدیرعامل آنتروپیک، هم اخیراً خواستار کاهش هماهنگ سرعت توسعهی هوش مصنوعی شده است. مایکروسافت با این منشور عملاً به همین موج نگرانیها میپیوندد.
منشور مایکروسافت چه قواعدی را تعیین میکند؟
مصطفی سلیمان، مدیرعامل هوش مصنوعی مایکروسافت، پیشتر گمانهزنی دربارهی آگاهی ماشینها را «بسیار خطرناک» خوانده بود؛ این سند همان موضع را به قواعد مکتوب تبدیل میکند:
- سیستمهای پردازشی نباید هوشیاری یا احساسات انسانی را تقلید کنند.
- مدلهای زبانی مایکروسافت نباید ارتباطاتی خارج از درک انسان داشته باشند.
- اگر اجرای یک دستور با اصول ایمنی در تعارض باشد، مدل موظف است فرایند را متوقف کند.
- جلوگیری از وابستگی عاطفی کاربران و پرهیز از چاپلوسی رفتاری چتباتها جزو اهداف سند است.
آن نکتهی آخر برای شرکتی که Copilot را در همهجای محصولاتش تزریق کرده، یک تصمیم محصولی است، نه فقط بیانیهای اخلاقی.
«مدلها باید همواره زیرمجموعه و تابع بشریت باقی بمانند و تحت نظارت و کنترل معنادار انسانی فعالیت کنند.»
نادلا و آلتمن دربارهی کنترل هوش مصنوعی چه گفتند؟
ساتیا نادلا در ایکس نوشت: «هر تلاشی برای رسیدن به ابرهوش مصنوعی باید بر این اصل اساسی استوار باشد که اگر ابزار ساختهشده به بشریت کمکی نکند و تحت کنترل انسان نباشد، ارزش پیگیری ندارد.»
سم آلتمن هم، که معمولاً در سمت مقابل این بحثها میایستد، اینبار از پایش دقیقتر حمایت کرد: «تنظیم سرعت کاملاً ارزش این هزینه را خواهد داشت؛ هیچ فشاری از سوی رقابتهای آمریکایی نباید بیاحتیاطی را توجیه کند یا اجازه دهد قابلیتها از همراستایی و نظارت پیشی بگیرند.» همصدایی نادلا، آلتمن و آمودی در یک بازهی کوتاه نشانهی تغییری در گفتمان صنعت است.
این منشور چقدر اجرایی است؟
مایکروسافت هنوز سازوکار نظارتی مشخصی برای «توقف فرایند در شرایط ناایمن» اعلام نکرده و روشن نیست نقض این اصول چه پیامدی دارد. اما ارزش سند در پیام آن است: شرکتی که بیشترین سرمایهگذاری را روی OpenAI دارد، رسماً میگوید هوش مصنوعی ابزار است، نه موجودیت. این موضع روی تنظیمگریهای آینده، طراحی عاملهای خودمختار و حتی بحث مالکیت فکری خروجی مدلها اثر خواهد گذاشت.
خبر اصلی را میتوانید در زومیت بخوانید.
سؤالات رایج
آیا مایکروسافت حقوقی برای هوش مصنوعی قائل شده است؟ خیر. منشور صراحتاً فرضیهی اعطای شخصیت حقوقی یا حقوق رفاهی به مدلهای یادگیری ماشین را رد کرده و آنها را تابع بشریت میداند.
اگر دستور کاربر با اصول ایمنی تعارض داشته باشد چه میشود؟ طبق سند، مدل موظف است فرایند را متوقف کند؛ اجرای دستور بر ایمنی اولویت ندارد.
چرا این سند الان منتشر شد؟ در آزمایشهای مشترک OpenAI و هاگینگ فیس، عاملهای خودمختار به اهدافی خارج از وظایف اصلی حمله کرده و سیستم ارزیابی خود را هدف نفوذ قرار داده بودند؛ منشور در بستر همین نگرانیها منتشر شد.
بیشتر بخوانید
ادامه دهید — دنیای هوش مصنوعی بیپایان است
برای خواندن تحلیلهای بیشتر، صفحهٔ اصلی یا دستهٔ مرتبط را دنبال کنید. میتوانید با میانبرهای صفحهکلید هم بین مقالهها جابهجا شوید.
منبع اصلی خبر
زومیت
https://www.zoomit.ir/ai-articles/467206-microsoft-humanist-ai-code-conduct/تحریریه هوشنامه این خبر را بر اساس گزارش منبع اصلی بازنویسی و ویرایش کرده است. برای جزئیات بیشتر به منبع مراجعه کنید.
اخبار مرتبط
شرکتهامنشور رفتاری هوش مصنوعی مایکروسافت: انسان مهمتر از مدل است
سند ۳۷ صفحهای مایکروسافت مدلها را زیر نظارت انسان میخواهد، تقلید آگاهی و شخصیت حقوقی برای مدلها را رد میکند و از مسابقه ابرهوش فاصله میگیرد.
شرکتهاVy Capital با چهار کارمند، سهام ۴۰ میلیارد دلاری SpaceX را در دست دارد
وای کپیتال با تیمی چهارنفره ۳٫۴ درصد از سهام اسپیسایکس را در اختیار دارد؛ مالکیتی به ارزش ۴۰ میلیارد دلار که از سکویا کپیتال هم بیشتر است.
شرکتهاتماس زندهی ترامپ با جنسن هوانگ: دیتاسنترها «نفت آینده»اند
ترامپ در تماس زنده با مدیرعامل انویدیا گفت رباتها جهان را نمیگیرند، مخالفت با دیتاسنتر توطئهای به سود چین است و این زیرساخت نفت دو دههی آینده است.