توافق شفاهی OpenAI، Anthropic و ماسک برای کند کردن توسعه AI
چهار رقیب سرسخت زیر شعار «تنظیم سرعت خط مقدم» کنار هم نشستند؛ منتقدان میگویند این کارتل است، نه ایمنی.
سم آلتمن، داریو آمودی، دمیس هاسابیس و ایلان ماسک توافق شفاهی برای کند کردن توسعه هوش مصنوعی بستند؛ منتقدان میگویند هدف واقعی حذف رقبا و متنباز است.
سم آلتمن از OpenAI، داریو آمودی از Anthropic، دمیس هاسابیس از Google DeepMind و ایلان ماسک در آخر هفته توافقی شفاهی برای کند کردن توسعه هوش مصنوعی بستند. شعار رسمی «تنظیم سرعت خط مقدم» است و پیشنهاد سهمرحلهای آمودی سه چیز را میخواهد: ممیزان شخص ثالث، تنظیمگری آزمایشگاههای داخلی و یک توافق جهانی برای کند شدن. منتقدان اما انگیزه دیگری میبینند: خفه کردن رقیبهای تازهنفس و فلج کردن جنبش متنباز. یککلمهایها گفتند کارتل.
نامه جیکوب کاکسون چطور ۱۷۰ میلیون بازدید گرفت؟
جرقه ماجرا استعفای جیکوب کاکسون، پژوهشگر Anthropic بود. نامه عمومی او در X بیش از ۱۷۰ میلیون بار دیده شده و از آنجا به رسانهها راه پیدا کرد. کاکسون نوشت سازندگان هوش مصنوعی «واقعاً باور دارند این فناوری میتواند تا پایان این دهه همه ما را بکشد»، اما OpenAI و Anthropic بهجای مسئولیتپذیری «مستقیم به سمت خودبهبوددهندههای ابرهوشمند میروند و با جان ما قمار میکنند.»
The people building AI earnestly believe that it could kill us all by the end of the decade
طنز ماجرا این است که این خواسته از مدیرعاملها بیرون نیامده. دانیال کوکوتاجلو، کارمند سابق OpenAI و رئیس AI Futures Project، میگوید سالهاست صداهایی بیرون از شرکتها فریاد میزنند «عجله نکنید، آماده نیستیم». بیش از هزار کارمند آزمایشگاههای AI در نامهای عمومی در جولای همین را خواسته بودند. به گفته او، مدیرعاملها حالا زیر فشار عقب نشستهاند، اما دارند اعتبارش را هم از آن خودشان میکنند.
اگر توافق کند شدن واقعاً اجرا شود، چه اتفاقی میافتد؟
کارشناسان ایمنی یکصدا نیستند، اما اکثرشان این قدم را درست میدانند. ماریوس هوبهان، مدیرعامل Apollo Research، آن را «یکی از بهترین اتفاقها برای ایمنی در سالهای اخیر — اگر واقعاً رخ بدهد» خواند. باک شلگریس از Redwood Research گفت «خبر خوبی است، هرچند نمیدانیم به چیز واقعی تبدیل میشود یا نه».
هشدار همینها هم این است: توافق شفاهی بدون ضمانت اجرایی، کاغذبازی ایمنی است. کوکوتاجلو میترسد شرکتها چند ممیز بیرونی بیاورند، کمی پرونده ایمنی درست کنند و در عمل سرعتشان عوض نشود. پیشنهاد AI Futures Project مشخصتر است: ممیزان به بودجه محاسباتی آزمایشگاهها دسترسی داشته باشند و این بودجه برای پژوهش بهطور محسوس کاهش پیدا کند. ساشا هاورث از Tech Oversight Project رادیکالتر است: «نباید بگذاریم روباهها مرغداری را اداره کنند.»
چرا ترامپ و چین سر راه این توافق هستند؟
دو مانع بزرگ وجود دارد. اولی کاخ سفید: دونالد ترامپ در پستی نوشت تنها ضمانتی که هوش مصنوعی لازم دارد «یک رئیسجمهور قوی و باهوش» است و نگرانیها را «فریب» خواند. دومی چین؛ وزارت خارجه این کشور خواستارهای کند شدن را «ترسافکنی» خواند و استدلال همیشگی تکرار شد: اگر AI خطرناک است، بهتر است آمریکایی باشد تا چینی. تایلر جانستون از The Midas Project این منطق را به دوران جنگ سرد و شکاف موشکی تشبیه میکند و میگوید هماهنگی بینالمللی، مثل پرونده هستهای، غیرممکن نیست.
زیر همه اینها یک واژه نشسته: recursive self-improvement یا خودبهبود بازگشتی؛ نقطهای که مدلها بدون دخالت انسان نسخههای جدید خودشان را آموزش میدهند. Anthropic میگوید این اتفاق میتواند اوایل ۲۰۲۷ برسد و دانشمند ارشد OpenAI نوشته منابع زیادی صرف رسیدن به این هدف میشود. ایوان هابینگر، پژوهشگر Anthropic، احتمال انقراض بشریت توسط AI را بیش از ۱۰ درصد در دهه آینده دانست و نوشت: «ما واقعاً جدی باور داریم AI میتواند همه انسانها را بکشد!»
آمودی در مقالهاش پیشنهاد «محدودیت سرعت» روی RSI داده و آن را به سقف تعداد موشکها تشبیه کرده. اما نیک ریس، استاد NYU و مدیر سابق سیاست فناوریهای نوظهور در وزارت امنیت داخلی آمریکا، نکته بنیادیتری را مطرح میکند: این صنعت اصلاً نمیداند به کجا میرود. «همیشه یک وضعیت پایانی مبهم و تعریفنشده داشتهایم که نمیفهمیم چیست، فقط باید زودتر از چین به آن برسیم. سخت است مسابقه بدهی وقتی نه مسیر را میدانی، نه خط پایان را — و حتی نمیدانی اصلاً خط پایانی هست یا نه.»
حرف آخر روشن است: توافق شفاهی این چهار نفر، بدون ممیزان مستقل، بدون ضمانت اجرایی و بدون هماهنگی بینالمللی، بیشتر شبیه یک بیانیه مطبوعاتی است تا پیمان ایمنی. سنجش واقعیاش این خواهد بود که در سه ماه آینده، بودجه محاسباتی این آزمایشگاهها کم شده باشد یا بیشتر.
این گزارش بر اساس تحلیل The Verge نوشته شده است: Source Name
سؤالات رایج
توافق کند کردن توسعه هوش مصنوعی شامل چه مواردی میشود؟ پیشنهاد سهمرحلهای داریو آمودی ممیزان شخص ثالث، تنظیمگری آزمایشگاههای داخلی و یک توافق جهانی برای کند شدن توسعه AI را در بر میگیرد. فعلاً این توافق شفاهی است و ضمانت اجرایی ندارد.
چرا منتقدان این توافق را کارتل میدانند؟ به باور منتقدان، هدف واقعی متوقف کردن رقبا، فلج کردن جنبش متنباز و اجتناب از ضمانتهای حقوقی واقعی است، نه ایمنی.
recursive self-improvement چیست و چه زمانی رخ میدهد؟ خودبهبود بازگشتی نقطهای است که مدلها بدون دخالت انسان نسخههای جدید خود را آموزش میدهند. Anthropic میگوید این اتفاق میتواند اوایل ۲۰۲۷ برسد.
بیشتر بخوانید
ادامه دهید — دنیای هوش مصنوعی بیپایان است
برای خواندن تحلیلهای بیشتر، صفحهٔ اصلی یا دستهٔ مرتبط را دنبال کنید. میتوانید با میانبرهای صفحهکلید هم بین مقالهها جابهجا شوید.
برچسبها
منبع اصلی خبر
The Verge - AI
https://www.theverge.com/ai-artificial-intelligence/995186/is-big-techs-ai-slowdown-a-safety-pact-or-a-cartelتحریریه هوشنامه این خبر را بر اساس گزارش منبع اصلی بازنویسی و ویرایش کرده است. برای جزئیات بیشتر به منبع مراجعه کنید.
اخبار مرتبط
شرکتهاجستار Dario Amodei برای کند کردن AI و واکنش ترامپ تا لکان
مدیرعامل Anthropic سه گام برای کند شدن توسعه هوش مصنوعی مرزی پیشنهاد کرد؛ حمایت آلتمن و ماسک، مخالفت ترامپ و ونس، و تیزی واکنش یان لکان.
شرکتهاجریمه ۵ هزار دلاری وکیل به خاطر شاهدان جعلی ChatGPT در پرونده قتل
وکیل نیومکزیکویی به دلیل شاهدان ساختگی و شهادت پلیسی جعلی در لایحه تجدیدنظر پرونده قتل، تولیدشده با ChatGPT، ۵ هزار دلار جریمه و به اهانت محکوم شد.
شرکتهاداریو آمودی، مدیرعامل Anthropic، خواستار کند شدن توسعه AI شد
مدیرعامل Anthropic طرحی سهمرحلهای ارائه کرده: دسترسی ارزیابان مستقل مثل METR به مدلها، استاندارد مشترک صنعت، و متقاعد کردن دولتهای اقتدارگرا.