جستار Dario Amodei برای کند کردن AI و واکنش ترامپ تا لکان
آلتمن و هاسابیس از پیشنهاد آمودی حمایت کردند؛ ترامپ آن را توطئه به نفع چین خواند.
مدیرعامل Anthropic سه گام برای کند شدن توسعه هوش مصنوعی مرزی پیشنهاد کرد؛ حمایت آلتمن و ماسک، مخالفت ترامپ و ونس، و تیزی واکنش یان لکان.
داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، شنبه صبح در جستاری به نام «We Must Pace the Frontier» خواستار کند شدن توسعه هوش مصنوعی مرزی شد. طی روزهای بعد تقریباً همه بازیگران اصلی این حوزه — از سم آلتمن و دمیس هاسابیس تا دونالد ترامپ و جیدی ونس — موضع گرفتند و بحث به جدیترین مناقشه سیاسی تاکنون بر سر سرعت توسعه AI تبدیل شد.
طرح سهگامی آمودی برای کند کردن توسعه AI چیست؟
پیشنهاد آمودی سه مرحله دارد: ارزیابان مستقل ثالث که داخل شرکتها تعهدات ایمنی را راستیآزمایی میکنند، هماهنگی میان شرکتهای مرزی در کشورهای دموکراتیک بر سر استانداردها و محدودیتها، و در نهایت هماهنگی جهانی بین دولتهای دموکراتیک و اقتدارگرا «تا جایی که ممکن باشد». Anthropic بهطور یکجانبه به گام اول متعهد شده است.
به تأکید آمودی، کند کردن به معنای توقف آموزش مدلها یا توقف پیشرفت فنی نیست؛ فقط زمان کافی برای همراستا کردن و ایمنسازی مدلها و تأیید آن توسط ارزیابان ثالث است.
کدام مدیران از پیشنهاد آمودی حمایت کردند؟
"I agree with Dario that we need to pace the frontier."
سم آلتمن بلافاصله موافقت کرد و گفت این موضوع هفتههای اخیر محور بحثهای داخلی OpenAI بوده است. او به ارزیابان مستقل در OpenAI متعهد شد و از چارچوب فدرال برای الزامات ایمنی AI مرزی استقبال کرد؛ با تأکید بر اینکه «pacing» یعنی «pacing»، نه «stopping».
دمیس هاسابیس، رئیس Google DeepMind، نوشت مسیر پیشنهادی آمودی درست است اما جزئیات باید کار شود. ایلان ماسک با بازنشر جستار فقط سه کلمه نوشت: «Dario is right». کامالا هریس هم خواستار «کند کردن مسئولانه» توسعه AI شد و پیت بوتجج از «کلید قطع اضطراری» برای AI سرکش سخن گفت.
چرا ترامپ و کاخ سفید با کند شدن AI مخالفاند؟
ترامپ در پستی پرحرف در Truth Social نوشت تنها «guardrail» لازم برای AI یک رئیسجمهور «قوی و باهوش» است و ادامه داد: «There is a SICK conspiracy going on against AI and Data Centers, and the only one that is happy about it is China.» جنسن هوانگ هم در تماس تلفنی زنده با ترامپ روی سن وعده داد همه در مسابقه AI آمریکا برنده خواهند شد.
جیدی ونس درخواست شرکتهای فناوری از دولت برای تنظیمگری را «کمی عجیب» و شبیه «اسب تروا» خواند. مایک جانسون، رئیس مجلس، موضع میانهای گرفت: جلسهای با مدیران این شرکتها برگزار میشود، اما موراتوریوم ممکن نیست چون چین از آمریکا جلو میزند.
منتقدان داخل صنعت چه گفتند؟
مخالفت فقط بیرون از صنعت نیست. دیوید ساکس، سرمایهگذار و مقام پیشین کاخ سفید، به آمودی و آلتمن گفت «خودتان بدون اجازه دیگران کند شوید» و انگیزه کند شدن را «صرفاً نوعدوستانه» ندانست. لینا خان، رئیس پیشین FTC، یادآوری کرد قانونگذاران همین حالا اختیار تعقیب شرکتها و مدیرانعامل بابت محصولات خطرناک را دارند و «معافیت قانونی برای AI وجود ندارد».
تیزترین واکنش از یان لکان، دانشمند ارشد پیشین Meta، آمد. او نوشت آمودی از سال ۲۰۱۹ ادعا میکرد حتی GPT-2 برای انتشار متنباز خطرناک است و جمعبندیاش این بود: «من آن موقع مسخرهشان کردم. حالا همه باید مسخرهشان کنند.»
نکته متفاوت این موج واکنشها، همصدایی نادر مدیران سه شرکت مرزی اصلی — Anthropic، OpenAI و DeepMind — بر سر یک اصل است، حتی اگر جزئیات و انگیزهها محل اختلاف باشد. بحث کند کردن AI دیگر دغدغهای فنی نیست؛ به خطوط لبه سیاست داخلی آمریکا و رقابت با چین چسبیده است. جستار آمودی ممکن است نقطه شروع یک چارچوب واقعی باشد، یا فقط اولین پرده یک نمایش سیاسی طولانی.
سؤالات رایج
طرح آمودی برای کند کردن AI چه مراحلی دارد؟ سه گام: ارزیابی مستقل ثالث تعهدات ایمنی، هماهنگی شرکتهای مرزی در کشورهای دموکراتیک، و هماهنگی جهانی میان دولتهای دموکراتیک و اقتدارگرا. Anthropic به گام اول بهطور یکجانبه متعهد شده است.
واکنش ترامپ به این پیشنهاد چه بود؟ او در Truth Social با کند شدن AI مخالفت کرد و آن را توطئهای به نفع چین خواند. جیدی ونس هم درخواست شرکتها برای تنظیمگری را «اسب تروا» توصیف کرد.
مدیران کدام شرکتها از پیشنهاد حمایت کردند؟ سم آلتمن (OpenAI) و دمیس هاسابیس (Google DeepMind) از مسیر پیشنهادی آمودی حمایت کردند و ایلان ماسک نیز با عبارت «Dario is right» آن را بازنشر کرد.
بیشتر بخوانید
ادامه دهید — دنیای هوش مصنوعی بیپایان است
برای خواندن تحلیلهای بیشتر، صفحهٔ اصلی یا دستهٔ مرتبط را دنبال کنید. میتوانید با میانبرهای صفحهکلید هم بین مقالهها جابهجا شوید.
برچسبها
منبع اصلی خبر
The Verge - AI
https://www.theverge.com/ai-artificial-intelligence/995141/ai-executives-politicians-safety-regulation-anthropic-dario-amodeiتحریریه هوشنامه این خبر را بر اساس گزارش منبع اصلی بازنویسی و ویرایش کرده است. برای جزئیات بیشتر به منبع مراجعه کنید.
اخبار مرتبط
شرکتهاتوافق شفاهی OpenAI، Anthropic و ماسک برای کند کردن توسعه AI
سم آلتمن، داریو آمودی، دمیس هاسابیس و ایلان ماسک توافق شفاهی برای کند کردن توسعه هوش مصنوعی بستند؛ منتقدان میگویند هدف واقعی حذف رقبا و متنباز است.
شرکتهاجریمه ۵ هزار دلاری وکیل به خاطر شاهدان جعلی ChatGPT در پرونده قتل
وکیل نیومکزیکویی به دلیل شاهدان ساختگی و شهادت پلیسی جعلی در لایحه تجدیدنظر پرونده قتل، تولیدشده با ChatGPT، ۵ هزار دلار جریمه و به اهانت محکوم شد.
شرکتهاداریو آمودی، مدیرعامل Anthropic، خواستار کند شدن توسعه AI شد
مدیرعامل Anthropic طرحی سهمرحلهای ارائه کرده: دسترسی ارزیابان مستقل مثل METR به مدلها، استاندارد مشترک صنعت، و متقاعد کردن دولتهای اقتدارگرا.