رئیس شرکت آنتروپیک: ۲۵ درصد احتمال دارد هوش مصنوعی افتضاح به بار بیاورد
در حالی که هوش مصنوعی روزبهروز به بخش جداییناپذیر زندگی بشر تبدیل میشود، نگرانیها دربارهی پیامدهای احتمالی آن نیز شدت گرفتهاند. داریو آمودی (Dario Amodei)، مدیرعامل شرکت Anthropic و یکی از چهرههای کلیدی در توسعهی مدلهای پیشرفتهی هوش مصنوعی، اخیراً در اظهاراتی صریح و تأملبرانگیز، احتمال وقوع فاجعهای اجتماعی ناشی از این فناوری را ۲۵ درصد اعلام کرده است. این دیدگاه، در کنار خوشبینی او نسبت به آیندهی مثبت هوش مصنوعی، تصویری واقعگرایانه از فرصتها و تهدیدهای پیشرو ارائه میدهد.
احتمال یکبهچهار در برخی شرایط ممکن است خوب بهنظر برسد. این احتمال، بهمراتب بهتر از شانس برد در اکثر بازیهاست. با این حال، ظاهراً این احتمال آنقدر پایین هست که داریو آمودی، مدیرعامل شرکت Anthropic، پس از تخمین ۲۵ درصدی احتمال وقوع فاجعهای اجتماعی ناشی از هوش مصنوعی، بیتفاوت بهنظر برسد. آمودی در نشست Axios AI + DC Summit، زمانی که دربارهی باورش به «احتمال نابودی» ناشی از هوش مصنوعی سؤال شد، با خونسردی پاسخ داد:
فکر میکنم ۲۵ درصد احتمال دارد که اوضاع واقعاً، واقعاً بد پیش برود.
منظور آمودی از «واقعاً، واقعاً بد» صرفاً اشتباهات جزئی مثل اصلاح خودکار کلمهی «duck» به عبارتی نامناسب در تلفن همراه نیست؛ بلکه به سناریوهایی اشاره دارد که میتوانند سیستمهای اجتماعی را تهدید کنند، شامل خطرات وجودی، سوءاستفادههای شدید از هوش مصنوعی، و پیامدهای غیرقابلکنترلی که ممکن است فاجعهبار باشند.
در صنعتی که اغلب در وعدههای آرمانگرایانه غرق شده یا به ترسافکنیهای علمیتخیلی تقلیل یافته، نگرش آمودی نسبت به احتمال وقوع آخرالزمان و دلایل ادامهی فعالیتش در این حوزه، برجسته و متفاوت است.
آمودی تنها کسی نیست که احساس نگرانی دارد، اما جایگاه او خاص است. بهعنوان مدیرعامل شرکتی که مدل Claude را توسعه داده، او صرفاً یک ناظر منفعل نیست. او در حال شکلدادن به مسیر این فناوری در زمان واقعی است. تیم او همان سیستمهایی را میسازد که او در حال سنجش ظرفیتها و خطراتشان است.
اگر کسی به شما بگوید که با هر بار روشنکردن خودرو، ۲۵ درصد احتمال انفجار وجود دارد، احتمالاً ترجیح میدهید پیادهروی کنید. اما آمودی ظاهراً ترجیح میدهد مکانیک شود و قبل از سوارشدن، خودرو را بررسی کند.
این تنها هشدار آمودی دربارهی هوش مصنوعی نیست. او پیشتر هشدار داده بود که هوش مصنوعی ممکن است نیمی از مشاغل سطح ابتدایی در حوزهی دفتری را حذف کند و نسبت به صادرات تراشههای پیشرفته از ایالات متحده به چین نیز هشدار داده بود. همین چارچوب فکری آمودی را مفید میسازد: او خطر را میپذیرد، عدم قطعیت را کمّیسازی میکند، اما همچنان برای اقدام انسانی جایگاه قائل است.
در سوی دیگر، «۷۵ درصد احتمال اینکه اوضاع خوب پیش برود» از نظر آمودی صرفاً خوشبینی بیپایه نیست. این دیدگاه نشاندهندهی باور به این است که هوش مصنوعی میتواند منافع عظیمی برای همه بههمراه داشته باشد. این فناوری میتواند به بهبود پزشکی، تولید کارآمدتر، و حتی تدوین راهبردهایی برای مقابله با بحرانهای وجودی مانند تغییرات اقلیمی منجر شود (هرچند یکی از عناصر کلیدی در حل این مسئله، انرژی موردنیاز برای اجرای مدلهای هوش مصنوعی خواهد بود).
اما آن ۲۵ درصد ریسک ایجاب میکند که این منافع با دقت، همراه با تدابیر ایمنی و مقررات مناسب ساخته شوند. زیرا اگر آینده ۷۵ درصد درخشان و ۲۵ درصد ویرانگر باشد، پرسش این است: چه کاری باید انجام دهیم تا وزن آینده به سمت بخش درست سنگینی کند؟
