نظر این همه چیز را تغییر می دهد

در سال 2018، ساندار پیچای، مدیر اجرایی گوگل – و نه یکی از مدیران فناوری که به دلیل اغراق‌گویی شناخته می‌شود – گفت: «هوش مصنوعی احتمالاً مهم‌ترین چیزی است که بشریت تاکنون روی آن کار کرده است. من آن را چیزی عمیق تر از برق یا آتش می دانم.»

سعی کن برای چند دقیقه در این احتمال زندگی کنی که حق با اوست. هیچ تعصب انسانی عمیق تر از این انتظار نیست که فردا مثل امروز باشد. این یک ابزار اکتشافی قدرتمند است زیرا تقریباً همیشه صحیح است. فردا احتمالا مثل امروز خواهد بود. سال آینده احتمالاً مانند امسال خواهد بود. اما نگاهت را 10 یا 20 سال بیرون بینداز. به طور معمول، این در تاریخ بشر امکان پذیر بوده است. فکر نکنم الان باشه

هوش مصنوعی یک اصطلاح ساده است، و من آن را بی‌پرده می‌گویم. من روح هوش را توصیف نمی‌کنم، بلکه بافت دنیایی را توصیف می‌کنم که پر از برنامه‌های شبیه به ChatGPT است که برای ما احساس می‌کنیم که باهوش هستند و بیشتر زندگی ما را شکل می‌دهند یا اداره می‌کنند. چنین سیستم هایی تا حد زیادی در حال حاضر اینجا هستند. اما آنچه در راه است آنها را شبیه اسباب بازی خواهد کرد. آنچه در هوش مصنوعی دشوارتر است، منحنی بهبود است.

پل کریستینو، یکی از اعضای کلیدی OpenAI که برای تأسیس مرکز تحقیقات Alignment ترک کرد، به نظر می‌رسد که دنیای فکری گسترده‌تر به شدت بیش از حد تخمین می‌زند که چقدر طول می‌کشد تا سیستم‌های هوش مصنوعی از «تاثیر بزرگ بر جهان» به «دنیای متحول شده غیرقابل تشخیص» برسند. ، سال گذشته نوشت. این به احتمال زیاد سال‌ها است تا دهه‌ها، و این احتمال وجود دارد که ماه‌ها باشد.»

شاید توسعه دهندگان به دیواری برخورد کنند که انتظارش را ندارند. اما اگر این کار را نکنند چه؟

می بینم که دارم به روزهای اولیه کووید فکر می کنم. هفته‌هایی بود که مشخص بود قرنطینه‌ها در راه است، دنیا در حال تبدیل شدن به بحران است، و با این حال عادی‌بودن حاکم بود، و شما مثل یک آدمک به نظر می‌رسیدید که به خانواده‌تان می‌گفتید دستمال توالت تهیه کنند. دشواری زندگی در زمان تصاعدی، وظیفه غیرممکن تسریع در سیاست و تغییرات اجتماعی برای مطابقت با نرخ تکثیر ویروسی وجود داشت. من گمان می‌کنم که برخی از آسیب‌های سیاسی و اجتماعی که هنوز از این همه‌گیری متحمل می‌شویم، بازتاب آن شتاب غیرممکن است. یک سرعت طبیعی برای مشورت انسان وجود دارد. وقتی از تجمل زمان محروم می شویم، خیلی چیزها خراب می شوند.

اما این همان لحظه ای است که من معتقدم اکنون در آن هستیم. ما این تجمل را نداریم که در پاسخ به این امر آهسته حرکت کنیم، حداقل اگر قرار است فناوری به این سرعت حرکت کند.

از زمانی که در سال 2018 به منطقه خلیج نقل مکان کردم، سعی کردم به طور منظم با افرادی که روی هوش مصنوعی کار می کنند وقت بگذرانم. و منظور من این نیست که نادیده گرفته شود. منظورم به صورت توصیفی است. این جامعه ای است که با حس تغییر یافته زمان و پیامد زندگی می کند. آنها با سرعتی که اغلب نمی توانند باور کنند، قدرتی را ایجاد می کنند که درک نمی کنند.

در یک نظرسنجی در سال 2022، از کارشناسان هوش مصنوعی پرسیده شد: “شما چه احتمالاتی را برای ناتوانی انسان در کنترل سیستم های هوش مصنوعی پیشرفته آینده که باعث انقراض انسان یا به طور مشابه ناتوانی دائمی و شدید گونه های انسانی می شود، قائل هستید؟” میانگین پاسخ 10 درصد بود.

درک آن برای من سخت است، حتی اگر با بسیاری از کسانی که این احتمال را حتی بالاتر می‌دانند صحبت کرده‌ام. آیا روی فناوری کار می‌کنید که فکر می‌کردید 10 درصد احتمال دارد بشریت را از بین ببرد؟

وقتی به هوش مصنوعی فکر می‌کنیم، معمولاً به سراغ داستان‌های علمی تخیلی می‌رویم. به این باور رسیده‌ام که استعاره‌های مناسبی در رمان‌های فانتزی و متون پنهانی پنهان شده‌اند. همانطور که همکار من راس دوتات نوشت، این یک عمل احضار است. کدنویسانی که این طلسم‌ها را می‌سازند، نمی‌دانند چه چیزی در پورتال رخ خواهد داد. در گفتگوهای من با آنها عجیب ترین چیز این است که آنها آزادانه از این موضوع صحبت می کنند. اینها ساده لوح نیستند که معتقدند صدایشان را فقط فرشتگان می شنوند. آنها معتقدند که ممکن است شیاطین را احضار کنند. به هر حال دارند زنگ می زنند.

من اغلب از آنها همین سوال را می‌پرسم: اگر فکر می‌کنید مصیبت ممکن است، اصلاً چرا این کار را می‌کنید؟ افراد مختلف حرف‌های متفاوتی برای گفتن دارند، اما پس از چند فشار، متوجه می‌شوم که اغلب از چیزی که شبیه چشم‌انداز هوش مصنوعی به نظر می‌رسد، پاسخ می‌دهند. بسیاری – نه همه، اما به اندازه ای که من در این شخصیت پردازی احساس راحتی می کنم – احساس می کنند که مسئولیت دارند این شکل جدید از هوش را به جهان وارد کنند.

یک فکر وسوسه انگیز، در این لحظه، ممکن است این باشد: این افراد دیوانه هستند. این اغلب پاسخ من بوده است. شاید نزدیک بودن بیش از حد به این فناوری منجر به از دست دادن دیدگاه شود. این موضوع در میان علاقه مندان به ارزهای دیجیتال در سال های اخیر صادق بود. ادعاهایی که آنها در مورد اینکه چگونه بلاک چین ها همه چیز را از پول گرفته تا حاکمیت و اعتماد و دوستیابی متحول می کنند، هرگز منطقی نبود. اما نزدیک‌ترین افراد به این رمز، آن‌ها را شدیداً باور می‌کردند.

آیا هوش مصنوعی جای کریپتو را به‌عنوان پولی برای سرمایه‌گذاران و زمان برای ایده‌آل‌ها و آهنربایی برای هیپ‌بازها و بستری برای کلاهبرداری می‌گیرد؟ من اینطور فکر نمی کنم. Crypto همیشه داستانی در مورد آینده ای بعید برای جستجوی کشش در زمان حال بود. با هوش مصنوعی، برای تصور آینده، فقط باید به زمان حال دقت کنید.

آیا این سیستم ها می توانند عصر جدیدی از پیشرفت علمی را آغاز کنند؟ در سال 2021، سیستمی که توسط DeepMind ساخته شد، توانست ساختار سه بعدی ده ها هزار پروتئین را پیش بینی کند، پیشرفتی به قدری قابل توجه که ویراستاران مجله Science آن را موفقیت سال خود نامیدند. آیا هوش مصنوعی دنیای ما را با همراهان و شخصیت‌های غیرانسانی پر خواهد کرد که به دوستان و دشمنان ما و دستیاران و مربیان ما و شاید حتی عاشقان ما تبدیل می‌شوند؟ مجله نیویورک گزارش می دهد: “در عرض دو ماه پس از دانلود Replika، دنیس والنسیانو، یک زن 30 ساله در سن دیگو، دوست پسر خود را ترک کرد و اکنون “با خوشحالی از روابط انسانی بازنشسته شده است.”

آیا هوش مصنوعی می تواند میلیون ها نفر را بیکار کند؟ اتوماسیون در حال حاضر، دوباره و دوباره. آیا می تواند به تروریست ها یا کشورهای متخاصم کمک کند تا سلاح های کشنده و حملات سایبری فلج کننده تولید کنند؟ اگر به اندازه کافی هوشمندانه از آنها بپرسید، این سیستم ها در حال حاضر راهنمایی در مورد ساخت سلاح های بیولوژیکی ارائه می دهند. آیا ممکن است فرآیندهای اجتماعی حیاتی یا زیرساخت‌های عمومی را به روش‌هایی که ما نمی‌فهمیم و ممکن است دوست نداشته باشیم کنترل کند؟ هوش مصنوعی در حال حاضر برای پلیس پیش بینی و صدور احکام قضایی استفاده می شود.

اما من فکر نمی‌کنم این فهرست‌های لباس‌شویی از چیزهای بدیهی کمک زیادی به آماده‌سازی ما کند. ما می‌توانیم برای چیزی که می‌توانیم پیش‌بینی کنیم، برنامه‌ریزی کنیم (اگرچه این نشان می‌دهد که در بیشتر موارد، این کار را نکرده‌ایم). آنچه در راه است عجیب تر خواهد بود. من از این اصطلاح در اینجا به روشی خاص استفاده می کنم. اریک دیویس، مورخ ضدفرهنگ کالیفرنیایی، در کتاب خود «عجیب بالا»، چیزهای عجیب و غریب را «غیرعادی» توصیف می‌کند – آنها از هنجارهای انتظارات آگاهانه منحرف می‌شوند و توضیح‌های ثابت را به چالش می‌کشند، گاهی اوقات کاملاً رادیکال. این دنیایی است که ما می سازیم.

من نمی توانم به اندازه کافی بر این موضوع تأکید کنم: ما این سیستم ها را درک نمی کنیم، و مشخص نیست که حتی می توانیم. منظور من این نیست که ما نمی‌توانیم یک حساب سطح بالا از توابع اساسی ارائه دهیم: اینها معمولاً الگوریتم‌های احتمالی هستند که بر روی اطلاعات دیجیتالی آموزش داده شده‌اند که در مورد کلمه بعدی در یک جمله، یا یک تصویر در یک دنباله یا یک رابطه دیگر پیش‌بینی می‌کنند. بین انتزاعاتی که می تواند به صورت آماری مدلسازی کند. اما روی جزئیات زوم کنید و تصویر به استاتیک محاسباتی تبدیل می شود.

مگان اوگیبلین در کتاب درخشان خود با عنوان «خدا، انسان، حیوان، ماشین»، «توضیحی» می‌نویسد: «اگر بخواهید هر کاری را که شبکه‌ها بین ورودی و خروجی انجام می‌دهند چاپ کنید، میلیاردها عملیات محاسباتی انجام می‌شود. ” درک این غیرممکن است.”

این شاید عجیب‌ترین چیز در مورد چیزی است که می‌سازیم: «تفکر»، به دلیل نداشتن کلمه بهتر، کاملاً غیرانسانی است، اما ما آن را طوری آموزش داده‌ایم که عمیقاً انسانی نشان دهد. و هرچه سیستم‌ها غیرانسانی‌تر شوند – میلیاردها اتصال که ترسیم می‌کنند و لایه‌ها و پارامترها و گره‌ها و قدرت محاسباتی که به دست می‌آورند – بیشتر انسان‌تر به نظر می‌رسند.

خطرات در اینجا مادی و اجتماعی و متافیزیکی هستند. O’Gieblyn مشاهده می کند که “همانطور که هوش مصنوعی همچنان در معیارهای شناخت بالاتر از ما عبور می کند، ما با اصرار بر اینکه آنچه آگاهی واقعی را متمایز می کند احساسات، ادراک، توانایی تجربه و احساس است: کیفیت ها، به عبارت دیگر، اضطراب خود را فرو می نشانیم. ، که با حیوانات به اشتراک می گذاریم.»

اوگیبلین خاطرنشان می کند که این یک وارونگی تفکر قرن هاست که در آن بشریت با تأکید بر منحصر به فرد بودن شناختی ما، سلطه خود را توجیه می کند. ما ممکن است به زودی خود را در پناه متافیزیکی در تجربه ذهنی آگاهی پیدا کنیم: ویژگی هایی که با حیوانات به اشتراک می گذاریم، اما تا کنون با هوش مصنوعی نه. ” او نوشت.

اگر ادواری برای تطبیق داشتیم، شاید بتوانیم این کار را تمیز انجام دهیم. اما ما این کار را نمی کنیم. شرکت های بزرگ فناوری در حال رقابت برای تسلط بر هوش مصنوعی هستند. آمریکا و چین در رقابت برای تسلط بر هوش مصنوعی هستند. پول به سمت شرکت هایی با تخصص هوش مصنوعی سرازیر می شود. اینکه به ما پیشنهاد کند آهسته تر حرکت کنیم یا حتی کاملاً متوقف شویم، کودکانه به نظر می رسد. اگر یک شرکت سرعت خود را کاهش دهد، دیگری سرعت خواهد گرفت. اگر یک کشور مکث کند، کشورهای دیگر بیشتر فشار خواهند آورد. جبرگرایی تبدیل به کنیز اجتناب ناپذیری می شود و ناگزیر بودن توجیه شتاب می شود.

کاتیا گریس، محقق ایمنی هوش مصنوعی، این غیرمنطقی را به طرز ناخوشایندی خلاصه کرد. آهسته کردن سرعت “شامل هماهنگی افراد متعددی خواهد بود – ممکن است آنقدر مغرور باشیم که فکر کنیم ممکن است ماشین خدایی بسازیم که می تواند جهان را تسخیر کند و آن را به عنوان یک بهشت ​​از نو بسازد، اما ما دچار توهم نیستیم.”

یکی از این دو اتفاق باید بیفتد. بشریت باید انطباق خود با این فناوری ها را تسریع کند یا باید تصمیمی جمعی و قابل اجرا برای کند کردن توسعه این فناوری ها اتخاذ شود. حتی انجام هر دو ممکن است کافی نباشد.

کاری که ما نمی توانیم انجام دهیم این است که این سیستم ها را از ذهن خود دور کنیم و احساس عادی بودن را با واقعیت اشتباه بگیریم. من تشخیص می دهم که سرگرم کردن این امکانات کمی عجیب است، بله. برای من هم همینطور است. شک و تردید راحت تر است. اما چیزی که دیویس می نویسد برای من صادق است: «در دادگاه ذهن، شک و تردید یک وزیر بزرگ را می سازد، اما یک ارباب شرور.»