زیر آوارِ نویزها؛ هوش مصنوعی و عصر تاریکِ انسان

مقدمه: واقعیت تلخ خلاقیت در عصر ما

سلام، من مهدی کلانتری هستم و شما شنونده اپیزود سوم از فصل دوم پادیا هستید. امروز قراره وسط این رالی پرسرعت هوش مصنوعی و قابلیت‌های جدیدی که هر روز معرفی می‌شه، چند لحظه مکث کنیم. چشمامون رو ببندیم و به یه سوال مهم فکر کنیم؛ اینکه تو دل تمام این کارایی که ماشین‌ها دارن برامون انجام می‌دن، آیا واقعاً چیز جدیدی در جریانه؟
تو این اپیزود می‌خوایم یه بررسی ریشه‌ای‌تر داشته باشیم از مفهوم خلاقیت، وضعیت فکری انسان امروز و البته توهمی که مدت‌هاست دچارش شدیم.

فصل اول: آیا هوش مصنوعی واقعاً نوآوری می‌کند؟
یکی از بحث‌های داغ این روزا، بحث هوش مصنوعی و قابلیت‌های جدیدیه که هر روز رونمایی می‌شه. یه سری بحث‌ها یا دغدغه‌های به ظاهر عمیق‌تری هم گاهی مطرح می‌شه؛ مثلاً اینکه آیا ماشین‌ها به آگاهی رسیدن؟ یا آینده نیروی کار در خطره؟ هوش مصنوعی فلان شغل رو نابود کرد و از این جور چیزا. اما همه این بحث‌ها هم از جهتی مثل همون اخباری‌ان که از آپدیت‌های جدید هوش مصنوعی هر روز میاد و در واقع دارن از این زاویه به ماجرا نگاه می‌کنن که این تکنولوژی جدید چقدر پیشرفت کرده، باهوش و شاید خطرناک شده.
اما این وسط کمتر کسی رو دیدم که یه قدم به عقب برداره تا این پدیده رو از یه زاویه کاملاً متفاوت و خیلی بنیادی‌تر بهش نگاه کنه و مشخصاً این سوال رو مطرح کنه که: آیا هوش مصنوعی واقعاً چیز جدیدی به دنیای ما اضافه کرده؟ و اگر بله، اون چیز واقعاً چیه؟
می‌دونم، شاید سوال خیلی بی‌ربط و شاید حتی بچگانه‌ای به نظر برسه. خب این همه آدم هر روز دارن با AI کارایی انجام می‌دن که قبلش انجام نمی‌دادن؛ از تولید متن و عکس و ویدیو بگیر تا ربات‌های عامل و غیره. اما سوال من دقیقاً همینه: در همه این کارهای خارق‌العاده، چه چیزی واقعاً جدیده؟

فصل دوم: مکانیزم واقعی سیستم‌های هوش مصنوعی
برای اینکه به این سوال جواب بدیم، باید ببینیم اول زیر پوست این سیستم‌ها دقیقاً چه اتفاقی می‌افته. خب همه‌مون دیگه اینو می‌دونیم که وقتی یه مدل زبانی یا تصویرساز به ما یه خروجی می‌ده، در حال خلق یه مفهوم از عدم یا در حال تفکر انتزاعی نیست. کاری که ماشین انجام می‌ده پردازش آماری و تشخیص الگو بین میلیاردها داده‌ایه که ما انسان‌ها تا قبل از این تولید کردیم.
هوش مصنوعی تمام تاریخ مکتوب، تمام کتاب‌ها، تمام مقالات و داده‌های صوتی و تصویری ما رو دریافت کرده، پردازش کرده و حالا بر اساس احتمالات ریاضی پیش‌بینی می‌کنه که کلمه بعدی، یا پیکسل بعدی مثلاً، چی باید باشه. در واقع چیزی که ما امروز بهش می‌گیم تولید محتوا توسط ماشین، در ذات خودش یه «بازآرایی»ه؛ یه بازآرایی به‌شدت سریع و دقیق.
ماشین داره همون دانش، همون چارچوب‌ها و همون ایده‌هایی که از قبل وجود داشتن رو با یه ترکیب‌بندی جدید به ما تحویل می‌ده. در این فرایند، آره، سرعت پردازش جدیده، مقیاس کار جدیده، فرمت ارائه هم می‌تونه جدید باشه؛ اما در هسته مرکزی این خروجی‌ها هیچ مفهوم بنیادین جدیدی خلق نشده.
خب تا اینجا شاید یکم برای کسایی که نگران این بودن که هوش مصنوعی جای انسان رو داره می‌گیره امیدوارکننده باشه؛ که هنوز قدرت خلق یه چیز واقعاً جدید مال ما آدماست دیگه! اما قبل از اینکه خیلی خوشحال بشیم یا به این خلاقیت انسانی‌مون ببالیم، بذارید یه قدم دیگه هم برگردیم عقب. برگردیم به قبل از این انفجار هوش مصنوعی و ببینیم ما آدما قبل از این واقعاً چقدر خلاق بودیم؟

فصل سوم: افول خلاقیت انسانی پیش از عصر ماشین
خیلی پیش‌تر از اینکه AI این‌قدر فراگیر بشه، مگه خود ما انسان‌ها شروع نکرده بودیم مثل ماشین کار کردن؟ مگه تو بازارهای مالی تحلیل‌گرها به جای درک عمیق چرخه‌های بازار، صرفاً چند تا اندیکاتور که معنیش رو هم خیلی وقتا نمی‌فهمیدن نمی‌نداختن رو نمودار تا بر اساسش سیگنال خرید و فروش بدن؟ یا تو دانشگاه‌ها خیلی از اساتید مگه صرفاً برای بالا بردن تعداد ارجاعات، مقاله سر هم نمی‌کردن؟
مگه ما سال‌ها پیش خودمون، با دست خودمون خلاقیت رو نکشتیم تا فرایند و استاندارد رو بنشونیم سر جاش؟ اگه پذیرفتن این حرفا براتون سخته، یه لحظه به این فکر کنید که آخرین فیلسوفی که یه مفهوم کاملاً جدید تعریف کرده مال چه زمانیه؟ یا آخرین اقتصاددانی که یه نگاه واقعاً جدید رو در اقتصاد مطرح کرده کی بوده؟ وقتی می‌گم یه نگاه واقعاً جدید، منظورم واقعاً جدیده ها! یه تغییر پارادایم و یه فهم واقعاً عمیق‌تر از مثلاً کنش انسانی.
و شاید الان تو ذهنتون این بیاد که خب این همه مثلاً جایزه نوبل تو اقتصاد در دهه‌های اخیر داشتیم و خب قاعدتاً جایزه نوبل واسه همینه دیگه، واسه یه نگاه کاملاً جدیده. ولی خب نکته دقیقاً همینه! اگه یکم بیشتر دقت کنیم، اتفاقاً خیلی از این نوبل‌های یکی دو دهه اخیر اصلاً نوآوری در علم اقتصاد نیستن. صرفاً مدل‌سازی‌های پیچیده‌تر و فرمول‌های ریاضی جدیدی هستن برای توجیه یه سری سیاست قدیمی. مثلاً برای اینکه به سیاست‌مدارها و بانک‌های مرکزی یاد بدن چطور مداخله بیشتر در بازار و سلب آزادی انتخاب آدما رو تئوریزه کنن.

فصل چهارم: نوبل‌های اقتصاد؛ نوآوری یا توجیه وضع موجود؟
برای اینکه نگید دارم اغراق می‌کنم، فقط چند تا مثال می‌زنم:
به این جمله دقت کنید؛ نوبل ۲۰۲۲ اقتصاد رو دادن به بن برنانکی (Ben Bernanke) معروف و همکاراش برای تحقیق درباره بانک‌ها و بحران‌های مالی. حالا این جمله‌ای که گفتم رو می‌خوام براتون ترجمه کنم. ترجمه‌ش به زبان ساده اینه: بن برنانکی، ریاست فدرال رزرو در دوران بحران مالی ۲۰۰۸، که از قضا معمار بزرگترین مداخلات پولی و چاپ پول بدون پشتوانه تحت اسم شیک و قشنگِ «تسهیل کمی» یا QE بود، و البته باعث و بانی نجات بانک‌های ورشکسته با پول مالیات‌دهنده‌ها در بحران ۲۰۰۸ هم بود، برای تئوریزه کردن دخالت همه‌جانبه بانک مرکزی و نجات سیستم معیوب پولی، جایزه نوبل گرفت!
یا بریم چند سال عقب‌تر و نوبل ۲۰۱۷ ریچارد تیلر (Richard Thaler) رو ببینیم برای چی بود. درسته، برای اقتصاد رفتاری و نظریه تلنگر (Nudge). این نظریه اساساً می‌گه انسان‌ها در تصمیم‌گیری‌های اقتصادی خطاهای شناختی دارن و منطقی رفتار نمی‌کنن. خب یه سیاست‌مدار چی بهتر از این می‌خواد؟ پس سیاست‌گذارها و دولت‌ها باید با طراحی ساختارها اونا رو به سمت تصمیمِ درست هل بدن. و این یعنی تئوریزه کردن همون شعار معروف و مورد علاقه سیاست‌مدارها که: «ما بهتر از شما صلاح شما رو می‌دونیم!» که خب نه شعارش چیز جدیدیه و نه تئوریزه کردنش.
به عنوان مثال آخر هم سال ۲۰۱۹ رو در نظر بگیرید که جایزه نوبل اقتصاد برای «رویکرد تجربی در کاهش فقر جهانی» رسید به بانرجی (Banerjee)، دوفلو (Duflo) و کرمر (Kremer). نوآوری اینا چی بود؟ به جای پرداختن به ریشه‌های تولید ثروت مثل حقوق مالکیت، بازار آزاد و حذف موانع دولتی، اقتصاد رو به سطح آزمایش‌های محلی و پروژه‌های خیریه دولتی تقلیل دادن. یعنی به جای آزادسازی مسیر ثروت، بیاین فقر رو در سطح خرد مدیریت کنین!

فصل پنجم: عصر تاریکی و توهم خلاقیت
یکی از دوستام متنی نوشت اخیراً توی لینکدین که دست گذاشت روی همین درد. و اصلاً همون متن بهونه اصلی روشن کردن میکروفون برای ضبط این اپیزود شد. اونجا یه تعبیر قشنگی داشت و نوشت که: «هوش مصنوعی داره این واقعیت که بشر دهه‌هاست چیز جدیدی تولید نکرده و فقط داره از تولیدات گذشته‌ش مصرف می‌کنه رو مستقیم می‌کوبه تو صورتمون.»
ما مثل روم باستان شدیم که فقط داشت از دستاوردهای یونان تغذیه می‌کرد و خیلی وقته که وارد یه عصر تاریک شدیم و چیزی که جدیده، صداشه که تازه داره در میاد. این نقل به مضمون از پست علی نیک‌بخت بود.

فصل ششم: شاهکارهای مهندسی در برابر پارادایم‌های فکری
اما اینجا ممکنه کسی خود هوش مصنوعی رو به عنوان مثالِ نقضِ این منطق مطرح کنه. یعنی بگه که خود همین پیشرفت چشمگیر و فراگیر شدن هوش مصنوعی تو این دهه اخیر که دنیا رو تکون داده، مگه یه نوآوری خارق‌العاده نیست؟ و مگه نمی‌تونه شاهد محکمی باشه بر پویایی و خلاقیت بشر در عصر حاضر؟
این حرف قابل تاملی می‌تونه باشه، ولی باید اول نوآوری در مهندسی رو از تولید تفکر بنیادین جدا کنیم. اگر از نظر تاریخی به مبانی نظری هوش مصنوعی امروز نگاه کنیم، می‌بینیم که پایه‌های این تکنولوژی که بهش شبکه‌های عصبی مصنوعی می‌گن (یا ایده پرسپترون که یه الگوریتم یادگیری ماشینه، یا الگوریتم پس‌انتشار خطا)، همه‌شون تو دهه‌های ۱۹۴۰ تا ۱۹۸۰ میلادی مدل‌سازی شدن.
البته که ما در قرن ۲۱ هم نوآوری‌های بزرگی داشتیم، اما نکته اینجاست که اتفاقی که در قرن اخیر افتاد ترکیب دو تا پیشرفت بزرگ بود: اول اینکه ما بالاخره تونستیم مشکل سخت‌افزاری پردازنده‌ها رو حل کنیم تا بتونن از اون الگوریتم‌های قرن گذشته روی حجم عظیمی از داده‌ها و در مقیاس بسیار بزرگتری استفاده کنن؛ و دوم به نوآوری‌های خیلی درخشانِ الگوریتمی رسیدیم مثل معماری ترنسفورمر (Transformer) که سال ۲۰۱۷ معرفی شد و پایه مدل‌های زبانی امروز مثل چت‌جی‌پی‌تی (ChatGPT) هست. (داخل پرانتز، این معماری به ماشین یاد داد که چطور به جای خوندن خطی کلمات، به کل متن توجه کنه و ارتباط و وزن کلمات رو در یه بستر بزرگتر بسنجه).
خب اینا بدون شک پیشرفت‌های مهندسی چشمگیری هستن. اما نکته اصلی بحث من اینه که حتی پیشرفته‌ترین نوآوری‌های الگوریتمی امروز، در نهایت مکانیزم‌هایی هستن برای بهینه‌سازی توزیع احتمالات و ترکیب آماری داده‌ها. ما در قرن ۲۱ و مخصوصاً در دهه اخیر، ماشین‌های بی‌نظیری برای بازآرایی و ترکیب اطلاعات ساختیم، اما ماشینِ پیشرفته‌تر ساختن، به معنای خلق دانش، آگاهی یا تفکر انتزاعیِ جدید نیست.
اتفاقی که افتاده قطعاً یه پیروزی بزرگ در مهندسی و ریاضیات کاربردیه، اما از هر زاویه‌ای نگاه کنید، خلق یه پارادایم فکریِ جدید نیست.

فصل هفتم: تغییر پارادایم در بستر تاریخ
خب پس انگار واقعاً تو عصر تاریک هستیم؟
شاید... اما قبل از اینکه کاملاً تسلیم نظریه «عصر تاریک» بشیم، بیاید تاریخ رو از یه زاویه دیگه هم مرور کنیم و ببینیم کلاً مگه چند بار در تاریخ بشر، پارادایم‌شیفت (Paradigm Shift) یا تغییر بنیادینِ الگوی فکری اتفاق افتاده؟
از ارسطو تا نیوتون چقدر راه بود؟ یا تو اقتصاد از انتشار کتاب «ثروت ملل» آدام اسمیت و شکل‌گیری نظریات کلاسیک تا وقوع انقلاب مارژینالیستی توسط مثلاً کارل منگر و تغییر پایه‌های ارزش‌گذاری اقتصادی، حدود یک قرن کامل زمان گذشت. و اصلاً همون اولش چقدر طول کشید تا برسیم به یونانِ ۲۵۰۰ سال پیش که پایه‌های علم و فلسفه گذاشته شد؟
و یه سوال رادیکال‌تر: در خود فلسفه واقعاً ما بعد از ارسطو حرف کاملاً جدیدی داشتیم؟ آلفرد نورث وایتهد (Alfred North Whitehead) یه جمله معروف داره که می‌گه: «تمام تاریخ فلسفه غرب صرفاً حاشیه‌نویسی بر افلاطونه!»
که خب همون‌طور که گفتم بحث مفصلیه و نمی‌خوام الان وارد دعواش بشم. ولی به هر حال قدر مسلم اینه که نوآوری‌های ساختارشکنِ واقعی، ذاتاً رویدادهای بسیار نادری در تاریخ هستن. و شاید امروز سرعت بالای به‌روزرسانی‌های تکنولوژیک باعث شده که این انتظار در ما ایجاد بشه که تولید مفاهیم بنیادین هم باید با سرعت خیلی بیشتری نسبت به گذشته اتفاق بیفته. پس به این معنا، شاید ما تو عصر تاریک نیستیم؛ یعنی توقفِ تولید اندیشه‌های بزرگ یه روند طبیعی تاریخیه و ربطی به تنبلیِ انسانِ امروز نداره.

فصل هشتم: بحران اصلی؛ سیگنال در برابر نویز
ولی هر چقدر هم استدلال تاریخی و غیرتاریخی بیاریم برای اینکه وضعمون اون‌قدرا هم بد نیست و لااقل تو عصر تاریک نیستیم، شاید هیچ آدم متفکری نتونه انکار کنه که به هر حال یه چیزی انگار سر جاش نیست! یه ویژگی بدی داره این عصر که خیلی اذیت‌کننده‌ست و رو مخه.
اگه اینایی که گفتم نیست و در عصر تاریک هم نیستیم، پس اون چیزی که این‌قدر اذیت‌کننده‌ست چیه؟ من پیش خودم اسم مشکل امروز رو می‌ذارم: «به هم خوردن وحشتناک نسبت سیگنال به نویز (Signal-to-Noise Ratio)».
چرا اینو می‌گم؟ توی مهندسی مخابرات دو تا مفهوم هست: یکی سیگنال، که همون پیام اصلی و مفید و هدفمندیه که قراره منتقل بشه؛ و یکی هم نویز، که همون پارازیت‌ها و داده‌های بی‌ارزش و مزاحمی هستن که فضا رو اشغال می‌کنن و کیفیت دریافت پیام رو میارن پایین.
در گذشته نه‌چندان دور، تولید محتوا هزینه نسبتاً بالایی داشت. نوشتن یه کتاب، تولید یه فیلم، خلق یه اثر هنری یا حتی ارائه یه تحلیل اقتصادی جدی، نیازمند صرف زمان طولانی، تمرکز عمیق و عبور از یک سری فیلترهای طبیعی یا سنتیِ سخت‌گیرانه بود. و البته که احتمالاً در تمام ادوار تاریخ، درصد سیگنال بیشتر از نویز بوده. اما این هزینه بالا، به هر حال مثل یه مانع عمل می‌کرد تا هر کسی نتونه داده بی‌ارزش تولید کنه. و خب در نتیجه، حجم مجموع محتوا کمتر بود و درصد نسبتاً بالایی از اون داده‌ها سیگنال بودن. یا شاید به عبارت بهتر، اگر کسی کتابی می‌نوشت یا نظریه‌ای می‌داد، احتمال اینکه اون نوشته یه سیگنال -به اون معنایی که توضیح دادم- باشه نسبت به امروز بالا بود.

اما اتفاقی که امروز افتاده اینه که ما ابزارهایی ساختیم که هزینه تولید داده رو تقریباً رسوندن به صفر! شبکه‌های اجتماعی، سیستم‌های آکادمیکِ مقاله‌محور و آخریش هم همین هوش مصنوعی زایشی. امروز هر کسی می‌تونه با چند تا کلیک یا کپی‌پیست کردنِ تحلیل‌های قبلی، یه محتوای جدید بسازه که ظاهرش خیلی هم شیک و تخصصی‌ئه. ما انسان‌ها هر روز در حال پمپاژ میلیون‌ها صفحه متنِ تکراری، تحلیل‌های بازاریِ بی‌اساس و فرمول‌های پوچ و توخالی هستیم که همه این‌ها نویز هستن.
مسئله‌ای که هوش مصنوعی ایجاد کرده البته خیلی بزرگتر از کاهش هزینه تولید داده‌ست. ما در حال ورود به اصطلاحاً یه چرخه بازخوردِ بسته هستیم. یعنی چی؟ یعنی مدل‌های زایشی هوش مصنوعی همون‌طور که می‌دونیم بر اساس میلیاردها داده موجود در اینترنت آموزش می‌بینن، و این داده‌ها خب درصد بسیار بالایش همون نویزهایی هستن که توسط انسان‌ها از قبل تولید شدن. ماشین این نویزها رو دریافت می‌کنه، بر اساسشون الگوسازی می‌کنه و خروجی‌های ترکیبی جدیدی رو منتشر می‌کنه. فاجعه اونجاست که در سال‌های آینده مدل‌های جدیدترِ هوش مصنوعی باید روی همین داده‌هایی آموزش ببینن که خروجی ماشین‌های قبلی بودن! و این روند باعث می‌شه سیستم به طور مداوم صرفاً میانگین داده‌های سطحی پیشین رو بازتولید کنه.
در این ساختار آماری، محتوای اصیل و مفاهیم بنیادین -همون چیزایی که تو این ادبیاتی که تعریف کردم بهشون می‌تونیم بگیم سیگنال- به دلیل حجم بسیار پایین‌شون نسبت به محتوای تکراری (همون نویزها)، وزن آماری‌شون رو از دست می‌دن و به تدریج از خروجی‌های نهایی ماشین حذف می‌شن.

البته جا داره تاکید کنم حرف من این نیست که ماشین در این سال‌ها هیچ سیگنال واقعی و ارزشمندی تولید نکرده. قطعاً کرده. مثلاً تو زیست‌شناسی مولکولی، یه معمای نیم‌قرنی وجود داشت به اسم پیچ‌خوردگی پروتئین‌ها. در واقع دانشمندا ۵۰ سال درگیر این بودن که چطور می‌شه ساختار سه‌بعدی پروتئین‌ها رو بر اساس توالی آمینواسیدهاشون پیش‌بینی کرد (و حل کردن این مسئله کلید درمان خیلی از بیماری‌هاست). و اتفاقی که افتاد این بود که چند سال پیش سیستم آلفافولد (AlphaFold) از شرکت دیپ‌مایند با استفاده از هوش مصنوعی این معمای پیچیده رو حل کرد. پس ماشین می‌تونه در حل مسائل علوم پایه حتی راهگشا باشه؛ اما نکته من اینه که در مقابل این معدود کشفیات علمی درخشان، ما با میلیاردها صفحه متن بی‌ارزش، مقاله‌های سرهم‌بندی شده، کپی‌کاری‌های ظاهراً علمی و تحلیل‌های سطحیِ اقتصادی طرفیم که همین ماشین‌ها (یا انسان‌ها به کمک این ماشین‌ها) دارن هر ثانیه به فضای اینترنت و شبکه‌های حرفه‌ای ما وارد می‌کنن.

اتفاق تلخ این عصر اینه که اون سیگنال واقعی و ارزشمند داره تو این سیل وحشتناک نویزها غرق می‌شه. شاید مشکل اصلی عصر ما این نیست که متفکر نداریم یا تولید علم متوقف شده؛ شاید امروز حتی میزان سیگنال به اندازه گذشته یا حتی چند برابر گذشته باشه، اما در برابرش حجم نویز میلیاردها برابر شده!
مشکل اینه که اون متفکری هم که داره حرف جدید می‌زنه، اون سیگنال واقعی، صداش در بین این حجم کرکننده و وحشتناک نویزها بسیار بیشتر از قبل گم می‌شه.

حالا همه این‌ها یعنی ما وارد عصر تاریک شدیم؟ شاید. اما علت این تاریکی اینه که زیر آوار اطلاعات بی‌ارزش دفن شدیم.