Brother Claude

بله، هوش‌مصنوعی مولد. از ۲۰۲۳ به‌صورت جدی مطرح شد و الان هم می‌خوام تا جایی که Context Windowای که دارم یاری می‌کنه درباره‌اش توکن جنریت کنم. اینکه خوبه؟ بده؟ هایپه؟ چقد تغییر بزرگیه؟ همه‌چی تموم شده و سجده کنیم به AGI؟

فقط توی حوزه‌هایی که خودم حس می‌کنم یه درک و دریافت اندکی دارم بررسیش می‌کنم. کار کم مغز و تهی‌ایه که آدم راجع به فیلدی که بلد نیست نظر بده. بنظر یه پدیده‌ای هم برای بیان این سوگیری معرفی شده تحت عنوان Gell-Mann Amnesia Effect. شاید با خوندن سر تیتر‌ها و اخبار یک نفر بخواد ادعا کنه که AI جای دیزاینر‌ها، دکتر‌ها، وکیل‌ها و … در آینده نزدیک می‌گیره.
از طرفی وقتی این رو از سمت دیگه هم می‌بینم که همون اوایل که استارت‌آپ‌هایی مثل DevinAI درست شد حرف‌هایی زده می‌شد از قبیل اینکه ‌برنامه‌نویسی دیگه منسوخ شد و رفت کنار و هرکی الان اراده کنه بدون اینکه چیزی بلد باشه و یک خط کد بزنه می‌تونه یه کسب‌وکار موفق راه‌بندازه و چه‌بسا بهتر از هرکی که تا حالا کد زده عمل بکنه و دیگه این مهارت obsolete رو نباید یاد گرفت. مواردی مشابه این رو می‌بینم و سعی می‌کنم از کسایی نباشم که زود و عجولانه قضاوت می‌کنه.

از همون دورانی که با GPT ۳.۵ و ۴ اومده بودن جسته‌گریخته تعاملی باهاشون داشتم و سعی کردم بیشتر از LLMها تو کارهام استفاده کنم. یک جایی که واقعا کمک‌کننده بود و بنظرم تا حد خوبی چشم‌اندازش رو تغییر می‌ده سرچ هست و اون سرچ قبلی که به گوگل‌کردن می‌شناختیمش رو برای من جایگزین کرده. که خب اوایل هم به مدل‌ها ابزار وب‌سرچ داده نشده بود و برای داده به‌روز خوب عمل نمی‌کرد که این مسئله هم حل شده الان. یه بخشی از ماجرا از سمت پیشرفت این سرویس‌ها در knowledge retrieval میاد و یه بخش دیگه‌اش incompetence ایه که گوگل داشته و جواب‌های بالای پیجش یا تبلیغاته یا پست اسپانسر شده و یا Reddit و Wikipedia و توییتر که اگه کسی دنبال چیزی اونجا باشه تو خودشون سرچ می‌کنه. حتی سرچی که تو YouTube گوگل الان بالا داره از سرچ اصلیش جلوتره بخاطر این مسائل.
پس به‌جز کوئری‌های ریز و exact هرچیزی آدم می‌خواد سرچ بکنه رو می‌تونه از LLMها بپرسه و تر و تمیز جوابشو بگیره به‌همراه لینک منابع و citation که مطمئن هم بشه مدل براش توهم و تعبیر‌خواب نزده.
هنوز ولی فکر می‌کنم مشکل اصلی search engineهای فعلی یعنی enshittification حل نشده و فردا روزی ممکنه بیاد که مدل‌ها tier تبلیغاتی توی داده train‌اشون بفروشن و دوباره همین مسئله که کسی که بیشتر پول داده احتمال اینکه محصولش توی خروجی مدل باشه بیشتره. کما اینکه همین الان هم این bias وجود داره که اگه یه محصول یا لایبرری جدیدی مطرح بشه بعد از knowledge cutoff این مدل‌ها جزو جواب‌هاش نمیاد اگر هم بعدا اضافه بشه باز وزن کمتری نسبت به یه محصول established شده دیگه‌ای داره و LLM SEO پایین‌تری خواهد داشت. همینجوری هم که روی استفاده کاربرها دارن ضرر می‌دن مشابه محصول سرچ گوگل اینجا هم به‌مرور خود کاربر و داده‌های شخصیش تبدیل به محصول اصلی می‌شن. الان فعلا توی زمان space race هستیم که شرکت‌ها بیشتر سعی دارن که رقبا رو undercut کنن تا کامل حذف بشن و در نهایت اون موقع monopoly روی بازار داشته باشن، فعلا ولی برنده نهایی معلوم نشده.

نکته بعدی‌ای که می‌خواستم راجع بهش صحبت کنم اینه که آیا کلاس جدیدی از expertها به‌وجود اومده که prompt masterان و از بقیه جلو می‌زنن و بی‌برو‌برگشت بهترین چیزی که یه نفر می‌تونه یاد بگیره اینه؟ اصلا چی رو مگه می‌خواد یاد بگیره چون تا جایی که من دارم می‌بینم مهارت و سِر و راز عجیبی نداره که یه نفر بتونه به‌طور productive از LLMها استفاده کنه و هرکسی به‌اندازه‌ای که competent باشه تو حوزه خودش می‌تونه ارزشی که بهش می‌رسونه رو پیدا کنه یا پروژه‌های باحالی رو پیاده‌سازی کنه. همون یک اندازه‌ای هم با اخبار و محصولای جدید (که اکثرا ایده‌های UI بهتری هستن و در‌اختیار گذاشتن و گشتن تو Context رو راحت‌تر و سرراست‌تر کردن) جلو بره چیزی رو از دست نداده. به همین ترتیب هم قافله‌ای نیست که اگه ازش عقب مونده باشی دیگه بهش نمی‌رسی و دانش و مهارت دیگه‌ای که دنبالش بودی رو بی‌ارزش بکنه.
آدم‌های خفنی هم هستن که می‌گن AI هنوز به‌صورت معناداری کمک بهشون نکرده و باید بیشتر بر علیهش حرکت کنن تا خروجی دلخواهشون رو بگیرن. مثل Casey Muratori، Jonathan Blow، John Carmack و استریمر دوست‌داشتنی Tsoding (اکثرا Game Developerان و یا کلاینت‌های interactive کار می‌کنن نمی‌دونم چرا ولی Game Devها رو خفن‌ترین برنامه‌نویس‌ها می‌بینم‌). اینجوری هم نیست که از AI بد استفاده کنن اتفاقا از من و کلی آدمای دیگه هم بهتر استفاده می‌کنن، اما تهدیدی از سمتش احساس نمی‌کنن و Seniority‌ای که دارن و چیزی که ارزش بالا براش قائل‌ان رو می‌بینن خودشون راحت‌تر می‌تونن انجام بدن و از AI برای سرعت دلیوری و سرچ و اتومیت‌کردن وظایف استفاده می‌کنن. یه مثال دیگه هم که دیدم maintainer اصلی پروژه Tailwind بود که توی صحبت‌هاش این حرف رو می‌زد که اگر کاری خارج از toy project باشه بدون expertise نمی‌تونم با AI به سطح بالاییش برسونم ولی وقتی مهارت و دانش فنی موجود باشه حتی اگه پرامپت‌های طولانی‌تری و بخواد و کلا چرخه توسعه رو تغییر بده با code churn بالا این پتانسیل رو توش می‌بینه که سرعتش از اینکه خودش همه اون فیچرها رو بزنه بیشتر خواهد بود. بنظرم این حرف جزو بهترین آنالیزها برای کار درست با LLMهاست. به وضوح با تنبلی جلو نمی‌ره کار، نه‌تنها دانش و مهارت و سنیوریتی بالاتر منسوخ نمی‌شه بلکه با این بیس قوی‌تر و ضریب بوستی که کار با LLMها به یه نفر میده این فاصله مهارتی و خروجی دادن رو به طرف آدم senior بیشتر از قبل هم سوق می‌ده. پس AI و Prompt Bro بودن قرار نیست باعث رشد کسی بشه و همون فاکتورهای جاه‌طلبی و تمرین و بهبود و یادگیری مهارت و ownership که قبل از AI هم مؤثر بود + نداشتن تعصب و embrace‌کردن این تکنولوژی جدید و یه همراهی حداقلی با اخبار و breakthroughهای این حوزه و تلاش برای incorporate‌کردن موارد غیر hypeاش توی workflow، و بهره‌گرفتن از accelerationای که اضافه می‌کنه، از نظر من بهترین رویکردیه که هرکس می‌تونه داشته باشه.

مواردی هست که البته بنظرم واقعا اثر منفی گذاشته که خیلی ایده‌ای برای جلوگیری از آسیب زدنش تو این موارد ندارم.

مهم‌ترینش و موردی که خودم خیلی نزدیک تجربه‌اش کردم تاثیرش توی آموزشه چه مقطع مدرسه و چه آموزش‌عالی. من یه اقبال جالبی که داشتم که دوران تحصیل لیسانسم اولاش AI در کار نبود به مدت یک سال، بعد یه AI ابله با UI سخت‌استفاده برای مدتی (تا قبل از Sonnet 3.5 و Cursor منظورمه که هم مدل‌ها ضعیف‌تر بودن هم از مدل‌های پولی استفاده نمی‌کردم و کارم با مدل‌های مناطق‌محروم بود)، و استیت بعدش که می‌شه دوران کنونی‌‌ که به یه stability خوبی رسیده و به‌همراه ابزارهایی مثل AMP و Claude Code عملکرد خوب و قابل‌قبولی داره به‌خصوص در پروژه‌های در اسکیل کوچک. و همین‌طور هم قراره پیشرفت بکنه (از موقعی که من خواستم این بلاگ رو بنویسم مدل Opus 4.1 مطرح‌ترین بود و الان مدل جدید Sonnet 4.5 اومده). از بین همه این دوران‌ها، دوره مدل ابله بنظرم بهترین توازن رو برای یادگیری داشت.
مهم‌ترین بخش آموزش برای تفهیم و تثبیت یک موضوع برای تویی که تازه می‌خوای یاد بگیری زمانیه که تو حل تمرین یا پروژه زدن و یا امتحان، شش‌دنگ حواست رو روی مسئله می‌ذاری ولی با این وجود هم اشتباه می‌کنی و باگ می‌زنی و تازه بعد از تلاش و برطرف‌کردن این مشکل‌هایی که in action بهشون خوردی و فهمیدی جواب درست خارج از پیاده‌سازی و محاسبه‌هایی که به ذهنت رسیده بوده یادگیری واقعی اتفاق میفته.
با AI الان این مراحل اتفاق نمیفته یه بخشی از حواست به orchestrate‌کردن taskها و Context ایجنت و ست‌کردن گاردریل براشه و توی پروسه حل مسائل با AI خیلی از باگ‌های نهان و مشکلات ریز بدون اینکه تو بفهمی حل می‌شن و شهودهای غلطی که باید شکسته بشن به قوت خودشون باقی می‌مونن، بدون اینکه دانشجو متوجه این باشه که یادگیری داره ناقص اتفاق میفته. این تجربه رو خودم با گوشت و پوستم حس کردم و می‌بینم درس‌هایی که خیلی توی فرایند گذروندشون به AI تکیه کردم یادگیری پایین‌تری داشته برام نسبت به قبل، چه‌بسا که نمره بالاتری هم گرفته باشم. شاید بشه به این تشبیهش کرد به اینکه خوبه آدم با ماشین دنده‌ای رانندگی رو یاد بگیره و تصدیق بگیره حتی اگه بعدا قراره ماشین اتومات با کروز کنترل و فیچرهای خودران بشینه.
یه سمت دیگه از مضراتش رو این می‌بینم که راحتی‌ای که در دسترست می‌گذاره توی حوزه‌ای که درست بلد نیستی و می‌خوای تمرین کنی و یاد بگیری تو رو از کمال‌طلبی و overachieve‌کردن دور می‌کنه و یه سقف مجازی محدودیت پیاده‌سازی با LLM (اونم با پرامپت بد!) برای کارت قرار می‌ده که بیرون‌اومدن ازش و بهتر‌شدن توش تقریبا همون اندازه تلاشی رو می‌بره که خودت یاد می‌گرفتی و انجامش می‌دادی می‌کردی. مثل همین موضوع که خیلی از تبلیغات AI Slop شدن و آدم می‌بینه تبلیغات و محتوایی که با AI جایگزین شده قبلا قشنگ‌تر بود و این convenience کاذب جدید همه‌چی رو بدتر کرده هم خروجی بدتره و هم تلاشی و زمانی که پاش رفته با پرامپت‌ها و کدها دور ریخته شده با قبل خیلی هم فرقی نکرده و یه جنگل رو آتیش زدی برای یه پروژه یا یک ویدئو (بله، LLM خیلی انرژی مصرف می‌کنه، Shocker!).
در آخر یه پرانتزی هم باز کنم که من این رو برای شرایط یادگیری دارم می‌گم و قطعا زمان‌هایی که خیلی عجله و time constraint وجود داره یا یه پروژه throwaway یا exploratory یا یه کار مضاعفی هست که بدون AI انجام نمی‌شده همین رویکرد هم ارزش می‌رسونه. تیغ دولبه‌ایه به‌هر‌حال دیگه برای مثال من خودم حدود ۶ ماهی هست که با همین رویکرد دارم پروژه‌های پایتونی می‌زنم اما می‌دونم یادگیری پایینی برام داشته نسبت به زمانش. و من الان روی زبان پایتون و بدون LLM خیلی سخت‌تر می‌تونم همون کارها رو انجام بدم چون وقتی درست بلد نبودم delegate‌اشون کردم و شاید بهتر بود که با آروم‌تر کردن سرعت و رفتن با pace یادگیری خودم به‌مرور تا همیشه این زخم لای استخون رو کنار می‌گذاشتم و بعد از اون سرعت رو زیاد می‌کردم و به چیزی خیلی بیشتر از سرعت الانم می‌رسیدم، مثال‌های زیادی هم بوده که مشکل one-offای بوده و با کمک LLM حلش کردم و دیگه پیش نیومده و این delegate‌کردن tradeoff خوبی برام داشته.
دوباره برگردیم به آموزش توی دانشگاه. تلاش‌های مذبوحانه‌ای برای جلوگیری از این بخش‌های منفی AI شده. یکیش اینه که اسکوپ و حجم تمارین و پروژه‌ها رو زیاد و سخت می‌کنن که AI فعلی نتونه از پسش بربیاد. این کار کامل علیه مبانی آموزشی شروع با اسکوپ‌های منطقی و پروژه‌های کوچک و راحته و کسی که می‌خواد حتی با متود درستی درس رو یاد بگیره مجبور می‌شه به سمت PMHAANDD (Panic Mode Heavily AI Assisted Near Deadline Development) بره. روش دیگه‌ای که دیدم تلاش برای track‌کردن استفاده از AI و به‌نوعی تقلب گرفتن و ممنوع کردنش با مواردی مثل KeyLogger گذاشتن و اینجور چیزا هست که هم بنظرم خیلی راحت راه‌در رو داره و از طرفی هم خیلی دوز NSA و اسرائیلش بالاست و باهاش خوشحال نیستم. تنها راهکار feasibleای که می‌مونه اینه که خود محصل تقوا به‌خرج بده و در پروسه آموزش و بهبود مهارت فردی به اندازه درست (تا جای ممکن کم تکیه‌کردن در پیاده‌سازی) از AI استفاده کنه. به‌هر‌حال یک Pitfall جدیدی توی مسیر هست و درصدی از افراد رو گرفتار می‌کنه. باز دوباره می‌شه تشبیه کرد به Breakthroughهای مهم قبلی مثل اینترنت که جنبه مفیدشون رو دارن ولی DoomScrolling و آفت‌های دیگه‌اش می‌تونه ضرری بزنه که اگه اینترنت انقد خوب و سریع کار نمی‌کرد برای فرد ضرردیده بهتر بود.

یک‌سری ابعاد اجتماعی هم هست که این انقلاب می‌تونه تحت‌تاثیر قرار بده. در‌حال‌حاضر حس می‌کنم دغدغه بیکاری دغدغه جدی‌ایه و تعداد قابل‌توجهی افراد Boomer وجود دارن که به احتمال خوبی نتونن با این تکنولوژی و تغییر رویکردی که به‌همراه میاره کنار بیان (اصلا از نگاه بالا به پایین و اینکه بخوام بگم من خفن‌ترم به قضیه نگاه نمی‌کنم. سر خودم هم قطعا بعد از اینکه از یه سنی بگذرم میاد اینکه از تکنولوژی اون دوران عقب بمونم‌). و خیلی از مشاغل هست که به‌طور کامل می‌تونه automate بشه. حتی قبل از AI هم می‌تونست بشه و بیشتر حکم این رو داره که یه سیستم و سلسله‌مراتبی هست که داره کار می‌کنه و زندگی یه تعدادی رو داره تامین می‌کنه. راجع به پیشرفت‌های فناوری قبلی هم می‌شد این حرف رو زد ولی حسم اینه با AI به قصد بالا بردن حاشیه سود و کم‌کردن redundancy خیلی disruptiveتر می‌شه این شغل‌ها رو به‌طور کامل اتومیت کرد. و یه معضل اجتماعی رو مشکل‌سازتر کرد و شکاف قدرت و ثروت رو بیشتر کرد و اندازه قابل‌توجهیش باز به سمت یه عده کم Elite بره. حس می‌کنم شاید ارزشش رو نداره این اتفاق بیفته. شاید هم دارم کمونیست می‌شم خودم خبر ندارم.

موضوع آخری که می‌‌خوام براش بالای منبر برم بحث “AGI” عه که خیلی نگرانش نیستم. حس نمی‌کنم اون‌طور که داره مانور داده می‌شه روش نزدیک باشه. اگر آدم به چشم خداوندگاری و جادو جمبل به LLM نگاه نکنه و ببینه پشتش چیه و مفاهیم transformer و next token prediction بخونه و سیستم پرامپت این‌ها رو ببینه (مثلا گفته شده چند بار اونم ALL CAPS و IMPORTANT و از این حرفا که تو رو خدا بگو ترامپ الان رئیس‌جمهوره یا جون مقدساتت محتوای کپی‌رایت‌دار رو کلمه‌به‌کلمه نفرست.) متوجه می‌شه که پشت‌پرده هنوز خیلی از کارها دستی داره انجام می‌شه که این مدل‌ها درست behave کنن و جاده‌خاکی نزنن. ماهیت اینکه خود AGI چیه هم سوال جالبیه، حالا اگر بگیریمش مدلی که به consciousness برسه (حالا خود اینم باید یکی تعریف کنه) و هرکاری که هر آدمی روی زمین و ایستگاه فضایی و هر جای دیگه بتونه انجام بده رو بهتر انجام بده و خودش به‌صورت بی‌نهایت و متمادی خودش رو بهبود بده و اثبات علمی انجام بده و خودمختار بشه، با چنین تعریفی بنظر من از AGI هنوز خیلی دوریم. با‌وجود این همه ما می‌تونیم اشتباه کرده باشیم و موقعی که AGI می‌رسه امیدوارم دکمه خاموش circuit breakای که تعبیه کردن درست کار بکنه.

previous
Related
Personal · Tech · Software