غر زدن دربارهی توسعه با هوش مصنوعی
میخوام یه کم دربارهی زندگی کاریم و تأثیری که روم گذاشته غر بزنم. ادعا نمیکنم این موضوع جهانشموله و ادعا نمیکنم قابلحل نیست، اما چیزیه که همین الان ذهنم رو مشغول کرده. میخوام از قفس بیرونش بیارم. خیلی جالب میشه اگه چند سال دیگه این متن رو بخونم. این رو به خودِ آیندهم بدهکارم.
اول باید توضیح بدم شرایط فعلیم چیه، چطور کار میکنم و چرا اینطوری کار میکنم.
چند ماه گذشته تقریباً با دست کدنویسی نکردم. اول قطعی اینترنت در کشورم بود. توی اون مدت سعی کردم یه کم کدنویسی کنم، اما بدون اینترنت واقعاً کار زیادی نمیشه کرد. بعدش نوبت هوش مصنوعی بود. وقتی پروژهی بزرگمون رو شروع کردیم، مدلهای جدید هوش مصنوعی منتشر شده بودن و بالاخره یچیزی بودن. میدونستم باید تا جای ممکن از هوش مصنوعی استفاده کنم. میدونستم استفاده ازش بهعنوان یه ابزار ساده کافی نیست؛ باید مثل یه کارمند ازش استفاده میکردم. میدونستم اگه حفظ اختیارم روی خود کد برام مهم باشه، تموم کردن پروژه در زمانبندی تعیینشده غیرممکنه، حتی اگه تجربهی کافی برای انجام سریعش رو داشته باشم. هوش مصنوعی ناگهان فوقالعاده خوب شده بود.
و میدونستم که داره از راه میرسه. انتظار نداشتم اینقدر زود اتفاق بیفته، اما میدونستم اجتنابناپذیره. در یه مقطعی، هوش مصنوعی از نظر ظاهری بهاندازهی کافی خوب به نظر میرسید. باعث میشد فکر کنید خروجیاش قابل استفادهست، و این تمام چیزیه که بازار همیشه بهش اهمیت داده—فرقی نمیکنه کمونیسم باشه، سوسیالیسم، سرمایهداری، آنارشیسم یا هر چیز دیگهای. این یه موضع سیاسی نیست؛ طبیعت جمعی انسانه که دنبال چیزیه که سریعترین پول رو بسازه. چون باید روزی سه بار غذا بخوری. مثل مرغ مگسخوار، باید همیشه دنبال غذا بگردی؛ استراحت کنی، میمیری. مگر اینکه یه جریان دائمی غذا برای خودت فراهم کرده باشی، خیلی سخته که برات کیفیت اهمیت داشته باشه. یه دلیلی وجود داره که بیشتر فیلسوفها آدمهای ثروتمندی بودن. کیفیت یا یه تجمله یا یه جور وقف معنوی.
اما این همهی ماجرا نیست. مثل هر شغل دیگهای، این ظرافتهای یک شغل هستن که تعریفش میکنن. از بیرون، بیشتر شغلها ساده و شدنی به نظر میرسن. راحته که فکر کنی بدون هیچ تخصصی میتونی یه کشتی رو هدایت کنی، اما عصر، عصر تخصصگراییه و شیطان توی جزئیاته. برای اینکه بفهمی چرا اشتباه میکنی، باید بهاندازهی کافی دانش داشته باشی تا جزئیات کافی رو ببینی و مقیاسشون رو درک کنی. یک جزئیات بهتنهایی هیچوقت مهم نیست. این انباشته شدن جزئیاته که دیدگاهت رو عوض میکنه. بیشتر مردم نه اراده و نه حوصلهی این رو دارن که پای سخنرانیت دربارهی ماهیت کارت بشینن. و اونهایی که به تخصصت نیاز دارن... خب، خروجی تخصصت رو میخوان، نه خود کارت رو. استخدام یا اخراجت هم بر اساس خروجیته.
با اینکه دلایل زیادی داشتم که چرا همهجانبه رفتن سراغ هوش مصنوعی انتخاب بدی بود، ماهیت جدید کارم رو پذیرفتم (نمیتونستم همینطوری برم یه شغل دیگه پیدا کنم، میدونی که) و شروع کردم به کامل کردن نحوهی استفاده ازش. اوایل پروژه سعی کردم تا جای ممکن اختیار کار رو دست خودم نگه دارم. یه معماری برای فرانتاند طراحی کردم، کد رو خوندم و کمکم ادامه دادم. یه جایی متوجه شدم دو چیز رو همزمان فهمیدهام:
- هیچکس نمیتونه توی چنین مهلت فشردهای همهی این کد رو بخونه. معلوم شد حداقل ۱۶۰ هزار خط کده. هیچکس نمیتونه این رو بخونه. و تقریباً مطمئنم خوندنش کافی هم نیست. همونطور که توی کتابم توضیح دادم، بازبینی کد سه سطح داره. برای کدی که میتونه اشتباهات خیلی احمقانهای داشته باشه، به سطح سوم بازبینی کد نیاز داری؛ سختگیرانهترین سطح. باید موقع خوندنش واقعاً تمرکز داشته باشی و اونقدر زمان و انرژی بذاری که استفاده از هوش مصنوعی تقریباً بیمعنی بشه. تمام زمانی که با استفاده از هوش مصنوعی ذخیره میکنی تبدیل میشه به زمانی که صرف خوندن کد میکنی. بعداً متوجه شدم گزارش ۲۰۲۴ دارا هم این موضوع رو تأیید میکنه و نشون میده بازبینی کد روی کیفیت کد تأثیری نداره و تعداد باگها تقریباً همون باقی میمونه. دلیلش اینه که ما برنامهنویسها بازبینی کد رو بدیهی فرض کردهایم، چون بهندرت لازم بوده دربارهی یک تکه کد اینقدر بدبین و سختگیر باشیم. میدونستیم یکی عمداً اون رو نوشته و بازبینی کرده و فقط باید دنبال چیزهای ریزی مثل قواعد کدنویسی یا چیزهای مشابه میگشتیم؛ چیزهایی که هوش مصنوعی همین حالا هم توشون نسبتاً خوبه.
- واقعاً دیگه باگ پیدا نمیکردم. یکی از دلایلش اینه که از قبل دانش زیادی دربارهی ساختن وبسایت نداشتم. باید خیلی، خیلی دانش بیشتری میداشتم تا بتونم باگهای کدی رو پیدا کنم که کار میکرد و از خیلی از بهترین روشها پیروی میکرد. یا باید خیلی آهسته پیش میرفتم و از همون هوش مصنوعی استفاده میکردم تا هر تغییر رو کامل بفهمم—که همونطور که توضیح دادم، بهرهوری رو اونقدر کم میکنه که استفاده از هوش مصنوعی بیمعنی میشه—یا باید بیخیال این کار میشدم و با تست کردن چیزها، مثل یه گیمتستر، باگها رو پیدا میکردم؛ یا ماهها دستی وبسایت میساختم و از اون دانش برای وایبکد کردن استفاده میکردم، که از نظر مالی انتخاب چندان عاقلانهای نیست.
در نهایت، بازبینی کد رو هم کنار گذاشتم. و این کاملاً برام منطقیه. پیادهسازی کد، بازبینی کد و دیباگ/رفکتور کردن کد همه دستبهدست هم میدن. حتی وقتی کدنویسی میکنی، دائماً داری کدت رو بررسی میکنی و باگهاش رو همون لحظه برطرف میکنی (مثلاً غلطهای تایپی رو درست میکنی). مسخرهست فکر کنیم کدنویسی بدون دیباگ، رفکتور یا بازبینی کد کامل میشه. توی کتابم و توی توییتر بهاندازهی کافی دربارهی این موضوع حرف زدهام و قرار نیست اینجا وارد جزئیات بشم.
همچنین بد نیست اشاره کنم که الان بیشتر از GPT Luna 5.6 (xhigh) استفاده میکنم. نسخهی ۵.۶ رو انتخاب کردم چون، برای این مدل، تا جایی که تجربه کردم، کمتوهمترینه (همین موقعی که دارم این رو مینویسم، بنچمارک SWE-sweep ثابت کرده که Luna 5.6 xhigh پنجمین مدل برتره، بعد از Fable 5.1؛ پس فکر کنم حق با من بوده). Luna رو انتخاب کردم چون تنها مدلیه که میتونم با یه پلن ۲۰ دلاری ازش استفاده کنم، بدون اینکه توکنهام تموم بشه. گاهی برای حل مشکلات بزرگ یا چیزهایی که مدل توشون گیر کرده، به Sol 6.1 سوییچ میکنم، اما خیلی بهندرت این کار رو میکنم تا توکنهام تموم نشن.
وضعیت (دیوانهکنندهست)
اینجاست که گند ماجرا درمیاد. ممکنه این موضوع فقط برای من و چند نفر دیگه اتفاق بیفته، اما برام مهم نیست منحصربهفرده یا نه. تنها چیزی که برام مهمه اینه که چطور میشه اثرش رو کم کرد، و هنوز راهحلی پیدا نکردهام.
برای من، مشکل استفاده از هوش مصنوعی اینه که روتین روزانهم رو کاملاً نابود میکنه. قبلاً میتونستم ۱۰ ساعت، حتی بیشتر، یکسره کار کنم و باز هم وقت زیادی برای تلف کردن داشته باشم. آخر روز، اگه روزم رو با مزخرفات هدر نداده بودم، هیچوقت حس نمیکردم هیچ کاری نکردهام. اما الان بهندرت اینطوریه. دارم روزی ۳۰ ساعت کار میکنم و هنوز برای تمام کردن کار یا اینکه حس کنم کاری انجام دادهام، تقلا میکنم.
فکر میکنم کاری که میکنم خیلی پیشپاافتادهست. با فقط یه ماه تمرین، میتونید ۹۵ درصد کار من رو انجام بدید. وقتی یه باگ اتفاق میافته، چه کار میکنم؟ میگم: «هی، این باگ اتفاق افتاده [احتمالاً یه اسکرینشات هم میفرستم]» و منتظر میمونم جادویی درستش کنه. بعد دوباره بررسی میکنم؛ اگه درست نشده باشه، دوباره میپرسم. اگه بعد از چند بار تکرار نتونه این کار رو انجام بده، به Sol سوییچ میکنم و امیدوارم همون لحظه درستش کنه. تنها چیزهایی که میدونم چند تا کلمهی فنیه (مثلاً میدونم اسم اون چیز HTMLه. واو، چه شگفتانگیز.) و بقیهش فقط اینه که زمانم رو پای کار بذارم تا درست بشه. بهندرت از تخصص واقعیم استفاده میکنم و اون هم بیشتر برای چیزهای خیلی ابتداییه؛ مثلاً انتخاب زبان برنامهنویسی (که خودش هم بیشتر سلیقهی شخصیه، مخصوصاً در عصر هوش مصنوعی). این باعث میشه آخر روز حس کنی اصلاً هیچ کاری نکردهای، حتی اگه تمام مدتی که بیدار بودی روی پروژه کار کرده باشی.
این احساس البته کممشکلترین بخش ماجرا بود، چون میتونستم از سلاح بسیار تخصصیای که ما انسانها داریم استفاده کنم: گول زدن خودم. سعی کنم فقط بر اساس خروجی به کارم ارزش بدم. نکتهی بامزه اینه که همین الان دارم چندین برابر قبل کد و قابلیت تولید میکنم. پس آره، مجبور شدم از این معیار ملموس استفاده کنم و آخر روز کارم رو بر اساس اون ارزیابی کنم.
اما مسئلهی اصلی اینه که استفاده از هوش مصنوعی برای توسعهی نرمافزار در عمل چه شکلیه. میدونید، برخلاف چیزی که توهمزدههای هوش مصنوعی میخوان باور کنید، هنوز باید کسی مسئول ساخت نرمافزار باشه. حتی اگه کار پیشپاافتاده باشه، باز هم زمان میبره؛ ما فقط «یک پرامپت» فاصله نداریم تا ساخت یه وبسایت واقعاً فعال با کاربرهای زیاد. مدلها طوری تنظیم شدهان که همهچیز رو یهضرب انجام بدن، اما کار واقعی هیچوقت اینطوری نیست. تکرار و اصلاح بخش اصلی یک کار واقعیه. چیزی میسازی و بارها روش تکرار و اصلاح انجام میدی. ۹۰ درصد کارت اینه که روی چیزی که ساختی تکرار و اصلاح انجام بدی، تصمیمها و چیزهای دیگه رو تغییر بدی تا همهی افراد درگیر از نتیجه راضی باشن.
پس روز من اینطوری میگذره:
- چند دقیقه صرف نوشتن یه پرامپت میکنم.
- پرامپت رو به هوش مصنوعی میدم و ۱۵ دقیقه صبر میکنم تا ساختنش تموم بشه.
- میرم نتیجه رو بررسی میکنم و اگه معلوم بشه خراب کرده، بازخورد میدم.
- چند دقیقهی دیگه صبر میکنم.
- تا وقتی کار تموم بشه تکرار میکنم.
- کار بعدی.
گاهی، بسته به اینکه پرامپت چقدر بزرگ باشه، ایجنت ممکنه ساعتها کار کنه. اما باید آماده باشم که اگر به مانعی برخورد کرد، کارش رو متوقف کرد و تا جوابش رو ندم ادامه نداد، جوابش رو بدم.
در اصل، این شبیه بچهداری ۲۴ ساعتهست. همیشه باید آماده باشم جوابش رو بدم. خیلی چیزها با اولین پرامپت درست کار نمیکنن؛ یا من انتخاب کلماتم رو درست بررسی نکرده بودم، یا ۱۰۰ درصد مطمئن نبودم چی میخوام، یا ملاحظات فنی پنهانی وجود داشت، یا یه ناهماهنگی عجیب با انتخابهای فنی قبلی وجود داشت و الی آخر. نمیتونم روی هیچچیزی تمرکز کنم. وقتی ایجنت داره روی پرامپت کار میکنه، کاملاً آزادم، اما نمیتونم اون زمان رو صرف کار دیگهای کنم، چون شدیداً حواسپرتکنه. اینطور نیست که بتونم وقتی مشغول کاره برم نقاشی کنم. شغلهای دیگهم هم به برنامهنویسی مربوط میشن و همشون به قدرت ذهنی نیاز دارن—باید تمرکز داشته باشم. و وقتی بچهت هر ۱۵ دقیقه گریه میکنه، نمیتونی تمرکز کنی. وقتی میگم این شبیه بچهداریه، اغراق نمیکنم. مادرها دقیقاً به همین دلیل باید دستمزد بگیرن، چون این کار نمیذاره بهرهوری داشته باشن. این اغراق نیست؛ حتی دستکم گرفتن ماجراست، چون بچهداریایه که تمام جنبههای مثبتش ازش کنده شده (مراقبت از ChatGPT دقیقا حس کیوتی به آدم نمیده).
آخر روز، در مجموع فقط یک ساعت تایپ کردهام. توی یک روز بهاندازهی ۲۰ روز کار تولید کردهام، اما در واقع فقط یک ساعت کار کردهام و ۱۴ ساعت رو در شبکههای اجتماعی تلف کردهام، چون یکی از معدود شکلهای محتوای کوتاهیه که میشه توی این روتین ازش استفاده کرد. این موضوع نهتنها باعث میشه خیلی سخت بتونی حس خوبی نسبت به خودت داشته باشی و سطح دوپامینت رو کنترل کنی، بلکه یعنی نمیتونی خیلی از کارهایی رو که معمولاً در زندگیت انجام میدی انجام بدی. نمیتونم ۳ ساعت از روزم رو صرف کار روی بازی یا انجام دادن یه کار شخصی کنم، چون همین الان هم فقط یک ساعت در روز کار میکنم و ممکنه نصف اون زمان با اون سه ساعت همزمان باشه؛ پس با تلف کردنش، خروجیم رو بهاندازهی یک مرتبه بزرگی کاهش میدم. پس الان نهتنها ۱۴ ساعت از روزم رو در شبکههای اجتماعی تلف کردهام و ۱۵ دقیقه کار کردهام، بلکه خروجی خیلی کمی هم داشتهام. هر ساعتی مهم به نظر میرسه، درحالیکه ۹۰ درصدش رو در توییتر تلف میکنی (راستی، دلیل اینکه اینقدر محتوای مرتبط با تکنولوژی و هوش مصنوعی در توییتر میبینید همینه؛ چون مردم وقتی منتظر تموم شدن کار ایجنت هستن حوصلهشون سر میره).
خستهام. ماههاست تو flow state نبودهام. قبلاً خیلی بیشتر از الان کار میکردم. آن زمان برنامهنویس بودن از نظر عینی سختتر بود. الان بهخودیخود راحتتره، اما انجام دادنش خیلی اعصاب خوردکن تره. نمیتونم ورزش کنم چون بچهم وسط کار گریه میکنه، نمیتونم کتاب بخونم چون بچهم هر چند وقت یکبار توجه میخواد، و نمیتونم پروژهی جانبی انجام بدم چون بچهم هر چند دقیقه با مجبور کردنم به انجام یه کار پیشپاافتاده که هر کسی از پسش برمیاد، حالم رو خراب میکنه. نمیتونم با دوستهام بیرون برم چون کارم باد کرده. نمیتونم «الان بیشتر کار کنم تا آخر هفتهم خالی باشه». اصلاً چیزی به اسم «بیشتر کار کردن» وجود نداره. تو کار نمیکنی؛ فقط منتظر میمونی تا پروردگار ایجنت متوقف بشه و پرامپت بعدی رو بهش تزریق کنی. جزئیاتش واقعاً خیلی زیاده.
همچنین باید اشاره کنم که منابع نامحدودی روی کامپیوترم ندارم. وقتی ایجنت مشغول کار و اجرای تستهای سنگینه، نمیتونم همینطوری هر برنامهای رو باز کنم و به کار خودم برسم. الان فقط ۸ گیگ رم دارم و بهخاطر شرکتهای هوش مصنوعی و فناوری، توان خرید یکی دیگه رو ندارم. این دیگه واقعاً مسخره نیست؟
و با این حال، هر روز به هوش مصنوعی رأی میدم
الان بعد از تایپ کردن همهی اینها خستهام، پس نمیخوام وارد جزئیات کامل اینکه چرا فکر میکنم نباید هوش مصنوعی رو ممنوع کنیم بشم. فقط فکر میکنم چنین کاری شدیداً بومری و ضد فناوریه (و اگه اهل آمریکا باشید، حتی خودکشیواره).
حتی نمیتونم زندگی شخصی خودم رو بدون هوش مصنوعی تصور کنم. این من رو یاد یه گفتوگوی توییتری میندازه. یه کسی مخالف هوش مصنوعی داشت با رسوندنِ اینکه چقدر دربارهی هوش مصنوعی و یادگیری ماشین بیاطلاعه، خودش رو سوژه میکرد و یه جایی یه نفر جواب داد: «میبینی، مشکل ضد هوش مصنوعی بودن همینه. حتی نمیتونی از ChatGPT بپرسی هوش مصنوعی چیه؛ توی یه حلقه گیر کردی.» این تکنولوژیه، و آدمهای آیندهای که به شما نگاه میکنن، شما رو همینقدر احمق میبینن.
برام خندهداره که مردم ادعا میکنن «ارزش خالص» فناوریای رو حساب کردهان که اونقدر گستردهست که حتی نمیتونن قابلیتهاش رو درک کنن. روی اون هنرمند مزخرفی تمرکز میکنن که هوش مصنوعی جاش رو گرفته، اما هیچوقت به اون فرد لالی اشاره نمیکنن که بهخاطر هوش مصنوعی Neuralink که با مغزش آموزش داده شده، بالاخره تونسته حرف بزنه.
اما آره، قبول دارم این فناوری، بسته به حوزهی تخصصیتون و مرحلهای که هوش مصنوعی در اون قرار داره، با اما و اگرهای زیادی همراهه. برای من، این سمیترین رابطهایه که دارم. اما تقریباً مطمئنم ارزش خالصش مثبته، چون دارم پولی درمیارم که در غیر این صورت نمیتونستم به دست بیارم؛ آن هم در کشوری با ابرتورم. نمیدونم. تمام تلاشم رو میکنم این زندگی رو درست کنم، با اینکه چند ماهه دارم این کار رو میکنم و موفق نشدهام. میخوام یه بازی برای سرگرمی خودم شروع کنم، فقط برای اینکه چیزی حس کنم، اما حتی نمیتونم جایی براش توی برنامهی هفتگیم پیدا کنم. توی یه جریان دائمی از تقلا گیر کردهام.