Phaethon

به لطف ذهن مهندسای خلاقمون، داره مرز بین "زبان توصیفی" و "زبان برنامه نویسی" تقریبا نابود میشه!

و هرچی HTMX جلوتر میره، این روند داره سریعتر پیش میره که زبان های برنامه نویسی رو به جای Programming Language بگیم Declarative Language 😭 

تازه CSS به تنهایی Turing-complete عه! طبق Rule 110 توانایی محاسبات داره!

SQL ای که استفاده میکنید، زبانیه که میگه "چی؟" به جای "چطور؟"

GNU Make (درسته! Makefile) هم همین بوده

همون RegEx ای که استفاده میکنیم (1950~)، توصیفی بوده!

و قویترین بازیگر این صنعت، نه React و لایبرری و فریم ورک ها هستن (که همشون میگفتن استفاده کن، پشتش مهم نیست چی میشه)، فقط یک چیزه:

LLM

درسته! هوش مصنوعی ها!

Prompt: چی؟

Model: چطور؟

و این رو باید یه تهدید ببینیم، داریم از "خالق" به "یوزر" تبدیل میشیم!

تهدید واقعی تر این نیست البته

تهدید جدی تر اینه که داره کم کم محدودیت ها بیشتر میشه و توانایی فهمیدن کمتر!:

SQL اگه میدونستی Query به چه شکل زده میشه، میتونستی EXPLAIN بزنی

با Compiler ها، میتونستی Spec رسمی داشته باشی، میتونستی دیباگ کنی!

ولی با LLM...

خروجی اشتباهه!:

نمیدونیم چرا!

داره درست کار میکنه!:

نمیدونیم چرا!

قضیه وقتی ترسناک میشه که SQL, Compiler ها و... یک لایه داشتن که میشد ببینیم چی اشتباهه و کجا اشتباه شده

توی LLM نقش قاضی رو داریم و حتی نمیتونیم بفهمیم کجا اشتباه شده! چون نه متهمی هست که یقشو بگیری نه شاهدی!

مثل این میمونه بگیم توی شهر، قتل رخ داده ولی توی شهر، میلیارد ها نفر ساکن باشن و تو هیچ مدرکی نداشته باشی جز اینکه بدونی یک قتل اتفاق افتاده!

و بدتر از همه، اینه که قاضی بودنت هم توهمه! چون قاضی قضاوت میکنه، تو حتی وقتی نمیتونی به مدل دسترسی داشته باشی، فقط توانایی تایید یا رد کردن داری! یا میگی "درسته، احسنتم بر تو"، یا میگی: "اشتباهه، لا احسنتما" 😭 

تازه بدتر از اینا اینه که شما نقش مدرس رو بیشتر دارید! حتی توهم قاضی بودن هم ندارید 😭

دارید دانش اموزایی تربیت میکنید (مدل هارو فاین تیون میکنید) که شمارو راضی نگه دارن، نه اینکه کار درست رو انجام بدن:

معلم: "یه ماشین حساب درست کن"

مدل: "معلم یه برنامه برای جمع و تفریق میخواد"

معلم: "تبارکالله اخوی" 😭🗿

(چیزی که معلم میخواست: یه ماشین حساب کامل برای انجام تمام عملیات های ریاضی، از جمع و تفریق و ضرب و تقسیم تا توان و جذر و مربع کردن و...! ولی دانش آموز (مدل)، از مدرس های پارسال (یوزر های فبلی که فاین تیون کردن) یاد گرفته که چیزی رو بسازه که بیشترین "احسنت" رو داشته باشه! نه صرفا چیزی که درست تر هستش رو!)

و ترسناک تر از همه ی اینا، اینه که توی Declarative Language های قبلی، معیار با هدف ما یکی بود!

SQL: معیار میدی (معلم معیار میده!) (Query میدی)، هدف رو میگیری (معلم هدف رو از قبل تعیین کرده!) (Output ها)

ولی توی LLM ها این نیست!

معیار (دانش آموزا (مدل ها)) (کاری که از نظر اغلب معلم ها درسته!)، هدف (یک معلم) (کاملترین چیز)

و وقتی معلم به هر دانش آموزی که روو بزنه ببینه همشون یک اشتباه مشابه رو دارن، مجبوره توقع ای که داره رو کم کنه! (چون پایین آوردن (انتظارات)، ساده تر از بالا بردن (دانش آموزا) هستش!)