הפרומפט הסודי
כל פעם שאני מראה דוגמה בקורס בה סוכן קידוד AI עשה משהו לא טוב יהיה מי שיצביע על הבעיה - "זה הפרומפט טמבל". הסוכן כתב הכל בבלאגן בקובץ אחד? לא אמרת לו לפצל לקבצים; הסוכן פיצל לקבצים בצורה לא הגיונית? לא אמרת לו לפי מה לבחור מחלקות; הסוכן בכוונה לא טיפל במקרה חשוב? היית צריך להגיד שזה מקרה שדורש טיפול.
אם רק היית מסביר את עצמך כמו שצריך הסוכן היה שמח לציית.
וזה קצת כמו להסביר לי שאם רק הייתי מקודד בלי באגים התוכנית לא היתה מתרסקת. תודה באמת.
ההצעה הבאה של חובבי תיקון הפרומפטים היא "פרומפט הוראות פרויקט". טוב ברור שלא כל פרומפט שלך יכול להיות מושלם, אבל אם קובץ ההוראות של הפרויקט יהיה טוב אז הסוכן יעבוד הרבה יותר טוב. "ומה זה קובץ הוראות טוב" אני שואל ואז מסבירים לי להגיד לסוכן שהוא מפתח בכיר עובד גוגל, שהוא משתמש ב Best Practices של התעשייה, שהוא צריך לשים דגש על ביצועים ובשום אופן לא לכתוב קוד עם בעיות אבטחת מידע, ושאם הקוד יישבר אנחנו נשבור לו את הצורה.
המציאות היא שאם היתה אופציה לכתוב פרומפט סודי שגורם לסוכני קידוד לקבל את ההחלטות הנכונות כל פעם קרסר היו מגיעים אליו, קלוד קוד היו מגיעים אליו, קופיילוט היו מגיעים אליו. הם לא הגיעו אליו עדיין ואני לא מאמין שיגיעו. כל סוכני הקידוד עושים טעויות ארכיטקטורה משמעותיות כל הזמן, לא בגלל שהם לא טובים בכתיבת קוד אלא בגלל שהם כלי לכתיבת קוד ולא לקבלת החלטות לגבי מבנה והנדסת מערכת.
כדאי לזכור:
אין פרומפט סודי. לא משנה מה הוראות הפרויקט שלכם הסוכן יעשה טעויות בקבלת החלטות. היחידים שחושבים אחרת הם אלה שלא קוראים את הקוד שהסוכן מייצר.
הדרך היחידה לראות את ההחלטות שסוכן מקבל היא לקרוא את הקוד. אם מישהו ממליץ לכם לא לקרוא קוד הוא בעצם אומר לכם "תסמכו על הסוכן שיקבל החלטות נכונות" בלי שום הוכחה שסוכנים מסוגלים לקבל החלטות כאלה.
יום אחד אולי יבנו סוכני קידוד חדשים וטובים יותר שיכולים להתנהל לבד בעולם ולקבל החלטות בכוחות עצמם. המודלים של היום לא קרובים ליום הזה (כולל פייבל). אתם לא צריכים לכתוב יותר לולאות for. עכשיו תנצלו את הזמן שקיבלתם כדי ללמוד ולקבל החלטות נכונות יותר על מבנה המערכת שאתם בונים.