כשאנחנו ניגשים לבנות תהליך משולב סוכן כדאי לחשוב מראש על שלושה חלקים של התהליך: מה זה עושה, מה הסיכונים ומה אני עושה כדי לצמצם את הסיכון. אני מדגיש כאן לצמצם כי בעבודה עם סוכנים תמיד יהיו טעויות ותמיד הסוכן יפתיע אותנו.

דוגמאות? ברור.

1. שיפור קוד

תהליך: אני כותב תהליך אוטונומי שעוזר לשמור על קוד המערכת נקי ומסודר. כל לילה התהליך רץ, מחפש חלקים מסובכים בקוד ופותח PR איך אפשר לפשט את החלק המסובך.

סיכון: שינויים בקוד יכולים להיראות קריאים יותר אבל בעצם להכניס תלויות נסתרות או אילוצים חדשים למערכת. לפעמים נראה שהשינוי לא משפיע על הפונקציונאליות אבל בעצם הוא מקלקל מקרה קצה שדווקא חשוב ללקוחות שלי.

מה אני עושה כדי להקטין סיכון: אני דואג שלפרויקט תהיה חבילת בדיקות חזקה ומכריח שלב דטרמניסטי בתהליך שמריץ את הבדיקות לפני ששולח את ה PR. אני משתמש ב LLM as a judge ומעביר את השינוי דרך סוכן נוסף כדי לוודא שלא נשבר כלום והשינוי הוא קוסמטי בלבד.

2. בניית תיעוד אוטומטית אחרי כל שינוי

תהליך: אחרי כל קומיט אני רוצה לעדכן את דפי התיעוד של המערכת כדי להתאים לקוד החדש. אם הוספתי פיצ'ר אני צריך לראות אותו בתיעוד ואם שיניתי התנהגות צריך לראות צילומי מסך חדשים. ה AI יכול להריץ את המערכת, להשתמש בדפדפן על שרת עצמאי לתפוס צילומי מסך חדשים ולכתוב את המאמרים על הנושאים שהשתנו.

סיכון: טעות של סוכן יכולה להכניס טעות במאמר. חוסר הבנה של סוכן יכולה לשים צילום מסך לא מתאים או לא מספיק מייצג. שינויים תכופים מדי בתיעוד יכולים לבלבל את המשתמשים שיזכרו גרסה יותר ישנה.

מה אני עושה כדי להקטין את הסיכון: כל מאמר במאגר הידע מכיל קישורים לגרסאות ישנות שלו. אני דואג שהסוכן ישנה רק מאמרים ספציפיים על נושאים שהשתנו ודורש אישור אנושי אם השינוי גדול ממספר שורות מסוים, ואני קורא בעצמי את המאמרים החדשים כדי לוודא שבני אדם מסוגלים להבין אותם.

3. עכשיו נסו את זה אתם

מצאו תהליכים אוטונומיים שכבר יש לכם במערכת או שאתם רוצים להכניס ובצעו עליהם את אותו ניתוח. מציאת הסיכונים ובחירת כלים נכונים להתמודד איתם עוזרים לנו לכתוב תהליכים אוטונומיים יציבים יותר ולהישאר ערניים למקרה שהסוכן ילך לאיבוד.