מנעולים של אופניים מתים הכי מהר. רק ירד גשם וכבר המפתח לא ממש מסתובב. גשם שני המפתח תקוע לגמרי. היתרון שלהם שגם קל להחזיר אותם לחיים, שתי טיפות שמן על המפתח והכל מסתדר.

אפשר לשמן גם מנעולים אחרים ורוב הזמן זה עובד אבל כבר קרה לי שאיבדתי מנעולים אחרי ששימנתי אותם. היום אני יותר זהיר.

וזאת בדיוק הבעיה שלנו עם Agent Harnesses:

1. שכבת הווריפיקציה היא קריטית כדי שסוכן קידוד יצליח לכתוב קוד שעובד. לפחות ב 50% מהמקרים אני מקבל ממנו קוד סבבה שלא עובד.

2. אין באמת איך להגביל את הסוכן בעבודה על המכונה, בלי לאבד את הווריפיקציה עצמה. אפשר לבקש יפה, אפשר לסגור חלק מהכלים, אבל סוכן טוב ימצא דרך. "אה אני רואה שקריאת קובץ X נכשלה אז אנסה להפעיל cat מהמסוף בשביל לראות מה יש בו".

ופה יש סכנה והזדמנות. הסכנה ברורה, עבודה עם AI בלי להבין מה הוא עושה מסוכנת ומזיקה. לפעמים המנעול יתחיל לעבוד אחרי השימון, לפעמים יהרס. אם יש מהמחשב הרשאות כניסה למידע חשוב של אנשים אחרים צריך להזהר כפליים. ורסל הודיעו עכשיו על פירצה שהתרחשה לשרתים שלהם דרך מכונה של עובד בחברת צד-שלישי איתה היה להם שיתוף פעולה שהיתה מחוברת למידע רגיש של ורסל. ככל שמערכות מחוברות ואנחנו משתמשים במחשב לגשת למידע רגיש כך יש להתיחס למחשב כולו כאזור סכנה.

וההזדמנות? גם היא ברורה. התפקיד של בני האדם הוא עדיין לייצר ולתכנן מערכות; מערכות שיודעות לעצור פרצה כשהיא קורית, מערכות שיודעות להרים סביבת וריפיקציה בתוך ארגז חול, מערכות שמאפשרות לסוכנים לוודא את העבודה שלהם בלי לשבור דברים או לסכן את העולם שמסביב. "תהיה מועיל ואל תשבור דברים" זה עדיין לא פרומפט שסוכני AI יכולים להבין, או אפילו מתקרבים לשם.