היום בשעה טובה התחלתי חודש חדש במנוי Ollama, בדיוק בזמן לקראת הוובינר מודלים פתוחים שמתוכנן לחמישי. בחודש שעבר Ollama עברו למודל של חיוב חודשי בו אני משלם 20$ לחודש על מנוי ומקבל טוקנים בשווי 60$. מודל זה לדעתי משמעותית פחות טוב מההצעה הקודמת שלהם שהיתה מנוי של 20$ בחודש, מגבלת "האטה" אם אתה לוקח יותר מדי טוקנים והגבלת Session של 4 שעות בלי הגבלה חודשית. שיטת ה 60$ אומנם פוטרת אותנו מהגבלת ה Session שזה כיף אבל היא גם גורמת לכל העסק של מנוי להישמע יותר קר ורוב הזמן יותר יקר מ Deepinfra.

את הטוקנים של חודש שעבר גמרתי על לולאת רלף כושלת. ניסיתי לכתוב סוכן שיכתוב פוסטים לבלוג וישייף אותם והלכתי על ארכיטקטורה של LLM As a judge, כלומר סוכן אחד כותב, שני משפר ושלישי בודק אם זה מספיק טוב ואם הפוסט לא מספיק מעניין מחזירים אחורה. נושא אחד שלא היה מספיק מעניין טחן את הלולאה. לא עזר כלום הסוכן לא הצליח לכתוב פוסט טוב על הנושא ושלושתם רק אכלו טוקנים עד שגמרו את התקציב החודשי. בבוקר מצאתי את הארנק ריק והסוכנים מעוכים על הרצפה אז נתתי להם עוד 20$, תנאי עצירה יותר טובים וסגרתי את הניסוי כי גם הפוסטים הטובים שיצאו מהמערכת ההיא לא היו מספיק מעניינים. מה שכן יצא ממנה זה סוכן חוקר שסורק את האינטרנט ושולח כל בוקר תקציר חדשות תכנות יומי (בהמשך כשהוא יהיה מספיק טוב אפתח אותו שתוכלו גם לקבל אל דאגה). המשכתי בבניית עוד מספר סוכנים והיום כשהגיע החודש החדש של מנוי ה Ollama קיבלתי תמונה טובה של ההוצאות:

1. הסוכן החוקר התחיל את הבוקר בקריאת אתרי חדשות ושלח לי סיכום חדשות יומי של דברים שמעניינים אותי.

2. בונה הוובינרים זיהה שיש לו טוקנים ושהוובינר הקרוב יהיה ממש ביום חמישי אז הוא קפץ על ההזדמנות וכתב לי פוסט מבוא (תוכנית) לוובינר וגם פוסט סיכום לוובינר. הוא חמוד שהוא כותב פוסט סיכום לוובינר שלא קרה רק לפי הפורמט. למתעניינים זה הסיכום מחר נגלה אם הוא צדק.

3. הסוכנת האוטומטית "נועה מטוקוד" שיושבת בפינה של קורס AI פה באתר ענתה לפניות שלכם. רובכם שאלתם אותה כמה הקורס עולה (למרות שזה כתוב בדף) או ביקשתם הנחה אבל לא השארתם פרטים אז אפילו אם היא היתה רוצה לתת הנחה לא היה לה איך. בכל מקרה אני חושב שהיא ענתה בנימוס המתבקש ממודל סיני.

4. סוכן הטיולים שלי התחיל לתכנן לי את הטיול לאוגוסט הבא ושלח לי גם הבוקר טיפ קטן על היעד וגם יצר רשימת משימות לביצוע לקראת הנסיעה, כל זה בעזרת סקיל של מתכנן טיול לחו"ל שמצאתי ב skills.il.

5. סוכן בתי הספר קרא 5 קבוצות ווטסאפ של 3 ילדים וריכז לי את כל המשימות לביצוע בתוכנת המשימות שלי.

כל העסק הזה לקח 500 בקשות ל deepseek flash, מודל פתוח סיני שרץ על השרתים של Ollama Cloud ועלה 3 דולרים ושבעה סנט או במחיר מנויים דולר ושני סנט. אם העתיד הולך להיות מורכב מסוכני AI אין ספק שנצטרך ללמוד לשלב מודלים בגדלים ומחירים שונים כדי לבנות מערכות תחרותיות.