המכסה של קלוד:‏ למה היא נגמרת מוקדם,‏ ואיך למתוח אותה בלי לשלם יותר

איך המכסה באמת נספרת

היא לא נספרת לפי כמות ההודעות ששלחתם.‏ היא נספרת לפי כמות הטקסט שעובר,‏ כלומר כמה קלוד קורא וכמה הוא כותב בכל פנייה.‏

היחידה שמודדים בה נקראת טוקן ⁨token⁩,‏ וזה בערך שלושה רבעים ממילה באנגלית.‏ זה מה שסופרים,‏ ולא הודעות.‏

ובכל פנייה שלכם נשלחים שלושה דברים ביחד,‏ ולא רק מה שהקלדתם עכשיו.‏

הראשון הוא כל השיחה עד הרגע הזה,‏ כלומר כל ההודעות הקודמות שלכם ושלו.‏

השני הוא ההקשר של העבודה.‏ בקלוד קוד זה קובץ ההוראות של הפרויקט וכל קובץ שקלוד קרא,‏ ובצ'אט אלה הקבצים שצירפתם וההוראות של הפרויקט.‏

והשלישי הוא ההודעה החדשה שכתבתם.‏

מבין השלושה,‏ הראשון הוא זה שגדל הכי מהר.‏ שיחה ארוכה שכבר עברה בין כמה נושאים נושאת את כולם בכל הודעה חדשה,‏ וזאת הסיבה שדווקא שאלה קטנה בסוף יום ארוך עולה הרבה יותר משאלה זהה בשיחה חדשה.‏

וכאן מגיע הדיוק שחשוב לי לתת לכם,‏ כי הוא משנה את התמונה.‏ יש מנגנון של שמירה במטמון ⁨caching⁩,‏ ובזכותו החלק שחוזר על עצמו לא נספר כמו בפעם הראשונה.‏ תוכן שנמצא בפרויקט נשמר במטמון ולא נספר שוב כשאתם משתמשים בו,‏ ופרומפטים דומים שאתם שולחים הרבה נשמרים חלקית.‏ אז לא נכון לומר שכל שיחה מתומחרת מחדש מאפס בכל הודעה.‏ נכון לומר שאורך השיחה הוא הגורם הכי משמעותי,‏ וזה מה שאתם באמת שולטים עליו.‏

מה עוד משפיע.‏ אורך ההודעה עצמה,‏ גודל הקבצים שצירפתם,‏ אורך השיחה הנוכחית,‏ כלים שהפעלתם כמו חיפוש באינטרנט ומחקר,‏ המודל שבחרתם,‏ רמת המאמץ שקבעתם,‏ ויצירה של תוצרים.‏

שתי מכסות,‏ ולא אחת

כאן נמצא רוב הבלבול,‏ כי אנשים מחכים שהמכסה תתאפס ואז מגלים שהיא עדיין נגמרת.‏

יש מכסת סשן,‏ שמתאפסת כל חמש שעות.‏ הסשן מתחיל בהודעה הראשונה שלכם ולא בשעה עגולה.‏

ומעליה יש מכסה שבועית.‏ היא מתאפסת בזמן קבוע שמשויך לחשבון שלכם,‏ והזמן הזה לא זז לפי מתי התחלתם לעבוד.‏ בעמוד ההגדרות היא מוצגת בנפרד,‏ מתי היא מתאפסת עבור אופוס ומתי עבור כל שאר המודלים.‏

ולכן יכול לקרות שחיכיתם חמש שעות,‏ קיבלתם סשן חדש,‏ ועדיין נעצרתם.‏ זה אומר שנגמרה לכם המכסה השבועית ולא הסשן.‏

וכל הכלים אוכלים מאותה צלחת

את זה רוב האנשים לא יודעים,‏ וזה משנה הכל.‏ השימוש שלכם בכל המשטחים של קלוד נספר לאותה מכסה.‏ הצ'אט באתר,‏ קלוד קוד,‏ ואפליקציית הדסקטופ,‏ הכל אותו חשבון ואותה מכסה.‏

כלומר בוקר של עבודה כבדה בקלוד קוד לוקח לכם מהמקום שתרצו בערב בצ'אט.‏

איפה רואים כמה נשאר

בצ'אט,‏ באתר או באפליקציה,‏ נכנסים להגדרות ולעמוד השימוש:‏

https://claude.ai/settings/usage

שם יש פסי התקדמות שמראים כמה ניצלתם מהסשן הנוכחי,‏ כמה זמן נשאר בו,‏ ומתי מתאפסות המכסות השבועיות.‏

בקלוד קוד יש פקודה שמראה את אותו מידע בתוך הטרמינל:‏

/usage

היא מציגה את מגבלות התוכנית שלכם ואת מצב המכסה הנוכחי.‏

ויש עוד שתי פקודות ששוות הרבה כשאתם מנסים להבין לאן הלך המקום:‏

/context

היא מציירת לכם מה בדיוק טעון עכשיו בחלון ההקשר ואיפה הוא נצרך.‏ זו הפקודה שתגלה לכם שקובץ ענק שקראתם לפני שעה עדיין יושב שם.‏

/cost

היא מראה את צריכת הטוקנים של הסשן הנוכחי.‏

איך מותחים את המכסה בצ'אט

אלה הדברים שעובדים,‏ כולם בחינם,‏ וכולם מתחילים מאותו עיקרון:‏ שקלוד יקבל את מה שהוא צריך ולא יותר.‏

שיחה חדשה לכל משימה חדשה

זה הדבר הכי משמעותי ברשימה.‏ כשאתם עוברים לנושא אחר לגמרי,‏ תפתחו שיחה חדשה במקום להמשיך בקיימת.‏

יש מבחן פשוט שאני משתמש בו:‏ אם ההודעה הבאה שלכם הייתה מובנת לגמרי גם בלי כל מה שנאמר קודם,‏ היא שייכת לשיחה חדשה.‏

ויש כאן עוד דבר שכדאי שתדעו.‏ כששיחה מתקרבת לגבול האורך,‏ קלוד מסכם לבד את ההודעות המוקדמות כדי להמשיך ברצף,‏ ואולי ראיתם את זה קורה כשכתוב לכם שהוא מסדר את המחשבות שלו.‏ שיחות שמפעילות את המנגנון הזה צורכות יותר מהמכסה,‏ ואנתרופיק ממליצים במפורש לפתוח שיחה חדשה כשמתקרבים לגבול.‏

לאסוף שאלות קשורות להודעה אחת

במקום לשלוח חמש הודעות קצרות שכל אחת מהן גוררת את כל השיחה שוב,‏ תשלחו הודעה אחת עם חמש השאלות.‏ אנתרופיק ממליצים על זה במפורש.‏

לתת את כל ההקשר בהודעה הראשונה

הודעה מעורפלת מייצרת שאלת הבהרה,‏ וההבהרה עולה כמו הודעה מלאה.‏ עדיף לכתוב פעם אחת מה בדיוק אתם רוצים,‏ למי זה מיועד,‏ ובאיזה פורמט.‏

להשתמש בפרויקטים בשביל חומר שחוזר

זה הטריק שהכי מעט אנשים מנצלים,‏ ולדעתי הוא השווה ביותר ברשימה.‏ תוכן שהעליתם לידע של הפרויקט נשמר במטמון,‏ וכשאתם משתמשים בו שוב נספר רק החלק החדש.‏ כלומר אותם מסמכי מקור שאתם שואלים עליהם שוב ושוב עולים לכם הרבה פחות מאשר צירוף שלהם מחדש בכל שיחה.‏

הכלל הפשוט:‏ כל דבר שתתייחסו אליו יותר מפעם אחת,‏ מקומו בפרויקט.‏

להוריד את רמת המאמץ למשימות רגילות

רמת מאמץ גבוהה שורפת יותר טוקנים.‏ למשימות שגרתיות שלא דורשות חשיבה עמוקה,‏ תורידו אותה.‏

לכבות חשיבה מורחבת כשלא צריך אותה

במשימות פשוטות היא לא תורמת לכם כלום מלבד צריכה,‏ אז שווה לכבות.‏

לכבות כלים שלא בשימוש

חיפוש באינטרנט,‏ מחקר,‏ ומחברים חיצוניים.‏ אלה כלים שצורכים הרבה טוקנים עצם זה שהם מופעלים,‏ כי ההגדרות שלהם נטענות.‏ בהגדרות החיפוש והכלים אפשר לכבות זמנית את מה שלא דרוש לשיחה הנוכחית.‏

לתת לקלוד לחפש בשיחות קודמות במקום להדביק שוב

במקום להסביר מחדש בכל שיחה מה עשיתם בפעם הקודמת,‏ אפשר לבקש ממנו לחפש בשיחות הקודמות.‏ זה זמין למנויים בתשלום,‏ וזה חוסך לכם הדבקה של הקשר שכבר קיים.‏

איך מותחים את המכסה בקלוד קוד

כאן יש לכם שליטה הרבה יותר מדויקת,‏ כי יש פקודות ייעודיות.‏

לנקות בין משימות

/clear

הפקודה הזאת מוחקת את היסטוריית השיחה ומתחילה מדף חדש.‏ קובץ ההוראות של הפרויקט וקבצי הפרויקט נשארים במקום,‏ רק ההיסטוריה נמחקת.‏ זה לא נוגע בשום קובץ במחשב שלכם.‏

שימו לב לדבר אחד:‏ אי אפשר לבטל את הפעולה הזאת.‏ אם יש בהיסטוריה משהו שאתם עוד צריכים,‏ תעתיקו אותו החוצה קודם.‏

לדחוס במקום למחוק,‏ כשאתם באמצע

/compact

הפקודה הזאת מסכמת את השיחה עד עכשיו לתקציר קצר,‏ ומפנה מקום בלי לאבד את מה שחשוב.‏ זה מה שאתם רוצים כשאתם באמצע משימה ארוכה וצריכים להמשיך.‏

הכלל הוא פשוט:‏ ניקוי כשמתחילים משימה חדשה,‏ דחיסה כשממשיכים משימה ארוכה.‏

שאלת ביניים בלי לשלם עליה

/btw

זו פקודה שמעט אנשים מכירים,‏ והיא אחת האהובות עליי.‏ היא מאפשרת לשאול שאלה צדדית מהר בלי שהיא תיכנס לשיחה הראשית ובלי שהיא תיקח מההקשר.‏

להתאים את המודל למשימה

/model

סונט הוא ברירת המחדל והוא נכון לרוב הגדול של העבודה.‏ אופוס נותן חשיבה עמוקה יותר לבעיות קשות,‏ והוא צורך משמעותית יותר מהמכסה,‏ אז כדאי לעבור אליו כשצריך אותו ולא להשאיר אותו דלוק כברירת מחדל.‏ הייקו הוא המהיר והזול,‏ ומתאים לעבודה מכנית קצרה.‏

ויש שילוב מוכן שעושה בדיוק את מה שצריך:‏ תכנון עם אופוס,‏ ביצוע עם סונט.‏

/model opusplan

מעבר בין מודלים באמצע לא מוחק לכם את השיחה.‏

להצביע על קבצים במקום להדביק אותם

כל דבר שאתם מדביקים יושב בהקשר במלואו עד סוף הסשן.‏ אם במקום זה תכתבו את הנתיב לקובץ ותגידו על איזה חלק אתם מדברים,‏ קלוד יקרא בעצמו ורק את מה שצריך.‏

שימו לב לפרט חשוב:‏ הסימן שטרודל לפני שם קובץ מזריק את כל הקובץ להקשר.‏ אז כשאתם מנסים לחסוך,‏ תכתבו נתיב רגיל ולא שטרודל.‏

ואם אתם מדביקים שגיאה או יומן,‏ תדביקו את עשרים או שלושים השורות הרלוונטיות ולא את הקובץ כולו.‏

לשמור על קובץ ההוראות קצר

קובץ ההוראות של הפרויקט נשלח בכל פנייה.‏ אנתרופיק ממליצים לשמור אותו מתחת למאתיים שורות בערך,‏ ולהוסיף הערה רק בפעם השנייה שנאלצתם לתקן את קלוד על אותו דבר.‏

הערות ישנות שכבר לא נכונות גרועות יותר מהערות חסרות,‏ כי הן מכוונות אותו לכיוון הלא נכון.‏

לבקש תוכנית לפני שינוי גדול

תוכנית עולה כמה מאות טוקנים.‏ שינוי שגוי שתצטרכו לבטל ולייצר מחדש עולה אלפים,‏ פעמיים,‏ ועוד את ההסברים באמצע.‏

לכל דבר שנוגע ביותר משניים או שלושה קבצים,‏ שווה לשלוח קודם את זה:‏

לפני שאתה משנה משהו, תכתוב לי רשימה: אילו קבצים אתה עומד לגעת בהם, ומה בדיוק אתה עושה בכל אחד. אל תתחיל עד שאישרתי.

מה לבדוק כשהמכסה נגמרת מהר מדי

זה החלק שהבטחתי,‏ וזאת בדיקה שאתם יכולים לעשות לבד בחמש דקות.‏

תשאלו את עצמכם את השאלות האלה לפי הסדר,‏ ותעצרו בראשונה שהתשובה עליה כן.‏

האם אתם עובדים בשיחה אחת שפתוחה כבר שעות.‏ זה החשוד המיידי,‏ וברוב המקרים גם האשם.‏

האם השארתם את המודל החזק דלוק על עבודה שגרתית.‏ אופוס על משימות שסונט עושה מצוין הוא בזבוז שקשה להרגיש בו בזמן אמת.‏

האם אתם מצרפים את אותם קבצים שוב ושוב לשיחות חדשות.‏ אם כן,‏ מקומם בפרויקט.‏

האם יש לכם כלים ומחברים דלוקים שאתם לא משתמשים בהם בשיחה הזאת.‏ ההגדרות שלהם נטענות גם כשלא נגעתם בהם.‏

האם רמת המאמץ או החשיבה המורחבת דלוקות על משימות שלא זקוקות להן.‏

האם מישהו אחר משתמש בחשבון שלכם.‏ זו אותה מכסה.‏

והאם אתם בכלל מסתכלים על המכסה השבועית ולא רק על הסשן.‏ אם הסשן מתאפס ואתם עדיין חסומים,‏ זו המכסה השבועית וההמתנה של חמש שעות לא תעזור.‏

ובקלוד קוד,‏ יש בדיקה אחת שמחליפה את כל אלה:‏ תריצו את הפקודה שמציגה את ההקשר ותראו במו עיניכם מה תופס את המקום.‏

מה לעשות כשהיא כבר נגמרה

יש בדיוק שלוש אפשרויות,‏ ושווה להכיר את כולן.‏

לחכות לאיפוס.‏ בעמוד השימוש כתוב מתי בדיוק.‏

לעבור למודל קל יותר,‏ אם רק הסשן נגמר ואתם רוצים להמשיך לעבוד.‏

או לשלם,‏ וזה מגיע בשתי צורות:‏ שדרוג תוכנית,‏ או קרדיטים לשימוש שמאפשרים להמשיך לעבוד מעבר למכסה הכלולה.‏ את הקרדיטים אפשר להפעיל בתוכניות בתשלום,‏ וההגדרה שלהם נמצאת באותו עמוד שימוש.‏

שני דברים שכדאי להפסיק להאמין בהם

הראשון:‏ שפתיחת שיחה חדשה מחזירה לכם מכסה שנגמרה.‏ היא לא.‏ שיחה חדשה מקטינה את הצריכה מכאן והלאה,‏ אבל מכסה שכבר נוצלה מתאפסת רק בזמן האיפוס.‏

והשני:‏ שיש מספר הודעות מובטח שמגיע לכם.‏ אנתרופיק לא מפרסמת מספר טוקנים לאף תוכנית.‏ היא כן נותנת הערכות של מספר הודעות בחלק מהתוכניות,‏ אבל תמיד עם ההסתייגות שהמספר משתנה לפי אורך ההודעות,‏ גודל הקבצים שצירפתם ואורך השיחה.‏ כלומר הערכה,‏ לא הבטחה.‏ אז אם מישהו מצטט לכם מספר טוקנים מדויק לתוכנית שלכם,‏ הוא המציא אותו.‏

יש עוד הבחנה אחת שכדאי להכיר,‏ כי היא מבלבלת.‏ מגבלת אורך היא לא מגבלת מכסה.‏ מגבלת אורך היא כמה טקסט נכנס לשיחה אחת,‏ כלומר חלון ההקשר.‏ מגבלת מכסה היא כמה אתם יכולים לעבוד בפרק זמן.‏ אפשר להיתקע באחת בלי להתקרב לשנייה.‏

סיכום

עכשיו התמונה שלמה.‏ אתם יודעים שהמכסה נספרת לפי טקסט ולא לפי הודעות,‏ שיש שתי מכסות ולא אחת,‏ שכל הכלים אוכלים מאותה צלחת,‏ ואיפה לראות בדיוק כמה נשאר.‏

אם אתם רוצים לעשות רק דבר אחד מכל המדריך הזה,‏ תעשו את זה:‏ תתחילו לפתוח שיחה חדשה בכל פעם שאתם עוברים לנושא אחר.‏ זה חינם,‏ זה לוקח שנייה,‏ וזה מה שעושה את רוב ההבדל.‏

ואחרי שבוע,‏ תיכנסו לעמוד השימוש ותסתכלו.‏ אתם אמורים לראות את ההבדל שם,‏ ולא רק להרגיש אותו.‏

אהבתם את המדריך?‏ מוזמנים לעקוב אחריי באינסטגרם ⁨@moshe.elkrief⁩ לעוד תכנים.‏