חיסכון בעלויות AI עם Cascade Flow 🚀

שבוע טוב חברי קהילה יקרים, מה קורה?

אז החלטתי לעשות לכם סרטון על משהו מאוד מאוד מעניין, אני בדיוק מתקין את זה פעם ראשונה.

אני אסביר לכם בדיוק מה זה, הסברתי לכם בהודעה שקיבלתם לפני, אבל קצת ניכנס לעניינים יותר.

אני השבוע התחלתי פרויקט מאוד מאוד מעניין, שאני בפרויקט הזה בא דווקא מהצד של הייעוץ השיווקי, ובעצם יצא לי לעבוד עם כמה מתכנתים על הפרויקט הזה.

מתכנתים שעובדים בחברות הייטק, מתכנתים תותחים, באמת מבינים עניין.

אני יותר בעולם של התכנות וייפ קודינג, דווקא מהמקום של בינה מלאכותית ולא ממקום שזה המקצוע שלי.

זה תמיד כיף לשבת עם אנשים כאלה וללמוד ממה שנקרא.

ובנינו איזשהו MVP לפרויקט וישבתי עם המתכנת ושאלתי אותו קצת שאלות על איך הוא בנה ומה הוא עשה וזה וזה וזה, אתם מכירים אותי, אני חופר ברמות, ובעצם הוא סיפר לי שהוא משתמש בכלי, בסקיל בעצם שנקרא קאסקאט פלואו בגיטאב, חינמי, שמה שהסקיל הזה עושה בעצם, אנחנו מתקינים אותו על קלוד, הסקיל הזה הוא סקיל מאוד מאוד חכם, הוא יודע לקחת את הבקשה, בעצם אנחנו מבקשים לקלוט ברגיל כאילו בקשה מסוימת, לצורך הדוגמת תבנה לי אתר, תכתוב לי קוד, תעשה לי בדיקה, תנקה לי את המחשב, וואטאבר, הוא בעצם מקבל את הבקשה הזאת וקודם כל מה שהוא עושה זה מבין איזה כלי AI בעצם נכון לעשות אותה.

ובעצם על ידי זה שהוא מבין איזה כלי AI נכון לעשות אותה, הוא בעצם חוסך, שימו לב, 69 ואולי אפילו יותר מה...

69 אחוזים, אולי אפילו יותר, פה גם אם אנחנו מדברים על ChatGPT 96 אחוז, מהעלויות שאנחנו משלמים על טוקנים.

בעצם מה שהחברות כמו אנטרופיק, עושים, ובעצם אנחנו משלמים להם מנוי חודשי, 20-100 דולר, ואז אנחנו גם משלמים על שימוש בטוקנים.

מה שהכלי הזה עושה, הוא בעצם סוג של מנהל עבודה מאוד מאוד חכם, הוא יודע לקחת את הבקשה שלנו ולחסוך לנו באמת כמעט 100% מהעלויות.

זאת אומרת שאם ביקשתי בקשה פשוטה, הכלי הזה...

ידע לבוא ולתת לי אותה באמת ב-0.01 אגורה כאילו לבקשה הזאת.

ואם ביקשתי בקשה מורכבת, הוא ידע להשתמש בכלים שיידעו להביא לי את הבקשה המורכבת.

אבל מה שקורה בעצם כשאנחנו משתמשים ב-Cloud Code למשל, אז אנחנו כבר מראש על כמה מודלים יקרים.

המודלים של Cloud Code גם פשוטים יותר, ה-Hiku, או הסונאט, אני מקווה שאני אומר את זה טוב, הם יקרים בדיפולט שלהם, אז תחשבו מה זה אחר כך גם סייבל ואופוס בכלל.

וככה בעצם אנחנו גומרים את הטוקנים שלנו, חברות הייטק מתכנתים שעובדים עשרות שעות על קוד לא עובדים בצורה הזאת, והגיע הזמן שגם אנחנו, אז בשביל זה אני פה.

בשביל להביא לכם את הדברים שלא הרבה מכירים.

יכול להיות שחלקכם מכירים, אני לא הכרתי את זה, מעניין מאוד, וראיתי מה בנו עם זה, ככה שזה דברים איכותיים מאוד.

אז יאללה, בואו נתקין את זה.

בעצם, איך שאנחנו נתקין את זה, אנחנו נתקין את זה בצורה הזאת.

אנחנו בעצם, צירפתי לכם בהודעה הקודמת את הלינק לסקיל, נכנסים לפה.

זה לא נראה ככה, זה נראה ככה.

זה נראה ככה, בעצם יש פה את הרידמי.

איפה הרידמי?

אני הייתי עכשיו על הרידמי.

ממליץ לכם לקרוא את זה, לעבור על זה לפני שאתם מתקינים, כמובן, הכל פה בגדר ייעוץ.

אתם לא חייבים להתקין שום דבר וזה על אחריותכם.

אז ככה, הוא בעצם, נכנסים לסקיל?

ושמים את הפרומפט הזה, איפה הפרומפט שלי?

שגם אותו צירפתי לכם.

בסשן חדש, בתוך קלוד.

זה הפרומפט, בעצם A, הנה קישור ספריית קוד, פתוח, GitHub, בבקשה תוריד את הפרויקט הזה לתיקייה המקומית.

תתקן את כל מה שצריך ותכין לי קובץ Env שאוכל למלא בו את המפתחות שלי.

בעצם ה-Caskat Flow הוא בעצם עובד בצורה שהוא עובד עם מפתחות ה-API.

אנחנו ניתן לו גישה ל-ChatGPT, ניתן לו גישה לגוגל, לעוד כמה כלים, ובעצם אחרי שנתנו לו גישה אליהם, אנחנו לא משלמים על זה כמובן, אנחנו משלמים רק פר שימוש.

ואז מה שיוצא לנו מאוד מאוד טוב זה שהוא יקבל בקשה והוא לאו דווקא ישתמש עכשיו ב-cloud.

אוקיי, יאללה, בואו נתקין את זה.

סבבה, הוא מתחיל להוריד את הפרויקט.

טוב, אז קלוד סיים להתקין את קסקת פלואו.

אני רוצה לעבור איתכם על כמה דברים.

אני עושה את זה אינפורמטיבי יותר ולא רץ קדימה כדי שתבינו.

בתכלס ההתקנה היא מאוד מאוד פשוטה.

אז קודם כל הורדנו את קסקת פלואו בגרסה ההתקנית שלו.

הם מעדכנים גרסה כל הזמן, זה בעצם חברה, קהילה יותר נכון.

ובעצם מה שיפה פה זה שיש להם כבר מראש טול בתוך קלוד.

זאת אומרת שבאופן אוטומטי זה כבר נכנס ככלי, כאילו ככה קיבלנו את קלוד ובעצם זה משתמש בו בצורה אוטומטית.

עכשיו, לא יודע אם ציינתי את זה לפני, אבל בעצם מדובר פה בכלי שחוסך פיתוח בקוד, חוסך בעצם טוקנים על פיתוח בקוד.

לא על יצירת גרפיקות ולא על וידאו.

שימו לב לזה, קוד זה בעצם כל דבר שאנחנו נרצה כמעט לעשות שקשור בקוד, בניית אתרים, אפליקציות, תוכנות, מערכות, אייג'נטים, דברים כאלה.

ידע לעשות בלי בעיה ואתם לא תסיימו את הטוקנים שלכם כמעט בכלל כאילו, אתם לא תגיעו לסוף.

עכשיו אנחנו יכולים להכניס לו, בואו נראה רגע, סליחה שעברנו על הכל.

כן, בעצם אנחנו צריכים להכניס לו ויכולים להכניס לו לא מעט טוקנים.

יש שניים שהם חובה, אחד של אנטרופיק, בעצם של קלוד, כי גם שם הוא ידע לעשות לכם מעבר בין המודלים, כמו שאמרנו, אייקו, סונט, ידע לעבור ביניהם, ואת אופן AI, ששם הוא גם יכול לעבור ביניהם.

אם יש לכם עוד כמו גרוק, כמו ג'ימיני, כמו דיפסיק, כאלה.

אתם יכולים להכניס לו גם, אתם לא חייבים, אבל אתם יכולים.

כמו שאתם רואים, גרוק זה מודלים מהירים וזולים, ממליץ לכם שיהיה לכם.

וג'ימיני כמובן, ג'מיניי, שיהיה לכם ג'מיני.

אוקיי, אז אנחנו עכשיו נכניס לו.

בעצם את הקודים, איך זה נראה.

בעצם אני אחר כך, אחרי שהרצתי לו את הפרומפט הראשון, ביקשתי ממנו להקפיץ לי את הקובץ env, שאני אשים לו את המפתחות ושישים לי בעצם שם, ככה אני מכניס לו בצורה פשוטה.

אני לא מכניס את זה כאן בצ'אט, כי בעצם אם תהיה לי פריצה למחשב או לצ'אט, או לקלוד, יוכלו לראות בהיסטוריה שיחות שלי את הקודים ובעצם זה קודים ששווים כסף, האשראי שלי שם, עדיף שלא, אז ככה זה נראה בעצם.

אתם רואים, הוא בעצם פתח לי את ה-ENV פה בתוך ה-VS והוא בעצם שם לי שם, שים לי פה את ה-OpenAI Key, שים לי פה את האנטרופיק, שים לי פה גרוק, אחרי שנשים לו, אנחנו מריצים לו פקודה שסיימנו ובעצם בואו נראה מה קורה, אז קודם כל אני אשים לו את המפתחות שלי ונתראה אחר כך.

טוב, אז שמתי לו את המפתחות, מובן שאני לא מראה את זה, אבל תסמכו עליי ששמתי לו ואני ארשום לו המפתחות מעודכנים.

כרגע שמתי לו גוגל אנטרופיק ו-openAI.

אבק רוק.

הוא רושם שכל השדות ריקים.

בואו נראה מה קרה פה ונחזור אליכם.

טוב, אז מסתבר שלא לחצתי קונטרול S לשמור, עכשיו שמרנו וזהו, שימו לב עשה טסט, בעצם בוא נבדוק את הטסט שהוא עשה.

הוא בדק עכשיו, אוקיי, מה הוא עשה פה?

אני בודק אילו מפתחות מולו, מריץ בדיקה, קריאה אחת זולה ל-open AI וקריאה אחת זולה לאנטרופי כדי לוודא שהמפתחות תקפים.

מריץ בדיקה אמיתית, שאילתה פשוטה דרך קסקת פלואו.

אוקיי.

עובד מצוין, השאילתה טופלה על ידי מודל זול של ChatGPT או מיני חיסכון של 94% בקריאה הזו, ועכשיו הוא בודק את שאר המפתחות.

הנה, מעכשיו בכל פעם שנבנה או נחבר סוכן AI, זה יהיה אוטומטית שאפשר להשתמש בקסקת פלואו ולשלב אותו כדי להוזיל את העלויות.

הוא שואל אותי אם אני רוצה בעצם להכניס את זה במערכות הקיימות שלי, יש לי פה את סוליקו, את אנה, את ליאור פייננס, לא כרגע.

יש פה אפשרות להתקין את לייט ללם בשביל שהוא ייחשב במדויק את העלויות, שזה נחמד.

להשאיר, כמו שזה, סבבה.

טוב חברים, אנחנו סיימנו, תתקינו את זה, חסכתי לכם פה אלפי שקלים בשנה, אז תודו לי אחר כך.

ואני מכין עוד מדריך, על עוד כלי יותר מטורף, שבעצם יאפשר לכם להשתמש במודלים של בינה מלאכותית בחינם לגמרי, ברמה של OpenAI, ברמה של אנטרופיק, דברים מטורפים.

אז זה יקרה בסרטון הבא, בהודעה הבאה.

תישארו מעודכנים בקבוצה.

אחלה שבוע.