הסבר על RAG ללא ז'רגון

מה זה RAG באמת, ללא ז'רגון

RAG (retrieval-augmented generation) אומר שהצ'אטבוט קודם כל מחפש את התשובה בתוכן שלכם - באתר, בשאלות ותשובות ובמסמכים - ואז כותב את התשובה ממה שמצא, במקום לענות מהאימון הכללי.

RAG מייצג את המונח retrieval-augmented generation. שלוש מילים שעושות הרבה עבודה, אז הנה הגרסה הפשוטה.

כאשר לקוח שואל צ'אטבוט "מתי אתם פותחים ביום ראשון?", אחד משני דברים קורה מאחורי הקלעים. או שהבוט עונה ממה שלמד באימון - שלא כולל את העסק שלכם - וממציא משהו. או שהבוט קודם כל מחפש את התשובה בתוכן הספציפי שלכם, מוצא את דף השעות, וכותב תשובה על סמך מה שבאמת שם.

השני הוא RAG.

תחשבו על זה כמו מבחן עם ספר פתוח. בלי RAG, הצ'אטבוט עושה מבחן עם ספר סגור על העסק שלכם - והוא מעולם לא ראה את הספר. עם RAG, יש לו את הספר פתוח, הוא מדפדף לעמוד הנכון וקורא את התשובה לפני שהוא עונה.

בלי RAG לעומת עם RAG: דוגמת תמחור

בלי RAG, הבוט נותן תשובה כללית על מחירים טיפוסיים; עם RAG, הוא מצטט את המחיר האמיתי ומה התוכנית כוללת.

נניח שאתם מוכרים חבילות אימון: $99 למתחילים, $299 למתקדמים, $599 לאליטה. לקוח שואל: "כמה עולה התוכנית למתקדמים?"

בלי RAG:

"המחירים משתנים לפי ספק ותוכנית. רוב חבילות האימון נעות בין $50 ל-$1,000 לחודש. אני ממליץ לבדוק ישירות עם החברה לקבלת תמחור מדויק."

נכון טכנית. חסר תועלת לחלוטין. הלקוח עוזב.

עם RAG:

"התוכנית למתקדמים עולה $299 לחודש וכוללת מפגשים אישיים שבועיים, הודעות ללא הגבלה ותוכנית צמיחה מותאמת אישית. רוצים קישור להתחלה?"

ספציפי, מדויק, שימושי. זו ההבדל ש-RAG עושה - וזה ההבדל בין בוט שתופס לידים לבוט שמאבד אותם.

איך זה עובד, בקצרה

שלושה שלבים: התוכן שלכם מחולק לחלקים שניתן לחפש (אינדקס), החלקים הרלוונטיים ביותר לשאלה נמצאים (חיפוש), והמודל כותב את התשובה מהם (יצירה).

אתם לא צריכים להבין את ההנדסה, אבל הנה התמונה בשלושה שלבים כדי שתדעו על מה הספקים מדברים.

1. אינדקס. המערכת קוראת את האתר שלכם, שאלות ותשובות ומסמכים שהועלו - ומחלקת אותם לחלקים שניתן לחפש. זה קורה פעם אחת בהתקנה, ואז שוב בכל פעם שהתוכן שלכם משתנה.
2. חיפוש. כאשר לקוח שואל שאלה, המערכת מחפשת את החלקים הרלוונטיים ביותר. לא התאמת מילות מפתח - חיפוש סמנטי. היא מבינה ש"כמה עולה" ו"מה המחיר" הן אותה שאלה.
3. יצירה. החלקים הרלוונטיים נמסרים למודל ה-AI יחד עם שאלת הלקוח. המודל כותב תשובה על סמך אותם חלקים, לא על האימון הכללי שלו.

הלקוח רואה תשובה שוטפת אחת. מאחורי הקלעים, שלושה דברים קרו.

למה RAG עדיף על כיוונון לרוב העסקים

לרוב העסקים RAG זול יותר, מעדכן שינויים בתוכן תוך דקות במקום אימון מחדש שלוקח ימים, ויכול לציין את הדף שממנו הגיעה כל תשובה. כיוונון מתאים למקרים צרים כמו אוצר מילים מאוד מיוחד.

האלטרנטיבה ל-RAG היא כיוונון - לקיחת מודל AI בסיסי ואימון שלו במיוחד על הנתונים העסקיים שלכם. זה נשמע מפתה. לרוב העסקים הקטנים והבינוניים זו הבחירה הלא נכונה.

עלות. כיוונון בדרך כלל עולה פי 100 יותר מהפעלת צ'אטבוט מבוסס RAG על אותם נתונים. המתמטיקה נעשית אכזרית בכל קנה מידה.

מהירות עדכון. כאשר אתם משנים מחירים, שעות או שירותים, RAG מתעדכן מהר ככל שתוכלו לאנדקס מחדש את התוכן - דקות, לעיתים אוטומטית. מודלים מכווננים צריכים להיות מאומנים מחדש, מה שלוקח ימים עד שבועות. תשנו מחירים ביום שני ובוט מכוונן עשוי עדיין לצטט מחירים ישנים ביום שישי.

שקיפות. יישומי RAG טובים יכולים לציין את דף המקור לכל תשובה ("זה מהדף שלכם על תמחור"). מודלים מכווננים לא יכולים - הם ספגו את המידע לתוך המשקלים שלהם. כשלקוח שואל "מאיפה הבאת את זה?" אין לכם תשובה.

לרוב העסקים, RAG הוא התשובה הנכונה. כיוונון מתאים למקרים צרים - אוצר מילים מאוד מיוחד, מערכי נתונים גדולים קנייניים - וגם שם, RAG לעיתים קרובות מתווסף על גבי.

מה יכול להשתבש עם RAG

RAG טוב כמו התוכן שלכם וההגדרות של הספק: דפים חסרים או מיושנים, אינדוקס לא תדיר, חיתוך גרוע, ללא ציון מקור והפרדה חלשה בין לקוחות מובילים לתשובות שגויות.

RAG אינו קסם. מצב הכשל הנפוץ ביותר: אם התוכן באתר שלכם חסר, מיושן או סותר, התשובות של הבוט יהיו גם כן. זבל נכנס, זבל יוצא.

דברים נוספים שיכולים להשתבש:

• תוכן מיושן. אם אינדוקס מחדש מתבצע רק פעם בחודש, לקוחות רואים מחירים ישנים במשך שבועות. שאלו את הספקים איך מתוזמן האינדוקס מחדש.
• חיתוך גרוע. אם המערכת מחלקת את התוכן שלכם לחלקים גדולים מדי או קטנים מדי, התשובה הנכונה לא תצוף. הלקוח מקבל שטויות שנשמעות בטוחות בעצמן.
• ללא ציון מקור. אם הבוט לא יכול לומר מאיזה דף הגיעה תשובה, אתם לא יכולים לבדוק או לתקן אותה.
• דליפת תוכן בין לקוחות. פלטפורמות מרובות לקוחות חייבות לשמור על הפרדה מוחלטת בין התוכן של כל לקוח. שאלו איך זה נאכף - ראו מדריך הקונה למה תשובה טובה נראית.

אלו בעיות של ספקים, לא בעיות של RAG. כדאי לבדוק אותן לפני שחותמים.

4 שאלות לשאול ספקים על הגדרת RAG שלהם

שאלו כל כמה זמן התוכן שלכם מאונדקס מחדש, האם התשובות מציינות את דף המקור שלהן, כמה מהר עדכון מופיע, ואיך התוכן שלכם נשמר נפרד מתוכן של לקוחות אחרים.

ארבע שאלות מפרידות בין ספקים רציניים לשיווק ריק.

1. כל כמה זמן התוכן שלי מאונדקס מחדש? תשובה טובה: "אוטומטית כשיש שינוי בתוכן, בנוסף לעבור מלא יומי." תשובה רעה: "מתי שאתם לוחצים על כפתור הרענון."
2. האם הבוט יכול לציין את דף המקור לכל תשובה? אם כן, אתם יכולים לבדוק ולתקן. אם לא, שאלו למה.
3. כמה מהר עדכון תוכן מופיע בתשובות הבוט? כוונו לדקות, לא שעות, ובוודאי לא ימים.
4. איך התוכן שלי נשמר נפרד מתוכן של לקוחות אחרים? אתם צריכים לקבל תשובה ברורה וטכנית הכוללת בידוד ברמת הנתונים. אם הם מתחמקים, זה דגל אדום.

אם ספק משתמש ב-RAG אבל לא יכול לענות על אלה, הוא משתמש בו בצורה גרועה. אם הם לא משתמשים ב-RAG בכלל והתוכן שלכם מתעדכן באופן קבוע - המשיכו לחפש.