עובדים זרים שמועסקים דרך תאגידי כוח אדם בישראל מקבלים היום תשובות בשפה שלהם. הם יכולים לעבור בתסריט מודרך, לשאול שאלה חופשית את עוזר ה־RAG או להקליט הודעה קולית. כשהבוט לא יודע לעזור, נפתחת פנייה שמנהל האזור קורא בעברית, והתשובה שלו מגיעה לעובד מתורגמת לשפה שלו.
תאגידי כוח אדם מעסיקים עובדים זרים שמדברים תאית, הינדי, סינהלית, רוסית או אנגלית, ומנהלי האזור שלהם עובדים בעברית. שאלות פשוטות על תלוש שכר, דיור, ביטוח או אשרה עברו בטלפון או באפליקציות הודעות. אף אחד לא עקב אחריהן, ולא פעם מישהו היה צריך לתרגם ידנית. הלקוח רצה ערוץ שירות עצמי שעונה על השאלות הנפוצות בשפת העובד, ומעביר את השאר לפנייה שאפשר לעקוב אחריה בשתי השפות.
התרשים רחב מהמסך: החליקו הצידה לצפייה בכולו →
כל ישות מתורגמת נשמרת פעם אחת לכל שפה, יחד עם hash של טקסט המקור. מסלול הקריאה אף פעם לא פונה ל־LLM, כך שעובד תאילנדי שפותח תסריט מקבל טקסט תאילנדי שמור, בלי שום עיכוב.
אפשר לעבור שלב אחר שלב על שיחה אחת של עובד. התוכן להמחשה בלבד ואין בו נתוני לקוח. הקריאות המדומות מראות מה קורה בכל שלב.
המודל רשאי לענות רק מתוך הקטעים שאוחזרו, או להחזיר בדיוק את הסימן __NOT_FOUND__. רק אז רצה תשובה מבוססת ידע כללי, והיא נשמרת עם source=llm. כל תשובה מתעדת את המקור, הציון הגבוה, התוצאות שאוחזרו, הציטוטים, הטוקנים וזמן התגובה. המחיר: שתי קריאות ל־LLM כשאין התאמה.
תסריטים, צמתים ושאלות נפוצות מתורגמים כשמנהל שומר אותם, ונשמרים לכל שפה יחד עם SHA-256 של המקור. פריט שה־hash שלו לא השתנה מדולג. קריאה לא עולה אף קריאת LLM. המחיר: יותר שורות במסד, וכמה שניות עד ששינוי חדש מופיע בכל השפות.
שמירת שאלות נפוצות חוזרת מיד אחרי שהמסד מאשר. האינדוקס והתרגום רצים ברקע, כל אחד ב־DI scope משלו, עם הגבלת מקביליות (10 embeddings ו־5 תרגומים). משימה שנכשלת לא כותבת כלום, ולכן השמירה הבאה מנסה שוב באופן טבעי, כי ה־hash עדיין שונה.
תסריט אב וסט שאלות נפוצות ברמת המערכת משוכפלים לכל תאגיד חדש, כולל התרגומים, ונרשמים בטבלת הפעלה. כל תאגיד יכול להתאים את העותק שלו. המחיר: צריך מסלול סנכרון כשתוכן האב משתנה.
תשובות בטקסט עשיר מתורגמות במצב HTML ששומר על כל התגיות. כותרות פשוטות עוברות במצב טקסט שמנקה תגיות מיותרות. אם מסנן התוכן חוסם טקסט, נשאר המקור והשמירה מצליחה בכל זאת.
תכנון האחזור הראשון נשען על דירוג סמנטי מחדש, אבל רמת שירות החיפוש שבשימוש לא תמכה בו, והשאילתות נכשלו.
עברנו לאחזור היברידי: שאילתת מילות מפתח פשוטה יחד עם שאילתת וקטורים ב־HNSW, ושמונה התוצאות המובילות. הגדרת הדירוג הסמנטי נשארה באינדקס, ליום שבו הרמה תאפשר אותה.
עריכה של שאלה אחת מתוך 50 תרגמה מחדש את כל ה־50 לכל השפות: 400 קריאות LLM בשביל שינוי של שורה אחת.
הוספתי SourceHash לכל ישות ושפה. פריטים שלא השתנו מדולגים, ואותה עריכה עולה היום 8 קריאות.
בקשת השמירה חיכתה שכל התרגומים וה־embeddings יסתיימו, וממשק הניהול נתקע בינתיים.
איחדתי את ה־upsert למסד לפעולה אחת, והעברתי את האינדוקס והתרגום למשימות רקע עם scope משלהן ו־semaphores. התשובה חוזרת תוך שנייה בערך.
אחרי שינוי ב־deployment, קריאות הצ׳אט נכשלו על הגדרת temperature מפורשת שהמודל כבר לא קיבל.
הסרתי את הגדרות הדגימה מכל הקריאות, ושם ה־deployment נשאר המתג היחיד להחלפת מודל. העקביות בתרגום מגיעה היום מפרומפטים קפדניים.
זמני הצ׳אט והפניות הוצגו באזור זמן לא נכון. EF Core החזיר DateTimeKind.Unspecified, ומעבר מוקדם יותר לשעון מקומי רק החמיר את המצב.
השרת שומר UTC ומסמן אותו במפורש ב־DTOs. הפרסר בצד הלקוח מקבל מחרוזות בלי Z ומציג אותן לפי השפה.
קליטת תאגיד חדש העתיקה את תסריט האב צומת אחר צומת, וקישורי ההורה היו צריכים להצביע על מזהים שעוד לא קיימים.
כתבתי מחדש את ההעתקה בשני מעברים: הכנסה של כל הצמתים במנה אחת, בניית מיפוי ממזהה ישן לחדש, ואז תיקון ההורים במנה שנייה. סך הכול 2 פניות למסד לכל תסריט, כולל העתקת התרגומים.
חלק מהעובדים שולחים הודעות קוליות במקום טקסט, והמנהל ראה קובץ שמע בלי שום הקשר.
הוספתי הקלטה באפליקציה ותמלול Whisper בשרת. מסך הפנייה משלב כל קובץ שמע עם התמלול שלו בנקודה הנכונה בשיחה.
שיחת אבחון חינם · 30 דקות · ללא התחייבות
כתבו בכמה שורות: איזה תהליך או מערכת, מה כואב היום (זמן, טעויות, עלויות או פיילוט AI שנתקע) ומי עובד עם זה. אחרי שיחה קצרה מקבלים תוך כ־3 ימים תוכנית כתובה והצעת מחיר סגורה.
נפתח מייל מוכן מראש · מענה תוך יום עסקים
ה־AI קורא. הקוד סופר.
כל הפרויקטים