"הבוט יעביר לאדם כשצריך" הוא לא תכנון. זו תקווה
כל ספק אומר שהסוכן שלו מסלים לאדם. השאלה היא מתי בדיוק, לפי מה, מה המטופל שומע בינתיים, ומה קורה ב-2:00 בלילה כשאין אדם. העמוד הזה הוא הרשימה שלנו, כדי שהרופא יוכל לתקן אותה ועורך הדין לאשר אותה.
תכנון הסלמה לסוכן AI בקליניקה פירושו רשימה כתובה של טריגרים (מילות מפתח קליניות, שאלות רפואיות, כעס, בלבול, קטין, בקשה לאדם), שלוש דרגות תגובה (העברה חיה, חזרה מובטחת תוך זמן מוגדר, הפניה לחירום), ותגובה קבועה שהסוכן אומר בכל הסלמה בלי שאלות המשך. בלילה, כשאין מי שיקבל, הסוכן מפנה לחירום ומבטיח בוקר. שיעור ההסלמה נמדד ומפורסם, ובקליניקה הוא צריך להיות גבוה. זה תיאור ארכיטקטורה, לא ייעוץ משפטי.
העיקרון: הסלמה היא הפעולה הכי חשובה של הסוכן, ולכן היא הכי משעממת
סוכן AI רפואי שונה מכל סוכן אחר בדבר אחד: הטעות היקרה שלו היא לא תשובה שגויה על שעות פעילות. היא תשובה, נכונה או שגויה, על משהו שנוגע לגוף של מישהו. לכן ההסלמה לא יכולה להיות החלטה של המודל ("אני לא בטוח, אעביר"). היא חייבת להיות רשימה שמישהו כתב, מישהו אחר יכול לקרוא, ורופא יכול לתקן.
המשמעות המעשית: יש שתי שכבות. שכבה ראשונה של מילות מפתח ותבניות, שמפעילה הסלמה בלי לשאול את המודל בכלל. שכבה שנייה של סיווג המודל, שתופסת מה שהמילים פספסו. מספיק שאחת מהן מזהה. הסוכן אף פעם לא "מחליט" שלא להסלים כשאחת מהן הפעילה.
הטריגרים: מה מפעיל הסלמה
| קטגוריה | דוגמאות | שכבה |
|---|---|---|
| תסמינים ומצבים קליניים | כאב, דימום, נפיחות, חום, אדמומיות, הפרשה, קוצר נשימה, תגובה, אלרגיה, שבר, תזוזה, ראייה, טשטוש | מילות מפתח + מודל |
| שאלות רפואיות | "זה נורמלי?", "אני מתאים?", "כמה זמן החלמה?", "זה יכאב?", "אפשר לקחת X?", "זה מסוכן?" | מודל, עם תבניות נפוצות במילות מפתח |
| תרופות ומצבים | אזכור של תרופה, הריון, הנקה, מחלה כרונית, ניתוח קודם | מילות מפתח |
| תמונה או קובץ | כל מדיה שנשלחת | אוטומטי, לפני שהמודל רואה |
| רגש | כעס, אכזבה, תלונה, פחד שמובע במפורש, מצוקה | מודל |
| קטין | אזכור גיל מתחת ל-18, "הבן שלי", "הבת שלי", שם בית ספר | מילות מפתח + מודל |
| בקשה מפורשת | "רוצה לדבר עם בן אדם", "תעבירו אותי", "זה בוט?" | מילות מפתח |
| כישלון הבנה | שתי הודעות רצופות שהסוכן לא הצליח לסווג | מונה |
| מחיר בלחץ | בקשה שלישית למחיר אחרי שתי הפניות לייעוץ | מונה |
| "תפסיקו" | כל בקשה להפסיק הודעות | מילות מפתח, ופעולה: סימון ועצירה, לא רק הסלמה |
מה שחשוב ברשימה הזו הוא לא השלמות שלה, אלא שהיא קיימת בכתב. כשמטופל כותב משהו שלא היה ברשימה והסוכן ענה, זו לא "טעות של הבוט". זו שורה שחסרה, ומוסיפים אותה.
שלוש דרגות תגובה
| דרגה | מתי | מה המטופל מקבל | מה קורה בקליניקה |
|---|---|---|---|
| 1. העברה חיה | שעות פעילות, ויש מי שזמין | "מעביר אותך לצוות עכשיו." והשיחה עוברת לאדם בתוך דקות. | התראה בוואטסאפ של המרפאה עם ההודעה המקורית. אם אף אחד לא ענה תוך זמן מוגדר, עוברים לדרגה 2 אוטומטית. |
| 2. חזרה מובטחת | מחוץ לשעות, או שאף אחד לא זמין | "הצוות קיבל, יחזרו אליך עד [שעה]." זמן שהקליניקה קבעה ועומדת בו. | משימה עם התמליל ברשימה שהצוות רואה בפתיחה. הסוכן לא ממשיך את השיחה עד שאדם ענה. |
| 3. הפניה לחירום | מילות מפתח של דחיפות (כאב חזק, דימום שלא נפסק, קוצר נשימה, ירידה בראייה), בכל שעה | מספר החירום של הקליניקה או הפניה למיון, בגוף ההודעה הראשונה, לפני כל דבר אחר. | התראה דחופה לרופא התורן, אם הוגדר. ורישום. |
הדרגות לא סותרות: הודעה דחופה בלילה מקבלת גם דרגה 3 ("פנה למיון") וגם דרגה 2 ("ונחזור אליך בבוקר"). מה שלא קורה בשום דרגה: שאלת המשך רפואית. "איפה כואב?" הופך את הסוכן למי שאוסף מידע קליני, וזה בדיוק מה שהוא לא אמור לעשות.
התגובה הקבועה: מה הסוכן אומר בכל הסלמה
בהסלמה, הסוכן לא מנסח. הוא אומר משפט קבוע שהקליניקה אישרה, עם שלושה חלקים: אישור שקיבל, מה קורה עכשיו, ומה לעשות אם דחוף. הניסוח שונה לפי הקליניקה, המבנה לא.
מה קורה בלילה, ומה קורה כשאף אחד לא עונה
השאלה שרוב הספקים לא שואלים באפיון: ב-2:00 בלילה, מי מקבל את ההסלמה? יש שלוש תשובות אפשריות, וכל קליניקה צריכה לבחור אחת בכתב:
- רופא תורן: התראה דחופה למספר תורן, לדרגה 3 בלבד. דרגה 2 מחכה לבוקר.
- מוקד חיצוני: מספר של מוקד רפואי שהקליניקה עובדת איתו, בגוף ההודעה.
- מיון בלבד: הסוכן מפנה למיון בכל דחיפות, ומבטיח חזרה בבוקר. זו ברירת המחדל כשלא הוגדר אחרת.
ומה קורה כשבדרגה 1 אף אחד לא עונה: אחרי זמן מוגדר (אצלנו ברירת המחדל היא 15 דקות בשעות הפעילות), הסוכן חוזר למטופל, אומר שהצוות עסוק ויחזור עד שעה מסוימת, ושולח התראה שנייה לצוות. הוא לא משאיר מטופל בלי תשובה בהנחה שמישהו ראה.
איך מודדים שההסלמה עובדת
- שיעור הסלמה: כמה מהשיחות הועברו. בקליניקה, 15% עד 30% הוא טווח סביר. פחות מ-5% אומר שהסוכן עונה על דברים שלא צריך.
- זמן עד מענה אנושי: מהסלמה ועד שאדם ענה. נמדד לפי דרגה. אם דרגה 1 לוקחת שעה, זו לא דרגה 1.
- הסלמות שפוספסו: בסקירת תמלילים שבועית (בחודש הראשון), מחפשים שיחות שהיו צריכות להסלים ולא. כל אחת הופכת לשורה ברשימה.
- הסלמות מיותרות: "שעות פעילות" שהוסלם כי המטופל כתב "כואב לי לחכות". מתקנים את התבנית, לא מורידים את הסף.
- מה המטופל עשה אחרי: ענה, המשיך, נעלם. הסלמה שמסתיימת בשקט של יומיים היא הסלמה שאף אחד לא סגר.
המספרים האלה מגיעים לקליניקה בדוח חודשי, ומתפרסמים אצלנו בצורה מצטברת, כי מי שלא מודד את זה לא יודע אם הסוכן שלו בטוח.
רשימת בדיקה לרופא וליועץ המשפטי
- האם רשימת הטריגרים כתובה, ומי אישר אותה?
- האם יש טריגר לכל תסמין שרלוונטי לתחום שלכם, לא רק לרשימה הכללית?
- מה הסוכן אומר בהסלמה, מילה במילה? האם הוא שואל שאלת המשך רפואית (לא אמור)?
- מי מקבל הסלמה בשעות הפעילות, ומה קורה אם לא ענה תוך 15 דקות?
- מי מקבל הסלמה ב-2:00 בלילה?
- מה מספר החירום שמופיע בהודעה, ומי מוודא שהוא עדכני?
- האם תמונות עוברות לצוות בלי שהסוכן מגיב עליהן?
- איך נראה הדוח החודשי של ההסלמות, ומי קורא אותו?