מאמרים · האדם בתמונה

בקרה אנושית על בינה מלאכותית: חמישה רגעים שמחכים לאישור

ה-AI יכול להכין כמעט כל דבר. אלה חמשת הרגעים שבהם אדם חייב לאשר לפני שהוא ממשיך, ומי נושא באחריות כשמשהו משתבש בדרך.

· 5 דקות קריאה · נכתב על ידי Butler @ yalla ya!‎ · נבדק על ידי Ido Kobelkowsky

Cover: the words Human approval for AI, a pause symbol and five numbered check marks

עוזר AI כבר יכול לכתוב את הקוד, למצוא את הלקוחות שהתשלום שלהם נכשל, לנסח התנצלות ולהכין את ההחזר הכספי, עוד לפני שסיימתם את הקפה. השאלה המעניינת כבר איננה אם הוא מסוגל. השאלה היא איפה הוא חייב לעצור ולחכות לאדם. בקרה אנושית על בינה מלאכותית אינה אומרת לקרוא כל דבר שהמכונה עושה. היא אומרת לקבוע מראש את הרגעים המעטים שאין מהם דרך חזרה, ולהציב בכל אחד מהם אדם עם שם.

במדריך הזה תמצאו את הרגעים האלה, מה כדאי לבדוק לפני שאומרים כן, ומי נושא באחריות כשמשהו בכל זאת משתבש.

איפה באמת צריך בקרה אנושית על בינה מלאכותית?

תשובה קצרה: בכל מקום שבו אי אפשר לבטל את הפעולה בתוך דקות, או שבו היא יוצאת מהעסק ומגיעה למישהו אחר. כל השאר יכול לרוץ לבד ולדווח אחר כך.

אנחנו שואלים שלוש שאלות. אפשר להחזיר את המצב לקדמותו, מהר ועד הסוף? הפעולה נוגעת בכסף, בנתוני לקוחות או באנשים מחוץ לחברה? אם זה ישתבש, מישהו יצטרך להסביר את זה ללקוח? "לא" על הראשונה, או "כן" על אחת מהאחרות, מספיקים כדי לעצור ולשאול.

גם אנשי האבטחה אומרים את זה, במילים שלהם. OWASP, הפרויקט הפתוח שמפרסם את הרשימות המוכרות ביותר של סיכוני תוכנה, קורא לבעיה "עצמאות יתר" (Excessive Agency): מערכת AI שקיבלה יותר מדי יכולות, יותר מדי הרשאות או יותר מדי חופש פעולה. אחת ההמלצות שם היא שאדם יאשר פעולות בעלות השפעה גדולה לפני שהן מתבצעות.

הטעות ההפוכה אמיתית באותה מידה. מי שמתבקש לאשר הכול מפסיק לקרוא. בחוק ה-AI האירופי יש אפילו שם להרגל לסמוך על מה שהמערכת הפיקה רק כי בדרך כלל היא צודקת: "הטיית אוטומציה". לכן הרשימה חייבת להיות קצרה. בשלנו יש חמש שורות.

ה-AI מכין את השינוי אפשר לבטל בתוך דקות? ה-AI ממשיך ומדווח אחר כך ה-AI עוצר והתראה שואלת אדם מסוים מאשר או דוחה נרשם: מי, מה, מתי כן לא אלה מחכים לאישור 1. עלייה לאוויר 2. תשלומים והחזרים 3. מחיקת נתונים 4. הודעות ללקוחות 5. גישה ומפתחות
הכלל בציור אחד: ה-AI ממשיך לבד רק כשאפשר לבטל את הפעולה. אחרת הוא עוצר, ואדם מסוים מחליט.

חמשת הרגעים שבהם ה-AI מחכה לאישור

1. עלייה לאוויר

שינוי בעותק בדיקה של האתר לא עולה כלום אם הוא שגוי. אותו שינוי מול הלקוחות יכול לעצור מכירות באמצע קמפיין. ה-AI יכול לבנות את השינוי, לבדוק אותו ולהראות לכם אותו. אדם מחליט שהוא עולה לאוויר, ומתי: לא ביום שישי בערב, ולא באמצע מבצע. לפני שאומרים כן, שואלים שני דברים: ראיתי את זה עובד? ואיך חוזרים אחורה אם זה נכשל? זה ההסכם באתרים ובחנויות שאנחנו בונים עם AI: אתם רואים את ההתקדמות, ואתם מאשרים מה עולה לאוויר.

2. תשלומים, החזרים ומחירים

כסף זז בכיוון אחד בקלות רבה יותר מאשר בכיוון ההפוך. Stripe, חברת סליקה שחנויות מקוונות רבות עובדות איתה, היא דוגמה טובה. בתיעוד שלה על החזרים כספיים כתוב שעמלות העיבוד של התשלום המקורי אינן חוזרות כשמבצעים החזר, שרק חלק מההחזרים לכרטיס אפשר לבטל ורק לזמן קצר, ושהלקוח עשוי לראות את הכסף רק אחרי 5 עד 10 ימי עסקים. החזר שנשלח בטעות לא מתקנים בכפתור "בטל".

לכן ה-AI יכול למצוא את החידושים שנכשלו בלילה, להבין למה ולהכין ניסיון חיוב חוזר. לחייב, להחזיר כסף, לשנות מחיר או להפעיל הנחה: כל אלה מחכים לאדם שרואה את הסכומים המדויקים ואת הלקוחות המדויקים.

3. מחיקת נתונים

מחיקה היא המקרה הברור ביותר: הדרך היחידה לבטל אותה היא גיבוי. לפני שמאשרים ניקוי של הזמנות ישנות, של אנשי קשר כפולים ב-CRM או של קבצים בשרת, השאלה איננה "אנחנו עוד צריכים את זה?" אלא "מתי בפעם האחרונה שוחזר גיבוי כבדיקה?". גיבוי שאף אחד לא ניסה לשחזר הוא תקווה, לא דרך חזרה. לכן בשרתים שאנחנו מפעילים עבור לקוחות בודקים את הגיבויים בשחזור של ממש. מחיקה שה-AI הציע נשארת הצעה עד שאדם מאשר אותה.

4. הודעות ללקוחות

מייל שנשלח אי אפשר להחזיר, והודעה לכל רשימת התפוצה היא אלפי הזדמנויות לטעות: שם שגוי, מחיר שגוי, הבטחה שהעסק לא יכול לקיים. הכלל שלנו להודעות שיוצאות בשם לקוח פשוט: ה-AI מנסח, ואדם עורך ומאשר לפני שמשהו נשלח. תשובה ללקוח אחד בצ'אט יכולה לפעול לפי כללים שסיכמתם מראש. הודעה לכולם מחכה לאישור.

5. גישה ומפתחות

הרגע האחרון הוא השקט מכולם: מי יכול להיכנס. סיסמאות, חשבונות משתמשים, הרשאות ומפתחות, כלומר הקודים הסודיים שמאפשרים לתוכנה אחת לפעול בתוך חשבון אחר, למשל אצל חברת הסליקה או בשרת שלכם. עוזר שיכול לתת לעצמו או למישהו אחר עוד גישה, יכול לעשות את כל שאר הדברים ברשימה בלי לשאול. לכן משתמשים חדשים, הרשאות רחבות יותר ומפתחות חדשים מאושרים בידי אדם, והחשבונות נשארים על שמכם. זה חלק מהדרך שבה אנחנו שומרים על אתר או אפליקציה מאובטחים.

חמשת האישורים בטבלה אחת

הרגעמה ה-AI מכיןמה האדם בודק לפני האישורלמה מחכים
עלייה לאווירהשינוי, אחרי בדיקה בעותקשזה עובד, ומה הדרך חזרההלקוחות רואים את זה מיד
תשלומים, החזרים, מחיריםהרשימה, הסכומים, הסיבהסכומים מדויקים ולקוחות מדויקיםכסף ועמלות לא חוזרים מעצמם
מחיקת נתוניםמה למחוק ולמהגיבוי ששוחזר כבדיקהבלי גיבוי אין ביטול
הודעות ללקוחותהטיוטה ורשימת הנמעניםכל מילה, ומי מקבל אותהמה שנשלח, נשלח
גישה ומפתחותהבקשה והסיבה שלהמי מקבל מה, ולכמה זמןגישה פותחת את כל שאר הדלתות

מי אחראי כשה-AI טועה?

תשובה קצרה: העסק, דרך האדם שאמר כן. לא הכלי.

גם החוק הולך בכיוון הזה. חוק ה-AI האירופי (סעיף 14, הנוסח באנגלית) דורש שמערכות AI בסיכון גבוה ייבנו כך שבני אדם יוכלו לפקח עליהן, להחליט לא להשתמש בתוצאה שלהן, לבטל אותה ולעצור את המערכת. הסעיף נכתב למערכות בסיכון גבוה, לא לעוזר של חנות, ואין כאן ייעוץ משפטי: אם אתם פועלים בתחום מפוקח, התייעצו עם עורך דין. אבל הכיוון ברור. אדם צריך להיות מסוגל לעצור את המכונה, ואדם נותן את הדין על מה שהיא עשתה.

כדי שלאישור תהיה משמעות, שלושה דברים צריכים להתקיים. למאשר יש שם: "הצוות" לא מאשר שום דבר. הוא רואה בדיוק מה עומד לקרות: שנים־עשר ההחזרים האלה בסכום הזה, ולא "לטפל בהחזרים". והדבר נרשם: מי אמר כן, למה, ומתי. באתר שלנו אנחנו אומרים את זה בשורה אחת: ה-AI עושה את העבודה, אנשים אחראים עליה.

כאן גם נעצרים כלי ה-AI הכלליים. עוזרי צ'אט ועוזרי קוד עושים מה שמבקשים מהם ונעצרים בקוד. כפי שכתבנו במאמר על מה שאף אחד מכלי ה-AI לעסקים לא מחבר, הם לא מקשרים בין המספרים של העסק, ההחלטות והקוד, ולכן אינם יכולים לדעת איזו פעולה צריכה אישור, וממי. בנינו את באטלר, סביבת העבודה שאנחנו מקימים לכל לקוח, סביב החיבור הזה: התראה מבקשת מאדם לפעול, שגרה מדווחת במקום לפעול בשקט, וכל אזהרה וכל פעולה נרשמות.

איפה האדם נכנס לתמונה

אנחנו מריצים כ-20 פרויקטים בבאטלר: חנויות, מערכות CRM, אפליקציות ושרתים. החוט שעובר בכולם הוא זה שבמדריך הזה. ה-AI מכין, ואדם מחליט מה עולה לאוויר, מה מזיז כסף ומי מקבל גישה. איפה בדיוק עובר הקו, זו עדיין שאלה של שיקול דעת ולא נוסחה, ואנחנו ממשיכים לכוונן אותו: שואלים יותר מדי, ואנשים מפסיקים לקרוא; שואלים מעט מדי, ומגלים בדיעבד.

המאמר הזה הוא דוגמה. הוא נכתב עם AI, לפי כללים שהנהלת yalla ya!‎ קבעה מראש: מדריך כזה יכול להתפרסם וההנהלה מקבלת הודעה באותה דקה, ואילו כל סיפור מפרויקט של לקוח מחכה לאישור שלה.

מה לעשות השבוע

כתבו את חמש השורות שלכם. ליד כל אחת רשמו שם, ומה אותו אדם צריך לראות לפני שהוא אומר כן. אם אין לכם שם לרשום, ה-AI עוד לא אמור לבצע את הפעולה הזאת. אחר כך בדקו שהכלים שלכם באמת עוצרים בשורות האלה, ולא רק מבטיחים.

רוצים עוד זוג עיניים? הביאו את הרשימה לייעוץ וסקירת פרויקט חינם, 30 דקות. נעבור יחד על המקומות שבהם האתר, החנות או האפליקציה שלכם נותנים ל-AI להמשיך לבד, ועל המקומות שבהם כדאי שיחכה.

להמשך קריאה

כל המאמרים
יאללה, מתחילים

ספרו לנו מה הייתם רוצים שה-AI יעשה בשבילכם. מכאן זה עלינו.

או פשוט ספרו לנו מה מעכב אתכם. קבעו ייעוץ וסקירת פרויקט חינם, 30 דקות, ונראה לכם איך נראה צוות בסיוע AI בעסק שלכם.

מקסיקו+52 (55) 5553 8152
ארצות הברית+1 (707) 313-6396
ישראל+972 (52) 833 4608
דילוג לתוכן