AI First או AI Only? השאלה שכל בעל עסק צריך לשאול עכשיו

יש הבדל בין AI First ל-AI Only

אני מאוד מאמין ב-AI First. לפני שמגייסים עוד עובד, מוסיפים עוד תהליך ידני או קונים עוד מערכת, שווה לבדוק אם AI יכול לעשות חלק מהעבודה. AI יכול לתת לעובד אחד יכולת שבעבר הייתה דורשת כמה אנשים. הוא יכול לסכם, לנתח, לכתוב, לתכנת, לבדוק, לענות ללקוחות, לאתר חריגות, להכין מידע לקבלת החלטות ולהפעיל תהליכים שלמים. זה כוח אדיר.

אבל אני רואה יותר ויותר גישה אחרת: AI Only. לא להשתמש ב-AI כדי לחזק את העסק, אלא לבנות עסק שבו ה-AI הופך בהדרגה לדבר היחיד שיודע איך העסק עובד.

ואם מישהו שואל איך משהו עובד, התשובה היא "תשאל את קלוד". ופה אני מתחיל להיות פחות רגוע. לא בגלל שאני חושב שה-AI לא מספיק טוב, אלא דווקא בגלל שהוא טוב מאוד.

• הוא מכיר את התהליך
• הוא כתב את המערכת
• הוא יודע לתקן אותה
• הוא מפעיל חלק מהלקוחות
• הוא מקבל החלטות
• הוא מבצע את העבודה

כשהיכולת לבנות גדלה מהר יותר מהיכולת להבין

פעם היה קשר די טבעי בין היכולת שלך לבנות מערכת לבין היכולת שלך להבין אותה. אם לא ידעת מספיק על בסיסי נתונים, הרשאות, Authentication, APIs, שרתים, אבטחת מידע ותשתיות, בדרך כלל גם לא הצלחת לבנות מערכת מורכבת שמשתמשת בכל הדברים האלה.

AI שבר את הקשר הזה. היום אדם יכול לבנות מערכת מורכבת הרבה יותר מרמת הידע הטכנית שלו. וזה מדהים. אבל זה גם יוצר סיכון חדש: היכולת שלנו לייצר מורכבות גדלה מהר יותר מהיכולת שלנו להבין את המורכבות שיצרנו.

המערכת יכולה לעבוד. אפילו לעבוד מצוין. לקוחות יכולים להתחיל להשתמש בה. מידע יכול להצטבר בה. תהליכים עסקיים יכולים להפוך תלויים בה. וכל זה יכול לקרות עוד לפני שמישהו באמת עצר ושאל:

התגובה "תשאל את קלוד" יכולה להיות כלי עבודה מצוין. Claude יכול לקרוא את הקוד, להסביר אותו, לתקן אותו ואפילו להצביע על בעיות. אבל מישהו עדיין צריך לדעת אילו שאלות בכלל צריך לשאול.

וזה אולי אחד הסיכונים הגדולים של עידן ה-AI. לא שה-AI יכתוב קוד גרוע, אלא שהוא יכתוב קוד מספיק טוב כדי שנבנה עליו עסק לפני שהבנו מה אנחנו לא יודעים עליו.

• איך המידע של לקוח אחד מופרד מהמידע של לקוח אחר?
• מי יכול לראות מה?
• מה קורה אם הרשאה הוגדרה לא נכון?
• איזה מידע נשלח לספק AI חיצוני?
• איך מתבצע גיבוי ושחזור?
• איך מוחקים מידע?
• מה קורה כש-API חיצוני משתנה?
• איך מזהים תקלה לפני שהלקוח מגלה אותה?
• ומה החוק מחייב אותי לעשות?

אבל לא כל תלות היא בעיה

כאן חשוב לי גם לסייג. עסק מודרני תמיד תלוי בדברים שהוא לא יודע לייצר בעצמו. אני לא בונה תשתית אינטרנט. אני לא מקים רשת סלולרית. אני לא מחזיק מערכת סליקה פרטית. אני לא חושב שכל עסק צריך לדעת להפעיל AWS חלופי במקרה שאמזון תיעלם.

תלות כשלעצמה היא לא הבעיה. תלות לא מנוהלת היא הבעיה. השאלה הנכונה היא לא "האם העסק שלי תלוי ב-AI?" אלא "האם אני יודע במה אני תלוי, מה יקרה אם התלות הזאת תיכשל, ועד כמה קל לי להחליף אותה?"

המטרה היא לא לבנות עסק שלא תלוי בכלום. המטרה היא לבנות עסק שיודע במה הוא תלוי.

• אם המודל שאני משתמש בו נעלם מחר, האם אפשר לעבור למודל אחר?
• אם המחיר שלו עולה פי חמישה, האם הכלכלה של התהליך עדיין עובדת?
• אם ה-Agent עושה טעות, האם מישהו יודע לזהות אותה?
• אם צריך לעצור אותו, האם יש מנגנון שעושה את זה?
• ואם צריך להחזיר זמנית תהליך לידיים אנושיות, האם הידע עדיין קיים בארגון?

מה יקרה אם מחר ה-AI יהיה יקר פי עשרה?

אנחנו נוטים לדבר על AI כאילו מה שיש לנו היום הוא מצב קבוע. אבל אין לנו מושג איך ייראה השוק בעוד חמש שנים. אולי המחירים ירדו כמעט לאפס, ואולי דווקא המודלים החזקים באמת יהיו יקרים משמעותית.

אלה לא סיבות לא להשתמש ב-AI. ממש לא. אבל הן כן סיבה לשאול: אם תנאי המשחק משתנים, האם עדיין נשאר לי עסק?

• אולי ספק מסוים ישנה תמחור
• אולי מודל שאנחנו תלויים בו ייסגר
• אולי תנאי השימוש ישתנו
• אולי רגולציה תגביל שימושים מסוימים
• אולי היכולת שאנחנו משתמשים בה היום תעבור מאחורי מסלול יקר יותר
• ואולי פשוט יהיו כמה שעות או ימים שבהם השירות לא זמין

הבעיה היא לא רק Vendor Lock-in

יש כאן סוג נוסף של תלות, ולדעתי הוא אפילו יותר מעניין: Capability Lock-in.

נניח שפעם היו בעסק שלושה עובדים שביצעו תהליך מסוים. הם הכירו את הלקוחות. הם הכירו את החריגים. הם ידעו למה התהליך בנוי כמו שהוא בנוי. הם ידעו לזהות שמשהו לא מרגיש נכון, גם אם אף כלל כתוב לא אמר את זה.

עכשיו בנית Agent שעושה את רוב העבודה. מעולה. אבל אחרי שלוש שנים אף אחד בחברה כבר לא באמת יודע לבצע את התהליך. לא כי פיטרת בהכרח את כולם, אלא כי הפסקת לפתח את היכולת הזאת אצל בני אדם. לאט לאט הידע עבר מהארגון אל המערכת.

העסק עדיין בבעלותך. הנתונים בבעלותך. אולי אפילו הקוד בבעלותך. אבל היכולת להפעיל, להבין או לבקר את התהליך כבר לא באמת נמצאת אצלך. וזו תלות מסוג אחר לגמרי.

אותו דבר נכון לפיתוח תוכנה

אני לא חושב שמנהל עסק צריך לדעת לקרוא כל שורת קוד. גם מנכ"ל של חברת תוכנה לא עושה את זה. אבל אם מערכת מסוימת הפכה לתשתית קריטית של העסק, מישהו צריך להבין אותה ברמה מספקת. לא כל function ולא כל query, אבל כן:

"AI כתב את זה" לא מבטל את האחריות הזאת.

• מה הארכיטקטורה
• איפה המידע
• מי מקבל הרשאות
• אילו ספקים חיצוניים מעורבים
• מהן נקודות הכשל
• איך משחזרים
• איך עוצרים
• מה קורה אם אדם מסוים עוזב
• ומהם הסיכונים שאנחנו מקבלים על עצמנו

וזה מחזיר אותי ל-Build vs. Buy

AI גורם לנו לשאול יותר ויותר: למה לשלם על מערכת אם אפשר לבנות אותה? אבל לדעתי זו לא השאלה הנכונה. השאלה היא: האם זאת בעיה שאני רוצה להיות הבעלים שלה?

אפשר לבנות מערכת דיוור. אבל האם אני רוצה להיות אחראי גם על Deliverability, חסימות, הסרות, תלונות ספאם, מוניטין של דומיינים, אבטחה ושינויים אצל ספקי המייל? אפשר לבנות Authentication, אבל האם זה התחום שבו אני רוצה להמציא מחדש פתרון שכבר נבנה ונבדק במשך שנים? אפשר לבנות סליקה, אבל למה בדיוק אני רוצה להפוך גם לחברת תשתיות תשלום?

אפשר לבנות כמעט הכול. אבל "אפשר" ו"כדאי" הן שתי שאלות שונות. ה-AI הוריד בצורה דרמטית את מחיר כתיבת הקוד. הוא לא ביטל את מחיר הבעלות על הקוד:

וכל אלה ממשיכים להתקיים גם אם הפיצ'ר עצמו נכתב בפרומפט אחד.

• תחזוקה
• אבטחה
• רגולציה
• בדיקות
• ניטור
• שינויים
• אחריות

אולי המודל הנכון הוא בכלל לא פחות אנשים

הרבה מהשיח סביב AI מתמקד בשאלה כמה עובדים אפשר להחליף. אני לא בטוח שזו השאלה שתבדיל בין העסקים החזקים לחלשים. אני חושב שהעסקים החזקים של עידן ה-AI יהיו אלה שבהם לכל עובד יש יכולת הרבה יותר גדולה.

כלומר לא AI במקום העסק, אלא AI כמכפיל כוח של העסק.

וכן, יהיו תפקידים שייעלמו. יהיו תהליכים שלא תהיה שום סיבה שאדם יבצע. ויהיו גם חברות שיפעלו כמעט לחלוטין באמצעות Agents. אבל אם אני בונה עסק שאמור להתקיים עוד עשר או עשרים שנה, אני רוצה שהיתרון שלו יישאר בתוך העסק. בידע, בתהליכים, במערכות, בקשרים עם הלקוחות וביכולת לקבל החלטות. ולא רק במודל AI שאני משלם עליו לפי מיליון טוקנים.

• עובד שירות שמסוגל לנהל פי שלושה לקוחות
• מנהל פרויקט שמקבל בזמן אמת את המידע שהוא צריך
• איש מכירות שלא מבזבז שעות על עדכון CRM
• מתכנת שעושה עבודה שבעבר הייתה דורשת צוות
• מנהל שלא צריך לרדוף אחרי עשרה אנשים כדי לדעת מה קורה

Human in the Loop? לא תמיד. Human in Control? כן

אני גם לא חושב שצריך אדם בתוך כל תהליך. אם AI יכול לבצע פעולה אלף פעמים ביום בצורה טובה יותר מאדם, אין שום היגיון שאדם יאשר ידנית כל פעולה.

אבל יש הבדל בין Human in the Loop לבין Human in Control. אני לא חושב שאנחנו צריכים לשמור אדם בתוך כל תהליך. אני כן חושב שאנחנו צריכים לשמור אדם בשליטה על כל תהליך קריטי:

• מישהו צריך לדעת מה ה-AI עושה
• מה מותר לו לעשות
• מה אסור לו לעשות
• מתי הוא נעצר
• איך מזהים שהוא טועה
• ואיך ממשיכים כשהוא לא זמין

אז מה זה בעצם AI First?

בעיניי AI First אומר שבכל מקום שבו AI יכול לחסוך עבודה, להגדיל יכולת או לשפר החלטות, משתמשים בו.

AI Only הוא משהו אחר. לא עסק שמשתמש בהרבה AI, אלא עסק שיוצר תלות קריטית ב-AI בלי חלופה, בלי יכולת פיקוח ובלי מספיק הבנה ארגונית של מה שה-AI עושה עבורו.

וזה הגבול שמעניין אותי. כי בעולם שבו כמעט כולם ידעו להשתמש ב-AI, היכולת החשובה לא תהיה רק לדעת מה להעביר אליו. אולי היכולת החשובה באמת תהיה לדעת מה כדאי לתת לו לעשות לבד, מה אנחנו חייבים עדיין להבין, ועל אילו יכולות אסור לעסק לוותר לחלוטין.

אז הנה מבחן שאני חושב ששווה לכל בעל עסק לעשות: אם מחר כלי ה-AI המרכזי שעליו בניתם את העסק נעלם לשבוע, מה קורה? ואולי אפילו לא צריך שהוא ייעלם. אם מחר הוא עולה פי חמישה, משנה התנהגות, מפסיק לתמוך ביכולת שאתם צריכים או פשוט מתחיל לקבל החלטות פחות טובות, אתם יודעים מה לעשות?

אם כן, כנראה בניתם עסק שמשתמש ב-AI. אם התשובה היא "נשאל את ה-AI", אולי הגיע הזמן לבדוק אם בנינו יעילות או פשוט סוג חדש של תלות.