Back to Blog
AI12 min read

Behind the Scenes of AI: How Word Guessing Becomes Intelligence

How language models like Claude and ChatGPT really work. Token prediction, context windows, and hallucinations explained for business owners.

JOYO Digital·

רגע, מה בעצם קורה כשאתם שואלים את Claude שאלה?

בואו נתחיל מההתחלה. כשאתם פותחים את Claude, ChatGPT, או כל מודל שפה אחר, וכותבים לו "תכתוב לי מייל ללקוח" – מה בעצם קורה שם? איך תוכנה שיושבת על שרת יודעת לכתוב משפטים שנשמעים כאילו בן אדם כתב אותם?

Enjoying this? There's more where this came from.

Practical guides, new tools, and AI & digital tips — straight to your inbox, once a week. Never miss a thing.

התשובה הקצרה: היא לא יודעת. לפחות לא במובן שבו אנחנו מבינים את המילה "לדעת". מה שהיא כן עושה זה משהו אחר לגמרי, ודווקא ההבנה של מה זה "אחר לגמרי" היא מה שיהפוך אתכם ממשתמשים מזדמנים למשתמשים שמפיקים מהכלי הזה פי עשר.

במאמר הזה נפרק את שלושת המושגים הכי חשובים שצריך להכיר כדי להבין איך AI עובד באמת – ולמה זה משנה לכם בתור בעלי עסקים.

מושג ראשון: חיזוי המילה הבאה (Next Token Prediction)

הרעיון הבסיסי

דמיינו שאתם משחקים משחק. מישהו אומר לכם: "היום בבוקר שתיתי כוס ____". מה המילה שהכי סביר שתבוא? כנראה "קפה", נכון? אולי "תה". בטח לא "מברג" או "שולחן".

עכשיו דמיינו שיש לכם מישהו שקרא כל ספר, כל מאמר, כל אתר אינטרנט, כל פורום, כל מייל שפורסם אי פעם – ועל בסיס כל הטקסט הזה הוא מסוגל לחשב בדיוק מתמטי מה ההסתברות של כל מילה אפשרית להופיע אחרי כל רצף מילים. זה בדיוק מה שמודל שפה עושה.

איך זה עובד בפועל?

כשאתם שואלים את Claude "מה ההבדל בין שיווק דיגיטלי לשיווק מסורתי?", הוא לא הולך למאגר ושולף תשובה מוכנה. במקום זאת, הוא מתחיל לבנות את התשובה מילה-אחר-מילה:

  1. הוא קורא את השאלה שלכם
  2. הוא מחשב: מה המילה הראשונה שהכי סביר שתופיע בתשובה טובה? נגיד "שיווק"
  3. עכשיו הוא מחשב: אחרי "שיווק", מה המילה הבאה? "דיגיטלי"
  4. אחרי "שיווק דיגיטלי" – מה עכשיו? "מתמקד"
  5. וככה הלאה, מילה אחרי מילה, עד שהוא מסיים את התשובה

כל חיזוי כזה נקרא token – יחידה של טקסט (בדרך כלל מילה או חלק ממילה). ומכאן השם: Next Token Prediction – חיזוי הטוקן הבא.

למה זה עובד כל כך טוב?

כי הכמות של טקסט שהמודל "למד" ממנו היא עצומה. אנחנו מדברים על טריליוני מילים. כשלמדת מכל הידע האנושי הכתוב, אתה מפתח "תחושה" סטטיסטית מדהימה לגבי איזה משפטים הגיוניים ואיזה לא, איך בני אדם מסבירים דברים, ואיך תשובות טובות נראות.

דוגמה מעשית: כשאתם מבקשים "תכתוב מייל מקצועי ללקוח שמתלונן על איחור באספקה", המודל לא "מבין" מה זה לקוח כועס. אבל הוא קרא אלפי דוגמאות של מיילים מקצועיים שנכתבו במצבים דומים, והוא יודע שאחרי "אנו מתנצלים" בדרך כלל מגיע "על אי הנוחות" ולא "על מזג האוויר". התוצאה? מייל שנשמע מקצועי ואמפתי, למרות שאף אחד "לא הרגיש" שם כלום.

האנלוגיה שתעזור לכם להבין

חשבו על זה כמו שף מנוסה. שף שבישל אלפי ארוחות לא צריך לעצור ולחשוב "כמה מלח לשים". הידיים שלו פשוט יודעות. הוא לא באמת "מבין" כימיה של אוכל – אבל הניסיון האדיר שלו יוצר אינטואיציה שנראית כמו הבנה עמוקה. מודל שפה עובד באותו עיקרון, רק עם מילים במקום תבלינים.

מושג שני: חלון ההקשר (Context Window)

הזיכרון לטווח קצר של AI

עכשיו שהבנו שהמודל מנחש מילה-אחר-מילה, עולה שאלה קריטית: על בסיס מה הוא מנחש? התשובה היא חלון ההקשר – כמות המידע שהמודל יכול "להחזיק בראש" בזמן נתון.

חשבו על זה ככה: אתם בפגישה עם לקוח. אם יש לכם את כל ההיסטוריה שלו – מה הוא קנה בעבר, מה הוא שאל, מה הבעיות שלו – תוכלו לתת לו תשובה מדויקת ורלוונטית. אם אתם פוגשים אותו בלי שום רקע, התשובות שלכם יהיו כלליות ופחות מועילות.

בדיוק ככה עובד חלון ההקשר של AI.

מה נכנס לחלון ההקשר?

כל מה שנמצא בשיחה הנוכחית:

  • ההודעה שלכם (השאלה או הבקשה)
  • כל ההודעות הקודמות בשיחה
  • הנחיות מערכת (System Prompt) – הוראות שמגדירות איך המודל צריך להתנהג
  • קבצים שהעלתם (מסמכים, תמונות, קוד)
  • תוכן של דף אינטרנט שאתם גולשים בו (אם אתם משתמשים בתוסף לדפדפן)

למה הגודל חשוב?

למודלים שונים יש חלונות הקשר בגדלים שונים. Claude של Anthropic, למשל, תומך בחלון של 200,000 טוקנים – זה בערך 500 עמודים של טקסט. המשמעות? אתם יכולים להעלות לו מסמך שלם של 100 עמודים ולשאול עליו שאלות, והוא "יחזיק" את כל המסמך בראש.

דוגמה מעשית: נניח שאתם רוצים שקלוד יכתוב לכם תוכן שיווקי. אם תגידו לו "תכתוב פוסט על העסק שלי" – התוצאה תהיה כללית וגנרית. אבל אם תיתנו לו הקשר: "אני מנהל מספרה בתל אביב, הקהל שלי הוא נשים בגילאי 25-45, הייחוד שלי הוא שימוש במוצרים אורגניים בלבד, הנה 3 ביקורות של לקוחות מרוצים" – עכשיו המודל ינחש מילים הרבה יותר רלוונטיות, כי ההקשר שלו עשיר יותר.

הכלל הזהב: יותר הקשר = תוצאות טובות יותר

זו אחת הטעויות הנפוצות ביותר בשימוש ב-AI. אנשים שואלים שאלות קצרות ומצפים לתשובות מושלמות. אבל זה כמו ללכת לרופא ולהגיד "כואב לי" בלי לציין איפה, מתי התחיל, ומה עושה את זה יותר גרוע. ככל שתספקו יותר הקשר, ככה התשובה תהיה מדויקת יותר.

זו בדיוק הסיבה שכשעובדים עם Claude Code, למשל, הוא עובד ישירות על הקבצים שלכם – כי ככה יש לו את כל ההקשר של הפרויקט, לא רק מה שאתם מספרים לו.

מושג שלישי: הזיות (Hallucinations)

כשהניחוש הסטטיסטי טועה

עכשיו שהבנו את שני המושגים הראשונים, המושג השלישי הופך להגיוני לגמרי. הזיה (Hallucination) היא מצב שבו המודל ממציא מידע בביטחון מלא – כאילו זו עובדה מוכחת.

למה זה קורה? בגלל שהמודל לא באמת "יודע" דברים. הוא מנחש מילים. ואם הסטטיסטיקה אומרת שהמשפט "הספר 'חשיבה מהירה ואיטית' נכתב על ידי דניאל כהנמן ופורסם בשנת 2011" נשמע הגיוני – הוא יכתוב את זה, בין אם זה נכון (במקרה הזה כן) או לא.

דוגמאות קלאסיות של הזיות

  • המצאת מקורות: "לפי מחקר של אוניברסיטת סטנפורד משנת 2023..." – כשהמחקר הזה לא קיים. המודל יודע שציטוט מאוניברסיטה מכובדת נראה אמין, אז הוא "ממציא" אחד.
  • עובדות שגויות: "בנימין נתניהו נולד בתל אביב" – נשמע סביר, אבל הוא נולד בירושלים. המודל ניחש את העיר שסטטיסטית הכי מתחברת עם ישראל.
  • קישורים שבורים: "תוכלו למצוא מידע נוסף בקישור הבא: [URL שלא קיים]" – המודל יודע שתשובות טובות כוללות קישורים, אז הוא ייצר אחד שנראה אמיתי.

למה הזיות קורות דווקא כשחסר הקשר?

זוכרים את חלון ההקשר? כשיש למודל מספיק מידע רלוונטי, הסטטיסטיקה שלו מדויקת כי הוא מנחש על בסיס עובדות אמיתיות שנמצאות מולו. אבל כשאין לו מידע – הוא לא אומר "אני לא יודע". במקום זאת, הוא ממשיך לנחש, וכאן הניחוש הסטטיסטי יכול להפוך מ"תבנית הגיונית" ל"בדיה משכנעת".

דוגמה מעשית: אם תשאלו את Claude "מה שעות הפתיחה של מספרת דנה ברחוב הרצל 15 בתל אביב?" – אין לו שום דרך לדעת את זה. אבל הסטטיסטיקה אומרת שמספרות פתוחות בדרך כלל בימים א-ה, 9:00-19:00, שישי 9:00-14:00. אז הוא עלול לתת את השעות האלה בביטחון מלא – למרות שהמציא אותן.

איך מתמודדים עם הזיות?

  1. תמיד תבדקו עובדות קריטיות. אם המודל נותן לכם מספר טלפון, תאריך, ציטוט, או שם של מישהו – תוודאו שזה נכון לפני שאתם משתמשים בזה.
  2. בקשו מקורות ותבדקו אותם. אם תבקשו מהמודל לצרף מקורות, לפחות תוכלו לבדוק אם הם קיימים.
  3. ספקו הקשר. אם אתם שואלים על נושא ספציפי, תנו למודל את המידע הרלוונטי. העלו מסמך, הדביקו טקסט, תנו פרטים.
  4. השתמשו ב-AI למה שהוא טוב בו. AI מעולה ביצירת תוכן, סיכום, עריכה, רעיונות, ותבניות. הוא פחות אמין כשמדובר בעובדות ספציפיות שלא סיפקתם לו.

איך מחברים את הכל: המודל המנטלי לעבודה נכונה עם AI

עכשיו שהבנו את שלושת המושגים, אפשר לבנות מודל מנטלי פשוט:

  1. המנוע – המודל מנחש מילים על בסיס סטטיסטיקה (Next Token Prediction)
  2. הדלק – ההקשר שאתם מספקים הוא מה שמכוון את הניחוש (Context Window)
  3. תופעת הלוואי – כשאין מספיק דלק, המנוע ממשיך לעבוד אבל עלול לייצר שטויות (Hallucinations)

או בפשטות:

הקשר טוב + שימוש נכון = תוצאות מדהימות

הקשר חסר + ציפיות לא מכוילות = אכזבה ובעיות

טיפים מעשיים לבעלי עסקים

1. תחשבו על AI כעובד חדש ומוכשר

עובד חדש שמגיע לעבודה ביום הראשון – אפילו אם הוא גאון – צריך הכשרה. הוא צריך לדעת מי הלקוחות, מה הסגנון של החברה, מה עשו בעבר. ככה בדיוק צריך להתייחס ל-AI. תנו לו הקשר, הדריכו אותו, ואל תצפו שידע הכל לבד.

2. תתחילו עם משימות בסיכון נמוך

אל תתחילו מכתיבת חוזים משפטיים. תתחילו מטיוטות מיילים, רעיונות לתוכן, סיכומי פגישות. תלמדו את הכלי, תבינו את החוזקות והחולשות שלו, ואז תרחיבו בהדרגה.

3. תמיד תבדקו את הפלט

AI הוא כלי, לא מומחה. הפלט שלו הוא טיוטה ראשונה, לא מוצר מוגמר. תקראו, תערכו, ותוודאו שהמידע נכון לפני שאתם שולחים ללקוחות.

4. תנסו שוב עם ניסוח אחר

אם התשובה לא טובה, לפני שאתם מוותרים – נסחו את השאלה אחרת. הוסיפו פרטים, שנו את הזווית, תנו דוגמה למה שאתם רוצים. לפעמים שינוי קטן בבקשה יוצר שינוי דרמטי בתוצאה.

השורה התחתונה

AI הוא לא קסם ולא מוח אלקטרוני. הוא מכונת ניחוש מילים מתוחכמת להפליא, שעובדת הכי טוב כשנותנים לה הקשר מדויק ובודקים את הפלט שלה. ההבנה הזו היא מה שמבדיל בין מי שנכזב מ-AI ("זה לא עובד") לבין מי שמשתמש בו בכל יום כדי לחסוך שעות ולייצר ערך אמיתי לעסק.

ואם אתם רוצים ללמוד איך להשתמש בכלים האלה בצורה מעשית – בדיוק בשביל זה יש לנו סדנאות AI. לא תיאוריה יבשה, אלא עבודה מעשית עם הכלים, בדיוק על הבעיות של העסק שלכם.

Want more content like this?

Every week we send practical AI tips, new tools, and strategies that work — straight to your inbox, no spam.

100% FreeUnsubscribe anytimeNo spam

At JOYO Digital we help businesses grow with AI and digital:

Hands-on AI Workshops
Websites + CRM
Digital Marketing
Tech Consulting