שרשרת מחשבה - לתת למודל “לחשוב בקול”

מודלי שפה הצטיינו ביכולות לשוניות, אבל התקשו במשימות הדורשות היגיון וחישוב - בעיות כפל, חידות היגיון, בעיות מילוליות. כשהיו נשאלים ישירות, הם לעתים קפצו ישר לתשובה בלי "עקבות" - ובתשובות אריתמטיות רבות נכשלו, למרות הנתונים העצומים שעליהם אומנו.

הרעיון של Chain-of-Thought (CoT) הוא פשוט אבל עוצמתי: במקום לבקש מהמודל לתת תשובה ישירה, מבקשים ממנו לכתוב את צעדי ההיגיון (שרשרת מחשבה) לפני שמגיעים לתשובה הסופית. על ידי מתן דוגמה אנלוגית שבה המודל רואה מחשבה שלבים מפורטת, הוא לומד לייצר מסלול היגיון דומה.

אנלוגיה: אסור לתלמיד לכתוב רק את התשובה הסופית בתרגיל בגיאומטריה - צריך להראות את כל ההוכחה. לא רק שהגישה עוזרת למורה לבדוק, היא גם עוזרת לתלמיד עצמו לגלות טעויות, כי הוא נוהג על פני הבעיה בשלבים.

הטכניקה היא טכניקת prompt: מרכיבים כמה דוגמאות שבכל אחת רואים "שלבי מחשבה" כתובים בפירוט ביחד עם התשובה. כשמשארים שאלה חדשה ומבקשים "חשוב צעד אחר צעד", המודל מחקה את הדפוס. המפתח הוא שהמודל לא רק עונה, אלא כותב את כל הצעדים האמצעיים על הנייר (במסמך), מה שמאפשר לו לקשר בין שלבים ולבטל טעויות באמצע.

CoT עובד במיוחד כשמשוים אותו עם היכולות של תשומות ה-prompt (דוגמאות מעטות). כשיש למודל דוגמה של מחשבה, הוא מצליח להעביר את אותה אסטרטגיה למשימה חדשה - אפקט שלא נראה במודלים קטנים, אלא בעיקר במודלים גדולים מספיק (אפקט "emergent").

CoT הביא שיפור עצום במגוון משימות הדורשות היגיון. לדוגמה, בבעיות אריתמטיות ומשימות חישוב, המודל עם CoT התעלה משמעותית על אותו המודל בלי CoT כשהמודל היה גדול מספיק. השיפורים נראו גם בבעיות סימבוליות והיגיון. המסר: לא רק הגודל של המודל משנה - גם הדרך שבה שואלים אותו.

CoT פתח את התחום של "reasoning prompting" - הבנה שהאלגוריתם של ה-prompt יכול לחשוף יכולות חדשות של מודל. הוא הוביל לפיתוח טכניקות עוקבות רבות (Self-Consistency, Tree of Thoughts), ולבסוף למודלים שמעסיקים "חשיבה ממושכת" בפועל - כמו מודלי reasoning מתקדמים. הוא הדגים שהדרך שבה מתקשרים עם מודל היא חלק בלתי נפרד מהיכולות שלו.

CoT לא תמיד משפר את התוצאות; בחלק מהמשימות הוא לא תורם או אפילו מזיק. הוא תלוי באיכות הדוגמאות, ולמודלים קטנים הוא לא נתן את אותו אפקט. "חשיבה" המדוברת היא בעצם השלמת טקסט, לא היגיון אמיתי מובטח - המודל יכול להמציא שלבים שגויים. המסר "אם מבקשים לכתוב את המחשבה, יש חובה להאמין שהמחשבה נכונה" עדיין אינו מובטח.

• בקשה לתשובה "שלבים אחר שלבים" משפרת מודלים גדולים.
• CoT יעיל בעיקר כשמספקים דוגמאות מחשבה מפורטות.
• האפקט מתגבר ככל שהמודל גדול יותר (emergent).
• פתח את התחום רחב של טכניקות reasoning prompting.