ג'יפיטי-3 - מודל שפה ענק של למידה עם דוגמאות בודדות

מודלי שפה קודמים (כמו GPT-2) נבנו על עיקרון פשוט: לחזות את המילה הבאה בטקסט. אבל כדי לבצע משימה ספציפית (כתיבה, שאלות, סיווג), היה צריך "לכוונן" (fine-tune) את המודל על סט נתונים ייעודי - תהליך יקר שנדרש לצורך כל משימה חדשה, ובו זמנית דורש נתונים מתויגים. המעבר בין משימה למשימה היה איטי ויקר.

הרעיון של GPT-3 מבוסס על "Few-shot learning דרך prompt": במקום לכוונן את המודל לכל משימה, נותנים לו בטקסט הקלט (prompt) כמה דוגמאות של המשימה, והוא ממשיך את הדפוס בעצמו. לדוגמה, כדי ללמד אותו סיווג, כותבים כמה זוגות של "דוגמה → תשובה", ואז נשאל שאלה חדשה. המודל משלים את התשובה.

זה עבד הודות לגודל הענק של המודל: עם כמות הפרמטרים הכפופה, המודל ספג כל כך הרבה דפוסים לשוניים עד שיכל ליישם משימה חדשה על סמך דוגמאות ספורות שנטבעו ב-prompt. זה כמו לתת למתרגם מנוסה מאוד שלוש דוגמאות כדי להבין את החוק - והוא מבין.

GPT-3 הוא ארכיטקטורת decoder בלבד של Transformer, מאומן על חיזוי המילה הבאה. החידוש העיקרי אינו במבנה אלא בגודל: מודל עם כ-175 מיליארד פרמטרים, מאומן על מבחר ענק של טקסטים מהאינטרנט, ספרים וטקסטים טכניים.

במטרה להדגים את היכולת, המחברים בדקו שלוש רמות של "דוגמאות": Zero-shot (ללא דוגמאות, רק תיאור המשימה), One-shot (דוגמה אחת) ו-Few-shot (עד כמה עשרות דוגמאות בטקסט). המסקנה: ככל שמוסיפים דוגמאות, הביצועים עולים - והיכולת הזו הופיעה כפונקציה של גודל המודל.

GPT-3 הדגים ביצועים טובים במגוון רחב של משימות - שאלות, כתיבה יצירתית, סיכום, תרגום, ניסוח קוד ועוד - לעתים קרובות מבלי שבוצע שום כוונון נוסף. בחלק מהבדיקות הוא התקרב למודלים שעברו כוונון ייעודי, והשיפור עם משעורי Few-shot היה עקבי. זה הדגים שקנה המידה מביא ליכולות חדשות שאינן קיימות במודלים קטנים.

GPT-3 חיזק את המגמה של "מודל אחד שמשרת משימות רבות" במקום להדביק מודלים נפרדים. זה הוביל למושג תבנית ה-prompt וה-Few-shot כפרדיגמת שימוש מרכזית. הוא גם הפך את הציבור הרחב לגורם משמעותי בחיים הציבוריים באמצעות מוצרים כמו ChatGPT ויישומים מבוססי API, והצית את מרוץ מודלי השפה הענקיים.

GPT-3 סובל מבעיות של עקביות, התבדות (המצאות שקריות), והשחתת הטיית נתונים. הוא גם יקר מאוד לאימון ולהפעלה. לא היתה לו שליטה אמינה על תוכן, מה שהוביל מאוחר יותר לצורך בשיטות יישור (alignment) כמו RLHF. ככל שהמודל גדל, כך התגברו שאלות האתגרים האתיים והפרקטיים סביב שימוש בשפה.

• GPT-3 הראה שכמו מטבעות, גם ב-LLM גודל משנה - קנה מידה מביא יכולות.
• Few-shot learning דרך prompt מאפשר משימות ללא כוונון.
• המודל בקנה מידה ענק (כ-175 מיליארד פרמטרים).
• הניח את תשתית עידן המודלים הענקיים ומוצרי ה-AI הציבוריים.