Terence Tao: AI שפותר בעיות מהר מדי עלול "להרעיל" את המתמטיקה
Terence Tao הוא מסוג המתמטיקאים שבילה שנים בניסיון בשקט של כלי AI חדשים והשבחים בגלוי את הטובים שבהם. אבל אחרי ש-GPT-6 Astra נשלח, הוא כתב משהו שאנשים מעטים ציפו ממנו: אם רשתות עצביות יתחילו לחלק תשובות לבעיות הפתוחות הגדולות מהר מדי וללא תהליך שקוף, המתמטיקה עלולה להפסיד יותר ממה שהיא מרוויחה. הטריגר היה תוצאה קונקרטית - המודל החדש של OpenAI טען להתקדמות בבעיית התאום פריים.
ראשית, העובדות. GPT-6 Astra, לפי OpenAI, השתמש בהוכחות רשמיות ב-Lean כדי לכווץ את הגבול העליון של הפער בין ראשוניים עוקבים מ-246 ל-186. לקנה מידה: בשנת 2013, Yitang Zhang הוכיח שיש אינסוף זוגות ראשוניים במרחק של לא יותר מ-70 מיליון זה מזה. ג'יימס מיינארד, שזכה במדליית פילדס ב-2022, הוריד את הגבול הזה ל-600, והקהילה צמצמה אותו מאוחר יותר ל-246. כעת שלוש מעבדות דיווחו על מספרים חדשים בבת אחת: OpenAI ב-186, Anthropic ב-188, Axiom ב-212.
על פני השטח, סיבה לחגיגה. טאו ראה משהו אחר - תמרור אזהרה.
התשובה היא לא החלק הכי חשוב
נקודת הליבה של טאו נשמעת כמעט פרדוקסלית: בעיה פתוחה גדולה היא בעלת ערך לא עבור התשובה שלה אלא עבור הדרך אליה. כאשר מתמטיקאים נלחמים בבעיה במשך שנים, הם ממציאים שיטות חדשות, מושגים ותיאוריות שלמות לאורך הדרך - ו"תוצרי הלוואי" הללו הם מה שבעצם מזיזים את המדע קדימה. אפילו מבוי סתום מועיל: ההבנה מדוע גישה נכשלה חשובה לעתים קרובות יותר מאשר מציאת הפתרון.
עכשיו דמיינו שהתשובה מגיעה מרשת עצבית. מהיר, קופסה שחורה, ללא שלבי ביניים מוצגים. הבעיה נפתרה רשמית - אבל התהליך שהיה אמור לייצר רעיונות חדשים מעולם לא התרחש. טאו קורא לזה "מזהם" את הבעיה: זה מפסיק להיות מקור לתגליות עתידיות.
הדוגמה של Navier-Stokes
טאו מגולל את הטיעון שלו על מקרה קונקרטי - בעיית הסדירות העולמית של משוואות Navier-Stokes, אחת משבע בעיות פרס המילניום. מתמטיקאים כבר די בטוחים שהתשובה שלילית: קיימים תנאים ראשוניים שבהם הפתרון "מתפוצץ" בזמן סופי. יש אפילו תוכנית בת ארבעה שלבים, החל מבניית פתרון דומה עצמי משוער ועד לאימות יציבותו.
הקאץ' הוא שכל שלב קשה באכזריות לאדם אבל מתאים באופן מושלם לפס הייצור של "למידת מכונה + חשבון קפדני + הוכחות צורניות". טאו מאפשר שהכלאה כזו עשויה לפתור את הבעיה באמת. והנה העניין: אם הפתרון יתברר כל כך מורכב שאף אדם לא יכול לתפוס אותו, והחברה שמנהלת את ה-AI מסתירה את כל התהליך מאחורי דלתות סגורות, המתמטיקה מקבלת תיבת סימון אבל לא לומדת כמעט כלום.
למה זה חשוב מעבר למתמטיקאים
ההיגיון של טאו רחב יותר ממה שהוא נראה. זה חל על כל תחום שבו נוצר ערך בתהליך, לא בתשובה הסופית. אם בינה מלאכותית תתחיל לייצר באופן מיידי פתרונות "נכונים" ואנשים יפסיקו ללכת בדרך של ניסוי וטעייה, אנו מסתכנים לאבד לא מהירות אלא הבנה. טאו מנסח זאת בבוטות: במקרה הגרוע, ההשפעה של בינה מלאכותית על מתמטיקה עלולה להפוך מחיובית לשלילה.
הוא לא נגד AI במדע - רחוק מכך, הוא אחד המשתמשים הפעילים ביותר שלה. מה שמדאיג אותו הוא תרחיש ספציפי: מערכת אוטונומית שמסובבת את כל מחזור ה"השערה - מבחן - דחייה" בתוך עצמה, במחשוב עצום, ומחלקת רק את התשובה הסופית. אין עקבות, אין טיוטות, אין דרך ללמוד מהטעויות שלו.
מה מגיע אחר כך
לעת עתה זו אזהרה, לא פסק דין. GPT-6 Astra אמנם כיווץ את הגבול ל-186, אבל השערת התאום פריים עצמה - שיש אינסוף זוגות כאלה - נותרה בלתי מוכחת. זוהי תוצאת ביניים, אך בולטת. השאלה שמעלה טאו עמוקה יותר: איך לגרום לבינה מלאכותית להאיץ את המדע מבלי לחלחל אותו. אין לו עדיין תשובה - ובכנות, גם לאף אחד אחר.
מָקוֹר: 量子位 (QbitAI): 陶哲轩吐槽GPT-6孪生素数新突破.