Terence Tao: AI som löser problem för snabbt kan "förgifta" matematik

Terence Tao är den typen av matematiker som har ägnat flera år åt att i tysthet prova nya AI-verktyg och öppet berömma de bra. Men efter att GPT-6 Astra skickades skrev han något som få människor förväntade sig av honom: om neurala nätverk börjar dela ut svar på de stora öppna problemen för snabbt och utan en transparent process, kan matematiken förlora mer än den vinner. Utlösaren var ett konkret resultat - OpenAI:s nya modell hävdade framsteg på twin prime-problemet.

Först fakta. GPT-6 Astra, enligt OpenAI, använde formella bevis i Lean för att krympa den övre gränsen för gapet mellan på varandra följande primtal från 246 till 186. För skala: 2013 bevisade Yitang Zhang att det finns oändligt många par av primtal som inte är mer än 70 miljoner från varandra. James Maynard, som vann Fields-medaljen 2022, sänkte gränsen till 600, och samhället klämde senare ner den till 246. Nu rapporterade tre labb nya siffror på en gång: OpenAI på 186, Anthropic på 188, Axiom på 212.

På ytan, anledning till att fira. Tao såg något annat - ett varningstecken.

Svaret är inte den mest värdefulla delen

Taos kärnpunkt låter nästan paradoxalt: ett stort öppet problem är värdefullt inte för sitt svar utan för vägen dit. När matematiker kämpar mot ett problem i flera år uppfinner de nya metoder, koncept och hela teorier längs vägen - och dessa "biprodukter" är det som faktiskt för vetenskapen framåt. Även återvändsgränder är användbara: att förstå varför ett tillvägagångssätt misslyckades är ofta viktigare än att hitta lösningen.

Föreställ dig nu att svaret kommer från ett neuralt nätverk. Snabb, en svart låda, inga mellansteg visas. Problemet är formellt löst - men processen som var tänkt att generera nya idéer inträffade aldrig. Tao kallar detta för att "förorena" problemet: det slutar vara en källa till framtida upptäckter.

Navier-Stokes-exemplet

Tao utvecklar sitt argument om ett konkret fall - det globala regelbundenhetsproblemet för Navier-Stokes ekvationer, ett av de sju millennieprisproblemen. Matematiker är redan ganska säkra på att svaret är negativt: det finns initiala förhållanden där lösningen "spränger" i ändlig tid. Det finns till och med en plan i fyra steg, från att bygga en ungefärlig självliknande lösning till att verifiera dess stabilitet.

Haken är att varje steg är brutalt svårt för en människa men passar perfekt på ett löpande band av "maskininlärning + rigorös aritmetik + formella bevis." Tao tillåter att en sådan hybrid verkligen kan lösa problemet. Och här är rubbet: om lösningen visar sig så komplex att ingen människa kan förstå den, och företaget som driver AI:n gömmer hela processen bakom stängda dörrar, får matematiken en kryssruta men lär sig nästan ingenting.

Varför detta betyder mer än matematiker

Taos logik är bredare än den ser ut. Det gäller alla fält där värde skapas i processen, inte i det slutliga svaret. Om AI omedelbart börjar producera "korrekta" lösningar och människor slutar gå på försök och misstag, riskerar vi att förlora inte fart utan förståelse. Tao uttrycker det rakt på sak: i värsta fall kan AI:s inflytande på matematik vända från positivt till negativt.

Han är inte emot AI inom vetenskapen – långt ifrån, han är en av dess mest aktiva användare. Det som oroar honom är ett specifikt scenario: ett autonomt system som snurrar hela "hypotesen - testa - förkasta"-cykeln i sig själv, med enorma beräkningar, och bara delar ut det slutliga svaret. Inga spår, inga utkast, inget sätt att lära av sina misstag.

Vad kommer härnäst

För nu är detta en varning, inte en dom. GPT-6 Astra krympte gränsen till 186, men själva twin prime gissningen – att det finns oändligt många sådana par – är fortfarande obevisad. Detta är ett mellanresultat, men anmärkningsvärt. Frågan som Tao ställer går djupare: hur man får AI att påskynda vetenskapen utan att urholka den. Han har inget svar än - och ärligt talat, ingen annan heller.

Källa: 量子位 (QbitAI): 陶哲轩吐槽GPT-6孪生素数新突破.