Hea õpetaja lähtub sellest, kus õpilane parasjagu on
Uus enesedestilleerimise meetod, mis treenib õpetajat ja õpilast koos, et parandada mudeli jõudlust ja treenimise tõhusust keerukates arutlus- ja agentsetes ülesannetes.
Sissejuhatus
Stiimulõpet (RL) kasutatakse laialdaselt keelemudelite järeltreenimisel, et parandada nende võimekust keerukates arutlusülesannetes ja pika horisondiga agentsetes ülesannetes.
Tüüpilises seadistuses teeb mudel ülesande lahendamiseks korduvaid katseid, saab iga katse eest tulemustasu ja õpib eelistama tegevusi, mida tehti kõrgema tasuga katsetes. Üksainus tulemustasu annab aga hõreda õppesignaali, mis ei erista, millised vahepealsed tegevused tulemust aitasid või kahjustasid. See hõredus piirab valimitõhusust, eriti keerukates agentsetes ülesannetes, kus katsed on pikad ja õnnestumised harvad.
Üks populaarne viis selle hõreduse leevendamiseks on poliitikasisene destilleerimine (On-Policy Distillation, OPD), mis kasutab tugevamat õpetajamudelit, et anda õpilase enda katsetele tokenhaaval juhiseid ja pakkuda seeläbi palju tihedamaid tasusid. Õpetamine on aga omaette oskus. Mudel, mis oskab ülesannet hästi lahendada, ei pruugi osata seda hästi õpetada, sest tema tagasiside võib ületada õpilase praeguseid võimeid. See annab põhjust treenida mitte ainult õpilast õpetajat jäljendama, vaid ka õpetajat andma õpilasele paremini sobivaid juhiseid.
Pakume välja ühe sellise meetodi: Joint On-policy Learning and Teaching (JOLT) ehk ühine poliitikasisene õppimine ja õpetamine. Tuginedes poliitikasisesele enesedestilleerimisele (On-Policy Self-Distillation, OPSD), kasutame üht mudelit kahes rollis: õpetajana, kellel on juurdepääs privilegeeritud teabele, näiteks kontrollitud lahendustele, ja õpilasena, kellel sellist juurdepääsu pole. Treenime mõlemat rolli koos. Õpilane järgib tavapärast destilleerimise eesmärgifunktsiooni. Õpetaja eesmärgifunktsioon paneb tema tagasiside nihutama õpilast samas suunas, kuhu viiks teda stiimulõpe õpilase enda tasu põhjal. Koos treenivad need eesmärgifunktsioonid õpetajat lähtuma õpilase praegusest tasemest ja aitavad õpilasel õppida juhistest, mis on talle jõukohased.
Meie katsed näitavad nii mudeli jõudluse kui ka treenimise tõhususe paranemist mitmesugustes matemaatilise arutlemise, programmeerimise ja agentsetes ülesannetes.
Hõredatest tasudest tiheda tagasisideni
Kõige lihtsamal kujul kasutab tulemustasuga stiimulõpe oodatava tulu eesmärgifunktsiooni:
Siin on trajektoor, mis järgib poliitikat , ja on selle trajektoori tulu. Vastav poliitikagradient on:
kus ja tähistavad vastavalt olekut ja tegevust ajasammul . Valimipõhiste hinnangute dispersiooni vähendamiseks väljendatakse gradienti sageli kujul:
kus eelis mõõdab tegevuse oodatavat lisatulu võrreldes praeguse poliitikaga olekus . Üks lähenemisviis, Group Relative Policy Optimization (GRPO), hindab eelist, võrreldes iga trajektoori tulu sama viiba jaoks genereeritud rühma keskmise tuluga.
Kuid isegi nende kohanduste korral kannatab tulemustasuga stiimulõpe hõreda juhendamise all, eriti keerukates ja pika horisondiga ülesannetes. Üha rohkem uurimistöid käsitleb seda probleemi, kasutades tihedama õppesignaali saamiseks täiendavaid teabeallikaid.
Poliitikasisene destilleerimine (OPD) on üks selline lähenemisviis. Selle asemel et õppida ainult lõpptasust, laseb OPD õpilasel trajektoore genereerida ja hindab iga valimisse võetud tegevust tugevama õpetaja abil. Õpetajapoliitika ja trajektooride genereerimiseks kasutatud õpilase parameetrite fikseeritud hetktõmmise korral on punktis arvutatud lokaalne gradient:
Siin on negatiivne pöörd-KL destilleerimise eesmärgifunktsioon. Õpetajapoliitika ja valimisse võetud prefiksid hoitakse diferentseerimise ajal fikseerituna. Õpetaja ja õpilase log-tõenäosuste suhe annab igas külastatud olekus tiheda õppesignaali, asendades eelise tegevustasandi kaaluna.
Poliitikasisene enesedestilleerimine (OPSD) kaotab lisaks vajaduse eraldi õpetajamudeli järele. Õpilaspoliitika toimib iseenda õpetajana, kui talle antakse privilegeeritud teavet, näiteks kontrollitud lahendus, tagasiside või võrdlusjälg. OPSD treenib aga õpilast ainult õpetajat jäljendama; puudub mehhanism, mis tagaks, et õpetaja annab õpilasele kasulikku signaali.
Ühine poliitikasisene õppimine ja õpetamine
JOLT laiendab OPSD-d, treenides ühist mudelit nii õpetajana, kes annab paremini sobivaid juhiseid, kui ka õpilasena, kes neist õpib. Paremini informeeritud õpetaja õpib tulemustasudest, kasutades õpilase suunas KL-regulariseerimist, samas kui privilegeeritud teabeta õpilane õpib õpetaja tihedast destilleerimissignaalist. Õpetaja uuendus kasutab õpetaja genereeritud katseid, õpilase uuendus aga õpilase genereeritud katseid, mida hindab õpetaja. JOLT+ täiendab õpilase destilleerimissignaali lisaks tulemustasudega.
Õpetaja treenimine
Määratleme, mida õpetaja peaks tegema
Õpetaja parem sooritus ei tähenda tingimata õpilasele kasulikke uuendusi. Õpetaja võib privilegeeritud teabe abil ära kasutada otseteid, mis pole õpilasele kättesaadavad, omistada suure tõenäosuse trajektooridele, mis on õpilase jaoks ebatõenäolised, või anda pärast vigu õpilase genereeritud prefiksites ebausaldusväärseid juhiseid. Seetõttu tuleks õpetaja kvaliteeti määrata õpilasele antava õppesignaali, mitte õpetaja enda ülesandetasu põhjal.
Nimetame õpetajat tasujärjepidevaks, kui destilleerimisuuendus, mille ta õpilases esile kutsub, ühtib õpilase oodatava ülesandetasu poliitikagradiendiga positiivse skaleerimise täpsusega. Täpsemalt peaks tasujärjepidev õpetaja rahuldama tingimust:
kus on positiivne skalaar. Nagu eelmises jaotises, on OPD lokaalne gradient, on õpilasmudeli parameetrite fikseeritud hetktõmmis ja on oodatava tulu eesmärgifunktsiooni poliitikagradient.
Seda tingimust rahuldab näiteks järgmine õpetaja:
Siin tähistab õpilase jätkueeliseid ja on normeerimiskonstant, mis tagab korrektse tõenäosusjaotuse.
Ideaalsest sihtjaotusest õpetaja eesmärgifunktsioonini
Õpetajat saab treenida ideaalse sihtjaotuse suunas, minimeerides tema KL-lahknevust sellest. Fikseeritud õpilase ja oleku korral saame:
Kui asendada selle avaldisega, saame samaväärse maksimeerimisülesande:
See eesmärgifunktsioon julgustab õpetajat valima suurema õpilaseelisega tegevusi, jäädes samal ajal õpilase tegevusjaotuse lähedale. Parameeter määrab selle karistuse tugevuse: suuremad väärtused hoiavad õpetajat õpilase praegusele käitumisele lähemal, väiksemad aga lubavad tal suure eelisega tegevusi agressiivsemalt eelistada.
Praktiline asenduseesmärgifunktsioon
See eesmärgifunktsioon sõltub sellest, kui hästi õpilane pärast iga tegevust jätkaks, kuid need õpilase jätkueelised pole üldjuhul kättesaadavad. Seetõttu kasutame praktilise asendusena õpetaja enda trajektooride tsentreeritud tulusid. Tasuliige julgustab õpetajat ülesannet lahendama, KL-liige aga takistab kõrvalekaldumist õpilase praegusest tegevusjaotusest. Kuigi KL-liige hoiab õpetajat õpilase lähedal, pole see asendus täpne, sest õpetaja tulud ei pruugi ühtida õpilase jätkueelistega.
Siin on õpetaja katse tulu, millest on lahutatud tema rühma õpetaja genereeritud katsete keskmine tulu. Operaator tähistab gradiendi peatamist: selle argumenti käsitletakse diferentseerimise ajal fikseerituna, nagu ka valimisse võetud prefikseid ja õpilase võrdlusjaotust.
Õpilase treenimine
Õpilase uuendus on tavapärane OPSD uuendus. Õpilane genereerib ülesande põhjal trajektoore. Seejärel hindab sama mudel iga valimisse võetud tokenit kontekstis oleva privilegeeritud teabe abil. Õpilase eesmärgifunktsioon karistab õpilase ja selle privilegeeritud õpetaja vahelist pöörd-KL-lahknevust igas olekus, mida õpilane külastab:
Seega tugevdatakse tokeneid, mida õpetaja eelistab, ning surutakse alla tokenid, mida õpetaja peab vähem tõenäoliseks kui õpilane.
Kõik kokku
Õpetaja ja õpilase eesmärgifunktsioonide kombineerimisel saame ühise treenimise eesmärgifunktsiooni:
on skalaar, mis määrab, kui palju õpilase destilleerimiskadu ühises uuenduses arvesse läheb.
Tasujärjepidevuse tulemus kirjeldab õpilase destilleerimisuuendust antud õpetaja korral. JOLT kasutab seda põhimõtet ühise treenimise suunamiseks, kombineerides õpetaja ja õpilase eesmärgifunktsioonid nende ühiste parameetrite uuendamiseks.
JOLT+ lisab oma uuendusse ka õpilase enda tulemustasu. Iga õpilase trajektoori tsentreeritud tulu liidetakse destilleerimissignaalile, kombineerides õpetaja tiheda juhendamise otsese tulemuspõhise tagasisidega õpilase trajektooride kohta. Õpetaja eesmärgifunktsioon jääb muutumatuks, seega saame kirjutada:
Siin on õpilase trajektoori tulu, millest on lahutatud tema õpilase genereeritud trajektooride rühma keskmine tulu.
Mõlemas variandis õpib kumbki roll trajektooridest, mis on genereeritud tema enda kontekstis, ja mõlemad rollid uuendavad ühist poliitikat. Treeningsammu pseudokood on toodud allpool.
Katsed
Hindame meetodeid JOLT ja JOLT+ võrdlustestidel, mis hõlmavad matemaatilist arutlemist, koodi genereerimist, tööriistade kasutamist ja pika horisondiga terminaliülesandeid, kasutades erinevaid baasmudeleid ja eri liiki privilegeeritud teavet. Täpsemalt teeme katseid järgmiste võrdlustestide, baasmudelite ja privilegeeritud teabe konfiguratsioonidega:
- GSM8K: treenime mudelit
DeepSeek-V2-Liteandmestikul GSM8K, mis koosneb algkooli matemaatikaülesannetest. Õpetaja saab iga ülesande kontrollitud vastuse. - MATH: treenime mudelit
Qwen3-0.6Bandmestikul MATH. Õpetaja saab lahenduskäiguga näidislahendused. - LCBv6: treenime mudelit
Qwen3-8B131 programmeerimisülesandel võrdlustestist LiveCodeBench-V6. Õpetaja saab mudeli genereeritud lahenduse, mis läbis kõik treeningu ajal nähtavad testid, või käivitamise tagasiside, kui ükski katse neid ei läbinud. - AppWorld: treenime mudelit
Qwen3-4B-Instructkeskkonnas AppWorld. Õpetaja saab varasemate katsete kokkuvõtted. - Terminal-Bench: treenime mudelit
Qwen3-30B-A3B-Instructandmestikul TMax, mis on terminaliagentide treeningülesannete kogum, ja hindame seda võrdlustestil Terminal-Bench 2.1. Õpetaja saab verifitseerija privaatse teabe.
Võrdleme oma meetodeid järgmistega: GRPO, OPSD ja π-Distill, häälestades iga meetodi hüperparameetrid. Sarnaselt JOLT-iga treenib π-Distill ühises mudelis koos privilegeeritud õpetaja ja õpilase rolle, kuid kasutab teistsugust õpetaja sihtjaotust ning selle õpilase uuendus jääb poliitikaväliseks, tuginedes õpetaja genereeritud trajektooridele, mitte õpilase enda genereeritud väljunditele.
Täpsus
JOLT+ saavutab igas hinnatud seadistuses kõrgeima keskmise tulemuse. Võrreldes GRPO-ga, mis oli tugevaim testitud võrdlusmeetod, parandab see GSM8K täpsust 1,5 protsendipunkti (pp), MATH-i täpsust 4,2 pp, LCBv6 täpsust 3,0 pp ja AppWorldi olekutestide läbimismäära 9,9 pp.
Ilma õpilase otsese tasuta on JOLT-i keskmine täpsus GSM8K-l, MATH-il ja LCBv6-l kõrgem kui GRPO-l. AppWorldis jääb see aga alla nii GRPO-le kui ka π-Distillile.
Terminal-Bench 2.1 on kõige pikema horisondiga seadistus. JOLT+ saavutab kõrgeima pass@k väärtuse iga esitatud k korral, alates 10,96%-st pass@1 juures kuni 34,83%-ni pass@32 juures. JOLT edestab iga k korral baasmudelit ja mõlemat destilleerimisvõrdlusmeetodit, kuid jääb alla GRPO-le. OPSD tulemus jääb iga k korral alla baasmudeli omale.
Tokenitõhusus ja skaleerumine
Meid huvitab ka see, kuidas jõudlus treeningeelarvega skaleerub. Hindame GRPO-d, OPSD-d ja JOLT-i MATH-il erinevate treeningtokenite eelarvete juures ning võrdleme saadud õpilase täpsust.
Joonis näitab, kuidas täpsus iga meetodi puhul treeningtokenite kuluga skaleerub. Mõõdame kulu töödeldud treeningtokenites. See hõlmab iga täiteta viipa, privilegeeritud konteksti, optimeerimiskäiku ning õpetaja ja õpilase vahelist risthindamist.
Punktid näitavad töödeldud treeningtokenite arvu ja täpsust erinevates kontrollpunktides; vurrud tähistavad ±1 standardhälvet käivituste lõikes. Sobitame täpsuse ja treeningtokenite eelarve logaritmi vahele sigmoidse seose, järgides stiimulõppe arvutusmahu skaleerimist käsitlevat varasemat tööd.
JOLT näitab varajast valimitõhusust ja saavutab samal ajal kolmest meetodist kõrgeima täpsuse, stabiliseerudes umbes 72% juures. OPSD paraneb väikeste eelarvete korral kiiresti, kuid jõuab platoole umbes 62% täpsuse juures. GRPO õpib alguses aeglasemalt, kuid paraneb kauem, tõustes umbes 70%-ni. Võrdse täpsuse 63,44% juures kasutab GRPO vaadeldud kontrollpunkt 8,40 miljonit tokenit, JOLT-i sobitatud kõver aga 1,30 miljonit ehk 6,5 korda vähem tokeneid.
Mõõdame kulu ka väljundtokenites, mis loevad GRPO ja OPSD puhul õpilase väljundeid ning JOLT-i puhul nii õpetaja kui ka õpilase väljundeid, kuid jätavad välja viibad, privilegeeritud konteksti ja täiendavad optimeerimiskäigud. Võrdlus väljundtokenite, mitte töödeldud treeningtokenite põhjal suurendab tõhususe vahet sama täpsustaseme juures umbes 13-kordseks. Erinevate sihttäpsuste vahemikus kasutab JOLT 9,5–14,4 korda vähem väljundtokeneid ja 4,3–7,4 korda vähem töödeldud treeningtokeneid.
Kokkuvõte
Privilegeeritud teave võib muuta õpetaja ülesande lahendamises paremaks, muutmata teda paremaks õpetama õpilast lahendama sama ülesannet ilma selle teabeta. JOLT käsitleb seda erinevust, treenides õpetajat õpilase praegust käitumist arvestades.
Selline ühine treenimine parandab nii täpsust kui ka tõhusust. Õpilase tulemustasudega saavutab JOLT+ GRPO-ga võrreldes absoluutse paranemise: GSM8K-l 1,5 pp, MATH-il 4,2 pp, LCBv6-l 3,0 pp, AppWorldis 9,9 pp ja Terminal-Bench 2.1 pass@1 näitajas 2,7 pp. MATH-il kasutab JOLT sama täpsuse juures 13 korda vähem väljundtokeneid ja 6,5 korda vähem töödeldud treeningtokeneid kui GRPO, ilma õpilase otsese tasuta.
JOLT võimaldab õpetaja juhistel areneda koos õpilasega. See annab põhjust uurida, kas õpetaja suudab õppida genereerima ka kasulikke treeningülesandeid. Üks huvitav tulevase töö suund on treenida koos ülesandeid genereerivat õpetajat ja probleeme lahendavat õpilast, kasutades õpilase õppeedu genereeritud ülesannete täiustamiseks õppekava raames. See võiks muuta sünteetiliste ülesannete genereerimise tundlikuks selle suhtes, mida õpilane on valmis järgmisena õppima.
Täpsema teabe saamiseks lugege meie täismahus artiklit. Avaldame koodi peagi avatud lähtekoodina.
Viide
@online{perplexity2026AGoodTeacherMeetsTheStudentWhereTheyAre,
author = {{Perplexity} and Randy Ardywibowo and Arnav Dalal and Jiantao Jiao and Jarrod Bryan and Claire Beamer and Jeremy Yang and Jerry Ma},
title = {{A good teacher meets the student where they are}},
date = {2026-10-21},
url = {https://www.perplexity.ai/hub/blog/a-good-teacher-meets-the-student-where-they-are}
}