Harnessi inseneritöö: mis see on ja kuidas see toimib

Mida tähendab harnessitehnika

Harnessitehnika on tehisaru tööriista harnessi ehitamine. Harness hõlmab tööriista kõiki osi peale tehisaru mudeli.

Mudel on tehisarusüsteem, mida on treenitud suurel hulgal tekstil, et see oskaks keelt lugeda ja kirjutada. Tehisaru mudelite näideteks on GPT (OpenAI), Claude (Anthropic) ja Gemini (Google).

Iseenesest suudab mudel ainult teksti (ja mõnikord pilte või heli) vastu võtta ning vastuseks teksti kirjutada. See ei mäleta varasemaid vestlusi, ei saa otsida ajakohast teavet ega käivitada koodi. Seetõttu vajab see harnessi, mis haldab, millist teavet mudel saab, milliseid rakendusi see kasutada saab, mida tal on lubatud teha ja kuidas tema tööd kontrollitakse.

Isegi lihtne vestlusassistent vajab harnessi. Mudel unustab iga vestlusvooru kohe pärast vastamist, seega säilitab harness vestluse ajalugu. Kui keegi küsib Pariisi kohta ja täpsustab seejärel: „Kui suur on selle rahvaarv?“, saadab harness mõlemad küsimused mudelile koos. Nii teab mudel, et „selle“ tähendab Pariisi.

Harnessitehnika on üks põhjusi, miks sama mudeli peale ehitatud kaks tööriista võivad toimida nii erinevalt. Näiteks ühes sõltumatus testis jätsid teadlased mudeli (GPT5) samaks ja muutsid ainult harnessi, mille tulemusel muutus mudeli skoor programmeerimistestis kuni 11% võrra.

Tehisaru mudelite arendajad, nagu Anthropic ja OpenAI, ehitavad harnesse oma tehisarutoodetele, näiteks Claude Code'ile ja Codexile. Tehisarutooteid loovad ettevõtted kujundavad harnessid omakorda enda valitud alusmudelitele. Osa harnessist kujundavad ka tehisaru tööriistade kasutajad. Paljud tööriistad lasevad neil lisada püsijuhiseid, ühendada rakendusi ja valida, millised toimingud vajavad nende kinnitust, enne kui tööriist edasi tegutseb.

Harnessitehnika tehisaruagentide jaoks

Igal tehisaru tööriistal on harness, kuid harnessitehnika muutub eriti oluliseks tehisaruagentidega töötamisel. Agendid täidavad mitmeetapilisi ülesandeid iseseisvalt, näiteks uurivad konkurente ja koondavad leiud arvutustabelisse, ning harness juhib iga sammu. Seega kui harness teeb vea, näiteks võtab aluseks eelmise aasta hinnad, mõjutab see ka kõiki järgnevaid samme.

Enamikul agentide harnessidel on kuus põhiosa:

1. Agenditsükkel

Suurenda

Agenditsükkel on harnessi osaks olev kood, mis viib ülesannet samm-sammult edasi.

Tehisaru mudel otsustab, milline on ülesande täitmiseks vajalik järgmine samm, ja kirjutab tööriistakutse: lühikese päringu, mis nimetab harnessis oleva tööriista, näiteks veebiotsingu, ning selle, mida tööriist peaks tegema.

Harness tuvastab päringu, käivitab otsingu ja lisab tulemused selle teabe hulka, mida mudel näeb. Mudel loeb need läbi ja otsustab, mida edasi teha.

2. Kontekstihaldus

Mudel omandab üldteadmised treenimise käigus, kuid need teadmised ulatuvad vaid treenimise lõppkuupäevani. Need ei hõlma midagi konkreetse ülesandega seotut, näiteks ettevõtte faile, tänaseid uudiseid või seda, mida vestluses varem öeldi.

Kõige selle jaoks sõltub mudel oma kontekstiaknast ehk tekstist, mille harness talle enne iga vastust annab, näiteks juhistest, päringust, senisest vestlusest ja otsingutulemustest.

Aknasse mahub vaid kindel hulk teksti. Isegi enne, kui aken täis saab, jätavad mudelid mõnikord pikkade sisendite keskele peidetud teabe tähelepanuta.

Seetõttu tegeleb harness kontekstihaldusega ja valib välja ainult selle teabe, mida iga samm vajab. Näiteks kui ülesanne on võrrelda viie konkurendi hindu, võib harness lisada iga ettevõtte hinnalehe, mitte kogu veebisaiti. Pikkade ülesannete puhul võib harness ka asendada varasemate sammude üksikasjaliku ülevaate lühikokkuvõttega, nii et mudel teab, mida ta on juba teinud, ilma et see ajalugu akent täidaks.

3. Tööriistad

Tööriistad on kood, mis täidab mudeli soovitud toiminguid. Iga tööriist tegeleb ühte tüüpi toiminguga, näiteks veebist otsimise, veebilehe avamise ja lugemise, koodi käivitamise või faili muutmisega. Kui mudel kirjutab tööriistakutse, edastab harness selle õigele tööriistale ja tagastab tulemuse.

Paljudes harnessides on ka konnektorid ehk tööriistad, mis ühendavad agendi konkreetse rakendusega, näiteks e-posti, kalendri või jagatud draiviga, kasutades inimese antud juurdepääsu. Näiteks kalendrikonnektoriga saab agent enne kohtumisaja soovitamist kontrollida, millal inimene vaba on.

4. Mälu

Mälu on salvestatud teave, mis kandub ühest seansist järgmisse. Harness salvestab seansi ajal lühikesi märkmeid, näiteks inimese eelistused või projekti seisu. Järgmise seansi alguses lisab harness need märkmed kontekstiaknasse, nii et mudel loeb need enne uut päringut. Nii saab agent näiteks jätkata iganädalase aruandega sealt, kus ta pooleli jäi, selle asemel et uuesti otsast alustada.

5. Õigused

Õigused on reeglid selle kohta, millele agent ligi pääseb ja mida see teha tohib. Juurdepääsureeglid määravad, milliseid faile, rakendusi või veebisaite see avada saab. Kinnitusreeglid määravad, millised toimingud peavad ootama inimese heakskiitu, näiteks sõnumi saatmine või ostu sooritamine.

Agendi loonud ettevõte seab osa neist reeglitest paika harnessi koodis. Seejärel saavad organisatsiooni administraatorid lisada omi reegleid ning üksikkasutajad saavad valida näiteks, milliseid kontosid ühendada.

6. Verifitseerimine

Verifitseerimine on kood, mis kontrollib agendi tööd enne, kui see inimeseni jõuab. See kasutab kahte tüüpi kontrolle:

• Kindlad reeglid ehk konkreetsed testid, mis õnnestuvad või ebaõnnestuvad iga kord ühtemoodi, näiteks kontroll, et iga aruandes olev arv leidub dokumendis, mille agent tegelikult läbi luges.
• Teise tehisaru mudeli tehtud ülevaatus, mille käigus see mudel loeb töö läbi ja hindab seda. Nii saab tabada probleeme, mida on raske reegliks muuta, näiteks kokkuvõtet, millest on välja jäänud oluline punkt.

Ükski kontroll ei taba kõike, seega kombineerivad harnessid tavaliselt mõlemat tüüpi. Kui kontroll leiab probleemi, lisab harness selle kirjelduse mudeli kontekstiaknasse ja saadab ülesande uuesti agenditsüklisse. Mudel parandab probleemi ja proovib uuesti, nii et paljud vead parandatakse enne, kui kasutaja tulemust näeb.

Harnessitehnika näited

Kliendikohtumiseks valmistumine

Ülesanne: Kliendihaldur palub agendil koostada homseks kliendikohtumiseks ülevaate, mis hõlmab lahtisi küsimusi ja päevakorra mustandit.

Mida harness teeb:

• E-posti konnektori kaudu otsib agent kliendihalduri postkastist kliendiga vahetatud sõnumeid.
• Õigused lubavad tal e-kirju lugeda, kuid mitte saata.
• Kontekstihaldus edastab mudelile ainult selle kliendiga viimase kolme kuu jooksul vahetatud sõnumid, mitte kogu postkasti.
• Agenditsükkel teeb mitu otsimis- ja lugemisvooru ning mudel rühmitab leitu lahtisteks küsimusteks.
• Seejärel kontrollib verifitseerimine, et iga ülevaates nimetatud küsimus viitaks päriselt olemasolevale e-kirjale.

Võimalik tulemus: Kliendihaldur saab üheleheküljelise ülevaate, mille iga punkti saab seostada algse e-kirjaga.

Igakuise müügiaruande uuendamine

Ülesanne: Operatsioonijuht palub agendil uuendada igakuist müügiaruannet selle kuu arvudega.

Mida harness teeb:

• Mälu laadib eelmise kuu seansi märkmed, sealhulgas aruande vormingu ja juhi soovi ümardada arvud lähima tuhandeni.
• Failitööriist avab meeskonna jagatud draivis oleva müügitabeli.
• Õigused lubavad agendil muuta aruande mustandit, kuid mitte lähtetabelit, nii et algseid arve ei saa kogemata muuta.
• Verifitseerimine kontrollib, et aruande kogusummad ühtiksid tabeliga.

Võimalik tulemus: Aruanne valmib samas vormingus kui eelmisel kuul, ilma et kasutaja peaks seda uuesti selgitama.

Jagatud postkasti sorteerimine

Ülesanne: Tugimeeskond palub agendil sorteerida hommikul saabunud päringud teemade kaupa ja koostada levinumatele vastuste mustandid.

Mida harness teeb:

• Agenditsükkel töötab postkasti läbi sõnum sõnumi järel.
• Iga sõnumi puhul valib mudel teemasildi ja harness rakendab selle e-posti konnektori kaudu.
• Ülesande alguses lisab harness meeskonna kinnitatud vastusemallid juhisteks kontekstiaknasse, nii et mudel võtab iga mustandi aluseks malli.
• Kinnitusreegel hoiab iga vastust mustandina seni, kuni keegi meeskonnast selle üle vaatab ja ära saadab.

Võimalik tulemus: Meeskond alustab päeva sorteeritud päringute ja ülevaatust ootavate vastustega.

Veebisaidi vea parandamine

Ülesanne: Arendaja palub programmeerimisagendil parandada vea, mille tõttu ostu vormistamise nupp ei tööta.

Mida harness teeb:

• Agent töötab liivakastis ehk koodi isoleeritud koopias, kus tema muudatused ei saa mõjutada töös olevat veebisaiti.
• Kooditööriist võimaldab mudelil faile lugeda ja muuta.
• Pärast iga muudatust käivitab verifitseerimine projekti automaattestid.
• Kõik ebaõnnestumised saadetakse mudelile tagasi uue teabena.

Võimalik tulemus: Agent kohandab oma parandust seni, kuni testid õnnestuvad. Seejärel vaatab arendaja muudatuse üle, enne kui see avaldatakse.

Harnessitehnika vs. viibatehnika vs. kontekstitehnika

Viibatehnika on üksiku päringu koostamine ja optimeerimine. Kontekstitehnika on kõige selle haldamine, mida mudel näeb. Harnessitehnika on kogu selle süsteemi kavandamine ja täiustamine, mille sees mudel töötab.

Kuidas kasutajad saavad tehisaru harnessi mõjutada

Suurem osa agendi harnessist pärineb agendi loonud ettevõttelt, kuid paljud tehisarutooted lasevad kasutajatel osa sellest kohandada selliste seadete kaudu nagu kohandatud juhised, ühendatud rakendused ja kinnitused.

Kasutajad saavad agendi harnessi kujundada ja agendi tulemusi parandada neljal viisil:

1. Püsijuhised

Püsijuhised on märkmed, mille inimene kirjutab üks kord, et harness saaks need iga ülesande alguses kontekstiaknasse lisada. Neid tasub seadistada kõige jaoks, mida inimene peaks muidu päringust päringusse kordama: kes ta on ja millega tegeleb, millist kirjutamisstiili ta eelistab või korduva töö, näiteks kliendi igakuise aruande, reeglid.

Paljud tehisarutooted pakuvad püsijuhiseid kahel tasandil. Kogu kontot hõlmavad juhised sobivad asjadele, mis kehtivad kogu töö kohta, näiteks õigekirjaeelistustele. Projektijuhised sobivad ühele kliendile või töövoole, nii et ühe juhised ei kandu üle teisele.

Püsijuhised toimivad vestlusassistentides ja agentides ühtemoodi, kuid agendid sõltuvad neist rohkem. Vestluses saab inimene tehisaru pärast iga vastust parandada. Agent võib teha palju samme, enne kui keegi tema tööd näeb, seega on eelnevalt antud juhised üks väheseid viise, kuidas teda töö käigus suunata.

Kuidas kirjutada tõhusaid püsijuhiseid

• Alusta lühikese juhisega, näiteks: „Olen tarkvaraettevõtte turundusjuht. Kirjuta lihtsas inglise keeles, hoia kokkuvõtted alla 200 sõna ja kasuta Ameerika inglise õigekirja.“
• Täienda neid, kui tehisaru teeb vea. Kui tehisaru ümardab pidevalt arve, mida meeskond vajab täpsetena, lisa sellekohane rida.
• Tee juhised konkreetseks: „Esita täpsed arvud, ära kunagi ümarda“ on parem kui „Ole täpne“.
• Hoia loend lühike ja eemalda read, kui need enam kasulikud pole, sest iga rida võtab kontekstiaknas ruumi.

2. Ühendatud rakendused

Ühendatud rakendused seovad tehisarutoote tööriistadega, mida inimene juba kasutab, näiteks e-posti, kalendri või jagatud draiviga. Kui rakendus on ühendatud, saab tehisaru töötada inimese enda teabega, mitte ainult sellega, mis vestlusse kleebitakse.

Ühendusi tasub seadistada siis, kui ülesanne sõltub nendes rakendustes olevast teabest, näiteks kui on vaja koostada e-kirjavahetuse põhjal kohtumise ülevaade või teha kokkuvõte jagatud draivis olevatest dokumentidest.

Kuidas rakendusi turvaliselt ühendada

• Ühenda ainult need rakendused, mida ülesanne vajab, sest iga ühendus lisab uue võimaluse vigadeks.
• Kui see on saadaval, vali ainult lugemisõigus. Näiteks kohtumiste ülevaateid koostav agent peab e-kirju lugema, mitte saatma.
• Kui toode seda võimaldab, seadista ühendused projektipõhiselt. Näiteks Perplexity puhul saab valida, milliseid konnektoreid iga projekt kasutab.
• Ära unusta lahti ühendada rakendusi, mida enam ei kasutata.

3. Kinnitusseaded

Kinnitusseaded määravad, millised toimingud peavad enne tehisaru tegutsemist ootama inimese heakskiitu. Mõned kinnitused on tootesse sisse ehitatud ja mõned tooted lasevad inimestel valida, millised muud toimingud kinnitust vajavad.

Kuidas kinnitusreegleid seadistada

• Nõua kinnitust toimingutele, mida ei saa tagasi võtta, nagu sõnumi saatmine, ostu sooritamine või faili kustutamine.
• Hoia kinnitust vajavate toimingute loend lühike. Kui agent küsib nõusolekut iga väikese sammu kohta, hakkavad inimesed kinnitama lugemata.

4. Standardid ja kontrollid

Enamikul tehisintellekti toodetel on mõned standardid juba sisse ehitatud. Näiteks Perplexity lisab oma vastustele allikaviited, et iga väidet saaks kontrollida. Kasutaja seatud standardid lisavad selle, mida toode ise teada ei saa, näiteks meeskonna eelistatud aruandevormingu.

Kuidas seada tehisintellekti tööle standardeid

• Lisa korduva töö jaoks mall, et tehisintellektil oleks kindel struktuur, mida täita.
• Jaga näidet varasemast tööst, mis meeskonnale meeldis, et tehisintellekt saaks järgida selle tooni ja detailsusastet.
• Palu lisada iga arvnäitaja kõrvale allikalink.
• Vaata esimesed tulemused hoolikalt üle ja muuda iga korduv puudujääk uueks püsijuhiseks.

Kuidas Perplexity agendi harnessidele läheneb

Perplexity Computer töötab mudelist sõltumatul harnessil, mis koondab üle 20 täiustatud mudeli ühte süsteemi. See jagab iga ülesande alamülesanneteks, annab need alamagentidele (eraldi agendid, millest igaüks võtab enda kanda ühe osa) ja suunab iga tööosa sellele sobivale mudelile.

Uuri Perplexity projektide juhendist, kuidas seadistada juhiseid, faile ja konnektoreid.

KKK

Mis on harnessi insener?

Harnessi insener projekteerib ja hooldab süsteemi, mis võimaldab tehisintellekti mudelil usaldusväärselt tööd teha. See võib tähendada agendile uue tööriista lisamist, selle väljaselgitamist, miks agent teeb ikka ja jälle sama viga, või nende kontrollide karmistamist, mida agent enne ülesande lõpetamist teeb. See ei ole tavapärane ametinimetus, kuigi see võib muutuda. Seda tööd teevad tavaliselt tarkvarainsenerid tehisintellekti ettevõtetes või agente loovates meeskondades. Tootmises tähistab sama ametinimetus inimest, kes projekteerib juhtmestikke (ingl k wire harness) ehk autodes ja masinates olevaid kaablikimpe.

Mis on agendi harness?

Agendi harness tähendab tavaliselt kõike, mis tehisintellekti agendis on peale mudeli enda. Selle hulka kuulub kood, mis käitab agendi tsüklit, haldab konteksti, täidab tööriistakutseid, salvestab mälu, jõustab õigusi ja kontrollib agendi tööd enne, kui see inimeseni jõuab.

Kas igal tehisintellekti tööriistal on harness?

Jah. Isegi lihtne vestlusassistent toetub vestluse jälgimisel harnessile, sest mudel ise varasemaid sõnumeid ei mäleta.

Arendajad saavad mudelit kasutada ka nii, et saadavad sellele oma tarkvarast päringuid API kaudu (ühendus, mis võimaldab ühel programmil teisele päringuid saata). Sel juhul teeb harnessi tööd arendaja enda kood.

Kas paremad mudelid muudavad harnessid tarbetuks?

Paremad mudelid võivad vajada vähem samm-sammulisi juhiseid, nii et osa sellest, mida harnessid praegu teevad, võib väheneda. Kuid mudel üksi muudab ainult teksti tekstiks. Sellel pole internetiühendust ega juurdepääsu teistele rakendustele. Failidele juurdepääs, toimingute tegemine ja kinnitusreeglite jõustamine toimuvad kõik mudelit ümbritsevas tarkvaras, seega jääb see töö tõenäoliselt harnessile, ükskõik kui võimekaks mudelid ka muutuvad.