Santrauka
Tyrime nagrinėjama, kodėl didieji kalbos modeliai kelių žingsnių procesuose palaipsniui nutolsta nuo instrukcijų. Lyginamas standartinis promptinimas ir valdymo architektūros, kurios skirtos ilgiau išlaikyti stabilią modelio elgseną.
Instrukcijų laikymasis čia vertinamas kaip sisteminis, o ne vien prompto rašymo klausimas. Tyrimas klausia, kiek patikimumo galima pasiekti, kai aplinkinė architektūra aktyviai stebi, riboja ir atnaujina modelio darbo kontekstą.
Autoriai
James Wanjiku, Andrii Zhurba, Yeabtsega Yifat
Kas vertinta tyrime
Vertinamos promptinimo strategijos ir dinaminiai valdymo mechanizmai ilgesniuose dialoguose. Daugiausia dėmesio skiriama tam, ar modelis po kelių konteksto kaupimo etapų vis dar laikosi vaidmens, procedūrinių reikalavimų ir užduoties ribų.
Pagrindinės išvados
Rezultatai rodo, kad architektūra turi esminę reikšmę. Statinės instrukcijos ilgainiui silpnėja, o dinaminiai valdymo mechanizmai suteikia stabilesnį pagrindą elgsenai išlaikyti kelių žingsnių procesuose.
Gamybiniuose sprendimuose tai svarbu todėl, kad instrukcijų dreifas retai matomas viename atsakyme. Jis atsiranda palaipsniui, kai modelis kaupia kontekstą, perima neaiškumus ir pradeda optimizuoti lokalų pokalbio sklandumą, o ne pradinę užduoties sutartį.
Kodėl tai svarbu
Daug įmonių AI procesų remiasi kartotine sąveika: peržiūra, patikslinimu, įrankių naudojimu, taisymu ir eskalavimu. Patikimai elgsenai tokiomis sąlygomis reikia architektūrinės atramos, o ne tik stipresnio pradinio prompto.