Few-shot prompting využíva schopnosť modelu učiť sa in-context bez nutnosti pretrénovania váh. Vložením 2 až 5 príkladov definujete očakávanú syntax a sémantiku odpovede. Tento prístup je kritický pri úlohách, kde Zero-shot prompting zlyháva na nekonzistencii štruktúry.
Príklady v prompte slúžia ako kotvy pre pozornosť modelu (attention mechanism). Jasné ohraničenie vstupov a výstupov pomocou špeciálnych delimiterov eliminuje tendenciu modelu generovať vysvetľujúci text namiesto čistej dátovej štruktúry.
Pri implementácii few-shot techník je nutné sledovať dĺžku kontextového okna. Každý príklad zvyšuje počet spracovaných tokenov na vstupe, čo priamo ovplyvňuje latenciu a náklady na API volania. Odporúča sa používať minimálne potrebné množstvo textu v príkladoch, pričom sa zachováva diverzita scenárov.
V prípade komplexných logických úloh je vhodné kombinovať few-shot s metódou Chain-of-Thought. V príkladoch uvediete nielen výsledok, ale aj medzikroky riešenia. Model následne replikuje tento myšlienkový postup, čím sa zvyšuje presnosť pri matematických alebo analytických zadaniach.
Správne nastavenie parametrov, ako sú Temperature a Top-P, v kombinácii so silnými vzormi zaručuje deterministické správanie modelu. Ak sú príklady konzistentné, model prestáva improvizovať a drží sa striktne definovanej šablóny.
Každý príklad musí obsahovať tri základné zložky: identifikátor úlohy, vstupný text a referenčný výstup. Medzi jednotlivými príkladmi používajte jasné oddeľovače ako "###" alebo "---".
Preštudujte si limity architektúry a zistite, ako počet príkladov ovplyvňuje stabilitu modelu v dlhodobom kontexte.