Ghid Prompting AI

Română

English

Română

English

Appearance

Raționamentul LLM ​

Privire de ansamblu ​

În ultimii câțiva ani, modelele de limbaj mari (LLM-uri) au făcut progrese semnificative într-o gamă largă de sarcini. Mai recent, LLM-urile au arătat potențialul de a manifesta capacități de raționament când sunt scalate la o dimensiune suficient de mare. Diferite tipuri de raționament sunt fundamentale pentru inteligență, dar nu este pe deplin înțeles cum modelele AI pot învăța și valorifica această capacitate pentru a rezolva probleme complexe. Este o zonă de focus și investiții enorme pentru multe laboratoare de cercetare.

Privirea de ansamblu asupra cercetării ​

Raționamentul cu modelele fundamentale ​

Sun et al. (2023) au propus recent o privire de ansamblu asupra raționamentului cu modelele fundamentale care se concentrează pe cele mai recente avansuri în diverse sarcini de raționament. Această lucrare se concentrează de asemenea pe o privire mai extinsă asupra raționamentului care se întinde pe modele multimodale și agenții de limbaj autonomi.

Tipurile de sarcini de raționament ​

Sarcinile de raționament ar putea include sarcini precum:

  • Raționamentul matematic: Rezolvarea problemelor numerice
  • Raționamentul logic: Logica deductivă și inductivă
  • Raționamentul cauzal: Înțelegerea relațiilor cauză-efect
  • Raționamentul vizual: Interpretarea informațiilor vizuale

Următoarea figură arată o privire de ansamblu asupra sarcinilor de raționament discutate în lucrarea de sondaj, inclusiv tehnici de raționament pentru modelele fundamentale precum antrenamentul de aliniere și învățarea în context.

"Sarcinile de raționament"

Sursa figurii: Sun et al., 2023

Elicitarea raționamentului în LLM-uri ​

Categorizarea cercetării ​

Raționamentul în LLM-uri poate fi elicitat și îmbunătățit folosind multe abordări diferite de prompting. Qiao et al. (2023) au categorizat cercetarea metodelor de raționament în două ramuri diferite:

  1. Strategia de raționament îmbunătățit: Se concentrează pe îmbunătățirea capacităților de raționament
  2. Raționamentul de îmbunătățire a cunoștințelor: Îmbunătățește cunoștințele pentru un raționament mai bun

Strategiile de raționament ​

Strategiile de raționament includ:

  • Ingineria prompt-urilor: Proiectarea prompt-urilor eficiente
  • Optimizarea procesului: Îmbunătățirea proceselor de raționament
  • Motoarele externe: Folosirea instrumentelor și sistemelor externe

Prompting-ul cu o singură etapă ​

De exemplu, strategiile de prompting cu o singură etapă includ:

  • Chain-of-Thought: Raționamentul pas cu pas
  • Active-Prompt: Abordările de raționament interactiv

O taxonomie completă a raționamentului cu prompting-ul modelului de limbaj poate fi găsită în lucrare și rezumată în figura de mai jos:

"Taxonomia raționamentului"

Sursa figurii: Qiao et al., 2023

Tehnici pentru îmbunătățirea raționamentului ​

Abordarea comprehensivă ​

Huang et al. (2023) explică de asemenea un rezumat al tehnicilor pentru a îmbunătăți sau elicita raționamentul în LLM-uri precum GPT-3. Aceste tehnici variază de la:

  • Fine-tuning-ul complet supervizat: Antrenarea pe seturi de date de explicații
  • Metodele de prompting: Diverse abordări de raționament

Tehnici specifice ​

Mai jos este un rezumat al tehnicilor descrise în lucrare:

"Tehnicile de raționament"

Sursa figurii: Huang et al., 2023

Pot LLM-urile să raționeze și să planifice? ​

Dezbaterea în curs ​

Există multă dezbatere despre dacă LLM-urile pot raționa și planifica. Atât raționamentul cât și planificarea sunt capacități importante pentru deblocarea aplicațiilor complexe cu LLM-uri, cum ar fi în domeniile roboticii și agenților autonomi.

Analiza lucrării de poziție ​

O lucrare de poziție de Subbarao Kambhampati (2024) discută subiectul raționamentului și planificării pentru LLM-uri.

Concluzia autorului ​

Iată un rezumat al concluziei autorului:

Pentru a rezuma, nimic din ceea ce am citit, verificat sau făcut nu îmi dă niciun motiv convingător să cred că LLM-urile fac raționament/planificare, așa cum sunt înțelese în mod normal. Ceea ce fac în schimb, înarmați cu antrenament la scară web, este o formă de recuperare aproximativă universală, care, așa cum am argumentat, poate fi uneori confundată cu capacitățile de raționament.

Perspectivele cheie ​

  1. Potențialul de raționament: LLM-urile arată promisiuni în raționament când sunt scalate corespunzător
  2. Multiple abordări: Există diverse tehnici pentru elicitarea raționamentului
  3. Cercetarea în curs: Zonă activă de investigație și investiții
  4. Debatul continuă: Nu există consens asupra capacităților adevărate de raționament
  5. Aplicațiile practice: Importante pentru aplicațiile AI complexe

Zonele de cercetare ​

  • Raționamentul matematic: Capacitățile de rezolvare a problemelor numerice
  • Raționamentul logic: Logica deductivă și inductivă
  • Raționamentul cauzal: Înțelegerea relațiilor
  • Raționamentul vizual: Interpretarea informațiilor vizuale
  • Planificarea: Luarea deciziilor secvențiale

Referințe ​

Subiecte conexe ​