Science Vibe

🙌이틀 전에 나온 Self-prediction training 논문
- Looking Inward: Language Models Can Learn About Themselves by Introspection
- arxiv.org/abs/2410.13787

📍1. LLM 이 무슨 말을 할지 스스로 예측하면 성능이 오른다고 합니다.

ex) self-prediction
한국 지자체 2개 말해줘: "경기도"
너가 다음에 말할 정답의 두 번째 단어가 뭐야? "청"

📍2. GPT-4o의 Fine-tuning 실험을 진행해서 논문을 쓰는 것도 신기해요.
platform.openai.com/docs/guides/fine-tuning

6 months ago (edited) | [YT] | 14



@grayliar147

LLM이 무슨 말을 예측할지 알려주면 성능이 올라간다는 의미를 이해 못했습니다. 혹시 다른 예시로 알려주실수 있을까요?

6 months ago | 1