왜 프롬프트 엔지니어링을 배워야 하는가?
명중률을 올리기 위해서 좋은 총도 필요하지만 사수의 사격 실력도 중요하다. 프롬프트 엔지니어링은 사격실력과 같은 것. 내 의도에 부합하는 결과가 나올 수 있도록 입력값을 잘 구성해야한다. 특히 파인튜닝을 감당할 인프라가 부재한 회사이거나 API로 인공지능을 활용하는 사람이라면 프롬프트 엔지니어링에 집중하는 것이 더 효율적일 것이다. 특히 비전공자라면 도메인 지식을 활용해 문제를 인지하고 구체화할 수 있어야 한다.
프롬프트 엔지니어링 기초/고급
- 하이퍼 파라미터 : 프롬프트에서 사람이 직접 정하는 값. max_length, writing style, top-p 등으로 응답 결과를 설정할 수 있다. https://contents.premium.naver.com/chatgpt/buff/contents/230531040545064ik
- 파인 튜닝 : 학습된 인공지능을 한번 더 학습시켜서 특정 도메인을 더 잘 예측할 수 있도록 함. chat gpt는 gpt3를 파인튜닝하여 나온 모델이라고 함.
- 퓨샷러닝, 제로샷러닝 : 파라미터 업데이트 없이 패턴을 추가 학습함. 어떻게 산출되는지 완벽하게 분석할 수 없다.
- 문맥 내 제로샷러닝 : 데이터가 부족한 경우, 이전의 대량 데이터로 학습한 LLM을 활용할 수 있다. 데이터 수집 관리, 모델 학습 비용이 절감된다.
- 사고의 사슬 : 정답을 가르쳐주고 새로운 데이터를 줘서 정답을 추론하게 함. 외부에 공개되지 않은 LLM 모델을 사용하는 경우, 파라미터 업데이트 없이 성능을 향상시킬 수 있는 기법
- 역할 부여 : 역할을 부여하여 LLM이 제공하는 답변의 방향을 잡을 수 있음