아직도 1년 전 프롬프트를 그대로 쓰고 있나요?

낡은 규칙과 미신들

 

1. "단계별로 생각해", "네 추론을 설명해"

모델이 내부에서 추론하기 때문에 불필요한 프롬프트

내부 사고 텍스트가 자동 생성되니 응답 안에서 추론 단계를 서술하게 할 필요가 없음

 

2. 도구쓰는 법을 예시로 알려주기

모델을 특정 탐색 공간에 가두게 됨

 

3. 같은 규칙을 두 군데에 반복해 쓰기

예전에는 컨텍스트 끝의 지시를 더 잘듣는 경향이 있었으나 지금은 토큰 낭비임

 

4. 상세한 단계별 절차 안내와 프롬프트에 적어둔 출력 스키마

제품이 그 경로를 요구하는게 아니라면 경로는 모델이 고르게 두고, 스키마는 Structured Outputs로 옮기는 편이 좋음

 

5. 현재 날짜 문구

요즘 모댈은 현재 날짜를 앎

 

6. 역할 부여와 단계 명시

"전문가처럼 생각해" 계열의 프롬프트

최근 가이드에서는 이런 안내가 자취를 감춤

 

7. 문서를 상주 컨텍스트에 다 올리기

문서를 모두 올리는 것은 지속 가능하지 않음

 

 

 

 

 

모델을 움직이는 도구의 변화

요즘 모델은 최적화된 껍데기를 함께 달고 나옴

사람이 프롬프트로 채워넣던 절차가 이미 하네스 안에 다 들어가 있음

모델이 직접 하네스를 만들어 쓰는 동적 워크플로우도 등장함

 

이젠 프롬프트로 주던 절차 지시가 하네스와 겹치기 시작함

시스템 프롬프트와 스킬들이 모델을 과도하게 제약하고 있을지경

 

 

 

 

 

모델을 만든 회사가 직접 알려주는 지금 기준

- 프롬프트는 목적지만 적고 경로는 맡기기

항상과 절대는 안전 규칙처럼 예외가 없는 곳에만 쓰고 판단이 필요한 사안에는 결정 규칙을 적을 것

행동을 바꾸지 않는 예시는 빼는 것이 좋음

 

- 컨텍스트: 지나치게 많은 것은 덜어내기

문서를 있는 그대로 올리면 토큰은 토큰대로 쓰면서 모델의 초점까지 흐림

 

- 하네스: 분리한 컨텍스트를 잘 찾는 구조

덜어낸 컨텍스트를 잘 정리해두고 필요한 것만 적절하게 찾아오는 구성을 짜야함

 

 

 

 

 

 

Reference

https://yozm.wishket.com/magazine/detail/3889/

아직도 1년 전 프롬프트를 그대로 쓰고 있나요? | 요즘IT