프롬프트 한 줄로 검색보다 빠른게 답을 찾습니다.

요즘은 거의 대부분이 LLM 을 이용하여 업무를 하거나 일상생활에서의 도움을 받고 있습니다.
저도 그 중에 하나인데요, 문득 이런 생각이 들었습니다.

"근데 우리가 비용을 지불하면서 쓰는 LLM 을 잘 쓰고 있는 걸까요? "

"어쩌면, 그저 구글 유료 버전 수준으로 사용하고 있지 않나요?"

---

프롬프트 엔지니어링?

AI 모델에게 무언가를 부탁할 때 입력하는 문자를 프롬프트(prompt) 라고 부릅니다. 프롬프트 엔지니어링은 "어떤 프롬프트를 어떻게 써야 AI 가 원하는 답을 내놓을까" 연구, 설계하는 기술입니다. 쉽게 말해, AI 에게 일을 시켜 보는 방법론입니다.

(엔지니어링 = 설계/최적화)

---

모델에 따른 차이

모든 AI 가 같은 방식으로 반응하지는 않습니다. 어떤 모델은 자유로운 대화를 잘하고, 어떤 모델은 구조화된 표를 요구하기도 합니다.

즉 모델별로 "좋아하는 질문법"이 다릅니다.

검색은 그저 우리가 원하는 키워드를 요청하여, 그 키워드가 있는 방대한 정보 안에서 우리가 원하는 정보를 찾아야하는 방면.

대화형 AI는 형식, 맥락, 예시가 그 성능을 좌지우지 합니다. 

---

대표적인 프롬프트 기법

프롬프트에는 다양한 기법이 있고, 아래 내용 이외에도 개인화된 기법들도 있을 것 입니다.

여기서는 대표적인 기법들을 살펴보고 어떤 상황에서 좋은지에 대해 알아보겠습니다. 

• 제로샷(Zero-shot): 예시 없이 바로 질문

저는 위에서 말했던 형식, 맥락, 예시가 성능을 좌지우지 한다고 이야기했습니다. 하지만 그런 것들이 필요하지 않은 상황도 있습니다.

예로들면 어떤 주제에 대한 브레인 스토밍을 한다거나, 아이디어를 얻고자 할때는 모델에서 가지고 있는 정보와 창의성을 최대한 이용하기 위해 맥락을 제공하지 않고 답변에 대한 다양한 예측을 할 수 있게해주는 것입니다. 

• 퓨샷(Few-shot): 1-2개의 예시 제공

퓨샷은 일반적으로 가장 많이 사용되고 있는 방법입니다.

보고서를 작성하거나 과제를 작성할때, 최소한의 형식이나 예시를 제공함으로써 최소한의 맥락 내에서 원하는 답을 받아내는 기법입니다.

• 연쇄적 사고(CoT): 복잡한 추론 과정을 일련의 과정으로 나누어서 질문

긴 프롬프트로 복잡한 추론을 맡기는 것이 아닌 하나씩 체인 (chain) 을 거는 방식입니다.

수학문제를 푼다고 가정해봅시다. 문제는 "1+2+3+4+5+6" 입니다.
이것을 "1에 2를 더해줘" "그 값에 3을 더해줘" "그 값에 4를 더해줘" "그 값에 6을 더해줘" "최종 값이 뭐야?" 의 식으로 질문하는 방식입니다.
이 기법은 복잡한 추론을 단계별로 풀어냄으로써 AI 가 체계적으로 문제에 접근할 수 있도록 도움을 줍니다.

• 역할 부여(Role-play): 모델에게 역할을 부여하는 기법

이 기법또한 유튜브나 스트리머들의 방송을 보면 "디시 말투로 답변하는 AI", "여자친구 AI" 등 특정 행동 양식에 따라 말투를 모방하는 AI 와 상호작용하는 컨텐츠를 본적이 있으실겁니다. 

그 컨텐츠에서 사용되는 AI가 이러한 기법으로 만들어진 AI 입니다. 

이 기법을 쓰면 역할이 부여되어 있기 때문에 맥락에서 벗어나지 않고 역할에 맞는 대답을 할 수 있게 도와줍니다. 

---

더 좋은 프롬프트 작성하기

목적을 명확히

우리의 프롬프트는 항상 목적이 있습니다. 하지만 대부분 답에 대한 질문을 할뿐 맥락에 대한 자세한 설명을 하지 않는 경우가 많습니다. 

맥락/제약/예시 추가

길이나 톤, 형식, 키워드 등을 구체적으로 명시해준다면 우리가 원하는 답변을 받기 쉬워집니다.

수치화

정성적인 요청이 아닌 수치화된 요청을 해봅시다. 

복잡한 요청은 분할

복잡한 추론이 필요하다면 CoT 기법을 활용하여, 분할하여 요청합시다. 

---

예시

• 프로그래밍 코드 최적화

코드 좀 고쳐줘 ❌

아래 JS 코드의 실행 시간을 20% 줄이는 방법을 알려줘. 단, 가독성은 70점 이상 유지 ✅

• 번역

번역해줘 ❌

아래 한국어 문단을 자연스러운 영어(미국식)로 번역해줘, 전문 용어는 음역 대신 뜻을 살려줘 ✅

• 요약

요약해줘 ❌

다음 기사에서 핵심 키워드 5개와 한 문장 요약을 각각 문단을 나누어서 줘 ✅

---

마무리

LLM 은 결국 다음 단어를 예측하는 확률 모델입니다. 같은 모델이라도 프롬프트가 달라지면 결과도 달라진다는 점을 기억하세요. 

오늘부터는 AI 를 "조금 더 똑똑한 구글" 정도로만 쓰기보다, 프롬프트 엔지니어링으로 원하는 답을 뽑아내보는 것은 어떨까요?

---

비슷한 다른 글

2025.04.15 - [Tech Insights/개발 잡소리] - 비개발자, AI로 서비스 만들기 (ft. 바이브 코딩)

비개발자, AI로 서비스 만들기 (ft. 바이브 코딩)