프롬프트 엔지니어링(prompt engineering)은 인공지능, 특히 LLM(Large Language Models) 기반 도구에게 보다 정확하고 유용한 응답을 끌어내기 위한 질문 작성 기법입니다. AI에게 “어떻게 말해야 더 똑똑하게 대답할까”를 연구하는 기술입니다. 처음엔 단순히 “이걸 알려줘”만 써도 응답이 오지만, 복잡한 문제일수록 AI는 다음과 같은 이유로 잘못된 답변을 할 가능성이 높아집니다: 본 글에서는 chat gpt가 거짓말 하는 부분을 최대한 막아 보고자 합니다.
Chat gpt 할루시네이션 및 편향
- 문제 해결을 위한 논리적 순서를 생략
- 정보를 한꺼번에 추론
- 사람이 의도한 문맥을 정확히 이해하지 못하는 경우
한계를 극복할 수 있는 방법 중 하나가 바로, 프롬프트에 “차분히 단계별로 생각해보자” 혹은 영어로 “Let’s think step by step”을 추가하는 것입니다.
Chat gpt에서 왜 ‘Let’s think step by step’이 중요한가?
LLM은 사람이 입력한 문장 하나하나를 기반으로 다음 단어를 예측하는 방식으로 작동합니다. 즉, 사고 흐름(thought flow)이 제시되지 않으면, 모델은 답을 ‘직감적으로’ 예측하려고 합니다. 하지만 문제의 난이도가 올라갈수록, 이런 직감적 추론은 틀릴 확률이 높아집니다. 반면에, ‘step by step’이라는 단서를 주면 모델은 다음과 같은 방식으로 사고 흐름을 바꿉니다:
- 먼저 문제를 분해하고,
- 각 단계별로 이해하고,
- 순서대로 해결하려고 합니다.
이는 마치 사람이 수학 문제를 풀 때 “먼저 식을 세우고 → 계산하고 → 정리”하듯, AI도 점진적 논리적으로 접근할 수 있도록 방향을 잡아 줍니다.
Step by Step 사례 비교
1. 프롬프트 없이 질문하는 경우
Q: 철수가 사과를 12개 샀고, 그중 7개를 먹었습니다. 남은 사과는 몇 개일까요?
AI 응답 : "정답은 5개 입니다."
맞는 대답이지만, AI는 중간 과정을 생략했기 때문에 왜 맞았는지 검증하기 어렵습니다. 이걸 들고 누군가에게 답만 내면 좋을 지 아시면 됩니다.
2. 프롬프트내 Step-by-step 입력하는 경우
Q: 철수가 사과를 12개 샀고, 그중 7개를 먹었습니다. 남은 사과는 몇 개일까요?
AI 응답 :
"1단계: 철수는 사과를 12개 샀습니다.
2단계: 그 중에서 7개를 먹었습니다.
3단계: 따라서 12 - 7 = 5개가 남았습니다.
답: 5개입니다."
동일한 답이지만 이제 중간 과정을 검토하고 신뢰할 수 있게 되었습니다.이런 방식은 숫자 계산뿐만 아니라 복잡한 논리적 추론, 조건 분기, 단계적 절차에도 강력한 효과를 발휘합니다
Chat gpt 가장 유용한 프롬프트
| Let’s think step by step | 사고를 단계적으로 유도 |
| 차분히 단계별로 생각해보자 | 한국어로 사고 흐름을 유도 |
| 먼저 문제를 나눠보자 | 분해(problem decomposition) |
| 각각의 조건을 살펴보자 | 조건 기반 판단 |
| 순서대로 정리해보자 | 흐름 제시 |
이러한 문구들은 단순히 응답을 정갈하게 만들 뿐 아니라, 결과의 정확도와 이해 가능성을 높이는 데 핵심적인 역할을 합니다.
결어
LLM은 기본적으로 패턴 기반 응답을 하므로, 논리적 추론이 필요한 문제에 약합니다. 복잡한 문제일수록 정확도와 신뢰성을 높이기 위한 핵심 도구가 필요합니다. "Let’s think step by step" 문구는 AI의 사고 흐름을 논리적 단계로 유도하게 됩니다. 다양한 상황에서 활용 가능하며, 결과물의 품질이 눈에 띄게 향상되는 것을 확인 할 수 있습니다.