대화가 시작되기 전에 AI에게 미리 주는 기본 지시문이에요.
시스템 프롬프트는 사용자가 말을 걸기 전에 AI 앱을 만든 쪽이 미리 넣어 두는 지시문이에요. AI의 역할, 말투, 지켜야 할 규칙, 쓸 수 있는 도구 같은 걸 적어요. 보통 사용자 눈에는 보이지 않지만, 대화 내내 컨텍스트 창 맨 앞에 함께 들어가요.
같은 모델이라도 시스템 프롬프트가 다르면 숙제 도우미가 되기도 하고 영어 회화 연습 상대가 되기도 해요. 많은 AI 서비스에서 '항상 짧게 답해 줘' 같은 기본 지시를 저장해 두는 기능도 비슷한 역할을 해요.
다만 비밀 금고는 아니에요. 2023년에는 교묘한 질문으로 한 검색 챗봇의 숨은 지시문이 밖으로 새어 나온 일이 있었어요. 시스템 프롬프트만으로 AI를 완벽하게 지킬 수는 없어요.
비유로 보면
담임 선생님이 대신 들어올 선생님께 쪽지를 남긴다고 해 봐요. '수업 전에 출석을 부르고, 숙제 검사를 꼭 해 주세요.' 학생들은 쪽지를 못 보지만, 그날 수업은 쪽지대로 흘러가요.
예를 들면
'너는 중학생을 돕는 수학 튜터야, 답보다 힌트를 먼저 줘' 같은 문장이 시스템 프롬프트의 예예요.
이 낱말과 이어진 기록
출처로 확인한 AI 역사 속 장면이에요.
Kevin Liu / Microsoft Bing
프롬프트 인젝션으로 Bing Chat 내부 코드명 Sydney와 시스템 지시문 유출
실서비스에서 시스템 프롬프트가 방어선이 되지 못함을 공개 입증