ChatGPT나 챗봇한테 헛소리(환각) 들키고 뻔뻔한 거짓말에 속아 넘어간 적 있으신가요? 이 프롬프트 주문 하나 안 외우고 AI 쓰면, 팩트인 줄 알고 썼다가 회사 회의나 리포트에서 한 방에 나락 갑니다.

 

AI(인공지능)로부터 답변을 얻을 때, 허위 정보나 추측성 답변(할루시네이션)을 방지하고 신뢰할 수 있는 공식 통계, 법령, 논문, 공공 기관의 출처를 함께 제시하도록 요구하는 구체적인 방법입니다.

1. 프롬프트 작성 시 명확한 출처 제시 조건 추가하기

• 공식 출처 지정 조건문 포함: AI에게 질문을 던질 때 답변 끝에 반드시 근거를 붙이도록 구체적인 조건을 명시합니다.

  (예시 프롬프트) "최근 국내 부동산 임대차 보호법 개정 내용을 요약해 줘. 답변을 작성할 때 반드시 국가법령정보센터 조문 번호나 정부 공식 발표 자료 등 믿을 수 있는 공식 출처를 함께 명시해 줘."

• 개인 블로그나 비공인 출처 배제 요청: "출처를 밝힐 때는 개인 블로그, 나무위키, 커뮤니티 등의 비공인 출처는 제외하고, 정부 부처, 공공기관, 공인 학술 자료의 링크나 명칭만 인용해 줘"라고 제한을 두면 더 정확한 결과를 얻을 수 있습니다.

2. 검색 기능(Web Search) 및 실시간 인용 활용하기

• 실시간 검색 기능 탑재 모델 활용: 인터넷 검색 기능이 연동된 AI 모델(예: 웹 브라우징 기능이 켜진 챗봇)을 사용할 때는 다음과 같이 요청합니다.

  (예시 프롬프트) "현재 기준으로 시행되고 있는 청년 주거 지원 정책을 최신 웹 검색을 통해 찾아보고, 참고한 정부 공식 웹사이트의 이름과 URL 링크를 답변 하단에 각각 달아줘."

• 직접 인용(Quote) 및 근거 문장 요구: AI가 특정 수치나 규정을 언급할 때 "어느 기관의 어떤 문서 몇 조에 근거한 내용인지 원문 문장을 함께 인용해 줘"라고 요구하여 답변의 신빙성을 높입니다.

3. 제시된 출처의 진위 검증 및 교차 확인하기

• AI가 제공한 링크 및 출처 검증: AI가 출처로 제시한 사이트나 법령 이름이 실제로 존재하는지, 그리고 AI가 요약한 내용이 실제 원문의 맥락과 일치하는지 직접 접속하여 교차 확인합니다.

• 할루시네이션(환각 현상) 대비: AI는 가끔 존재하지 않는 URL이나 법령 조문을 그럴듯하게 지어내는 경우가 있으므로, 중요한 법적·의료적·금융적 정보일수록 공식 사이트(국가법령정보센터, 정부24 등)에서 재차 확인하는 습관을 들입니다.

🔗 공공 정보 및 신뢰할 수 있는 공식 출처 포털 바로가기 주소

• 국가법령정보센터 (대한민국 모든 법령·판례·행정규칙 공식 조회): https://www.law.go.kr

• 대한민국 정부 대표 포털 (정부 부처 공식 정책 및 보도자료 조회): https://www.gov.kr

• 공공데이터포털 (정부 공공 기관이 개방하는 공식 데이터 및 통계): https://www.data.go.kr