AI·신기술가게 공지문 쓸 때, 세금 신고 일정 찾을 때, 몸이 안 좋아서 증상을 물어볼 때… 요즘은 AI 챗봇한테 먼저 물어보는 분이 많아요. 답이 빠르고 말투도 친절하죠. 그런데 AI는 틀린 내용도 아주 자신 있게 말할 때가 있어요. 어디까지 믿고 어디서부터 다시 확인해야 하는지 정리해 봤어요.
AI는 왜 그럴듯하게 틀릴까요?
AI가 사실이 아닌 내용을 진짜처럼 만들어 내는 현상을 '환각(할루시네이션)'이라고 불러요. 예를 들면 세상에 없는 논문 제목이나 저자 이름을 지어내는 경우예요.
원인은 AI가 답을 만드는 방식에 있어요. AI는 정답이 적힌 책을 찾아보는 게 아니에요. 그동안 배운 많은 글을 바탕으로 "이 다음에 올 가장 자연스러운 말"을 확률로 골라 문장을 이어 붙여요. 그래서 문장은 매끄러운데 내용은 틀리는 일이 생겨요.
여기에 몇 가지 이유가 더해져요.
- 배운 자료가 부족하거나 한쪽으로 치우친 경우: 잘 모르는 분야에서 틀릴 가능성이 커져요.
- 질문이 애매한 경우: 사람 말은 뉘앙스가 중요한데 AI가 질문을 다르게 알아들을 수 있어요.
- 최신 정보가 아닌 경우: 바뀐 제도나 가격을 예전 기준으로 답하기도 해요.
전문가들도 이 문제는 AI 구조에서 나오는 거라 완전히 없애기는 매우 어렵다고 봐요. 줄일 수는 있지만 '0'은 어렵다는 거죠. 결국 쓰는 사람이 걸러 내는 습관이 필요해요.
습관 1. "출처가 어디예요?" 하고 물어보세요
답을 받으면 근거를 같이 물어보세요. "이 내용 어느 기관 자료에 나와요?"처럼요. 다만 출처를 대 줬다고 끝난 게 아니에요. AI가 출처까지 지어낼 수 있어서 링크나 문서 이름을 직접 눌러 보고 정말 그 내용이 있는지 확인해야 해요. 링크가 안 열리거나 내용이 다르면 그 답은 일단 믿지 마세요.
습관 2. 숫자·날짜·금액은 공식 사이트에서 다시 보기
신고 기한, 지원금 액수, 최저임금, 수수료 같은 숫자가 제일 많이 틀려요. 해마다 바뀌는 데다 AI가 예전 자료로 답할 수 있거든요.
- 세금 일정·신고는 국세청(홈택스)
- 정부 지원·민원은 정부24나 담당 부처 누리집
- 가게 관련 지원은 지자체·소상공인 지원 기관 공지
숫자 하나 틀리면 가산세를 물거나 신청 기한을 놓칠 수 있으니, 돈과 날짜는 꼭 두 번 확인하세요.
습관 3. 건강·법률·세금은 전문가에게 묻기
AI 답변은 공부를 시작하는 참고 자료로만 쓰세요. 약을 먹을지, 계약서에 도장을 찍을지, 세금을 어떻게 신고할지는 사람마다 사정이 달라서 일반적인 답이 나한테 맞지 않을 수 있어요.
- 건강: 의사·약사 상담
- 법률: 변호사, 법률구조 기관 상담
- 세금: 세무사, 국세청 상담
AI한테 "병원 가서 뭘 물어보면 좋을지 정리해 줘"처럼 질문 목록 만드는 데 쓰면 훨씬 안전하게 도움을 받을 수 있어요.
습관 4. "모르면 모른다고 해 줘"라고 덧붙이기
AI는 답을 멈추지 않고 어떻게든 이어 가려는 경향이 있어요. 질문 끝에 "확실하지 않은 내용은 확실하지 않다고 표시해 줘"를 붙여 보세요. 날짜·지역·조건도 구체적으로 적을수록 엉뚱한 답이 줄어요.
예) "카페 아르바이트생 주휴수당 알려줘" 대신 "올해 기준, 주 15시간 이상 일하는 아르바이트생 주휴수당 계산법을 알려 주고, 확인할 공식 기관도 알려 줘"
습관 5. 다른 곳에서 한 번 더 확인하기
중요한 내용이면 다른 AI에 같은 질문을 하거나 뉴스·공식 자료를 직접 찾아보세요. 답이 서로 다르면 그 부분이 틀렸을 가능성이 높다는 신호예요. 특히 너무 그럴듯하고 깔끔한 답일수록 한 번 더 의심해 보는 게 좋아요.
정리하면
AI는 초안 쓰기, 요약, 아이디어 정리에는 정말 쓸 만한 도구예요. 다만 **'최종 답'이 아니라 '첫 번째 참고서'**로 쓰세요. 출처 묻기, 숫자는 공식 사이트에서 보기, 중요한 결정은 전문가에게, 이 세 가지만 지켜도 손해 볼 일이 크게 줄어요.