생성형 AI 사용법, 맡겨도 되는 일과 맡기면 안 되는 일 가르는 기준
.jpg)
생성형 AI를 업무에 처음 붙일 때 먼저 잡아야 할 것은 프롬프트 기술이 아니라 "이 일을 맡겨도 되는가"를 가르는 기준입니다. 기준은 하나예요. 결과를 내가 검증할 수 있으면 맡기고, 검증할 수 없으면 맡기지 않습니다.
많이 오해하는 지점부터 짚겠습니다. 흔히 "AI가 모르는 걸 물으면 틀린다"고 생각해서 검색이나 출처 표시를 켜면 해결된다고 믿게 되는데요. 검색을 켜도 틀리는 경로가 따로 있습니다. 여기를 잘못 알면 출처 링크가 붙은 답을 그대로 믿게 됩니다.
찾아주는 도구가 아니라 만들어내는 도구입니다
구글의 공식 설명은 단순합니다. 대규모 언어 모델은 "입력한 프롬프트와 지금까지 생성한 문장을 바탕으로 다음에 올 말을 예측"합니다. 같은 문서에는 구글 검색이 웹에서 정보를 가져오는 것과 달리 언어 모델은 정보를 수집하지 않는다는 설명도 있습니다.
쉽게 말하면 검색창은 서랍에서 서류를 꺼내 보여주고, 생성형 AI는 그 서류가 어떻게 생겼는지를 배운 뒤 비슷한 서류를 새로 써줍니다. 그래서 형식은 그럴듯한데 내용이 틀릴 수 있어요. 이걸 환각이라고 부릅니다.
여기서 뒤가 따라옵니다. 내가 준 재료를 다른 모양으로 바꾸는 일은 잘하고, 정답이 하나뿐인 값을 꺼내오는 일은 취약합니다.
틀리는 길은 두 갈래입니다
첫째, 검색 없이 자기 지식만으로 답할 때. 이건 "몰라서" 생기는 문제라기보다 "모른다고 말하지 않도록 길러져서" 생기는 문제입니다. OpenAI의 공개 연구 설명대로, 환각이 생기는 이유는 표준적인 학습과 평가 절차가 불확실성을 인정하는 것보다 찍는 것에 더 높은 점수를 주기 때문입니다. 빈칸으로 두면 0점이니 일단 찍는 시험과 같은 상황이죠. 말투의 확신은 정확도와 상관이 없습니다.
둘째, 검색과 출처 표시를 켰을 때. 근거 문서를 붙이면 나아지지만 다른 오류가 남습니다. 구글은 검색 AI 답변 오답을 해명한 글에서, AI 답변은 검색 결과에 근거를 두므로 "다른 언어 모델 제품처럼 지어내지는 않는다"고 밝힌 뒤 이렇게 덧붙였습니다. 틀릴 때는 보통 질문을 잘못 이해했거나, 웹 문장의 미묘한 뉘앙스를 잘못 읽었거나, 좋은 정보가 별로 없는 주제라서 그렇다고요.
| 틀리는 경로 | 왜 생기나 | 겉모습 | 내가 볼 것 |
|---|---|---|---|
| 자기 지식만으로 답할 때 | 모른다고 인정하기보다 찍는 쪽이 유리하게 평가됨 | 출처 없이 단정적 | 숫자·이름·날짜를 원문과 대조 |
| 검색·출처를 켰을 때 | 질문 오해, 웹 문장 오독, 자료가 빈약한 주제 | 링크가 붙어 그럴듯함 | 링크를 눌러 문장이 실제로 있는지 확인 |
점검 질문이 바뀝니다. "출처가 붙어 있나?"가 아니라 "그 출처에 그 말이 정말 있나?"입니다.
내 상황은 어디에 해당하나
| 맡기려는 일 | 맡겨도 되나 | 이유 | 붙이는 방식 |
|---|---|---|---|
| 내가 준 글 다듬기·요약·번역·형식 변환 | 맡겨도 됩니다 | 원문이 내 손에 있어 대조 가능 | 원문과 나란히 놓고 대조 |
| 초안·아이디어 나열·목차 잡기 | 맡겨도 됩니다 | 정답이 하나가 아니고 선택은 내가 함 | 문장은 내가 고쳐 씀 |
| 이름·기관명·조항·통계·인용문 확인 | 맡기지 마세요 | 만들어내는 도구에 조회를 시키는 셈 | 기관·법령 원문에서 확인 |
| 요금·제도·기능처럼 최근 바뀐 정보 | 맡기지 마세요 | 학습 시점 이후를 모르고 검색을 켜도 오독 위험 | 공식 페이지 확인 |
| 개인정보·회사 기밀이 들어가는 작업 | 조건부 | 입력 내용이 보관·검토·학습에 쓰일 수 있음 | 이름·연락처를 가리고 씀 |
| 내가 검증할 수 없는 분야의 판단 | 맡기지 마세요 | 틀렸는지조차 알 수 없음 | 의료·법률·세무는 전문가에게 |
한 줄로 줄이면 재료를 내가 주는 일은 맡기고, AI가 꺼내오는 일은 맡기지 않는 것입니다.
맡기기 전 30초 점검 순서
- 검증할 수 있나? 원문이나 원자료와 몇 분 안에 대조할 수 있으면 통과입니다. 대조할 방법이 떠오르지 않으면 거기서 멈춥니다.
- 정답이 하나인 일인가? 하나인 일(숫자·조항·날짜)은 직접 확인하고, 여러 개인 일(표현·구성·아이디어)은 맡깁니다.
- 남이 보면 안 되는 내용이 있나? 고객 이름, 연락처, 계약 금액이 있으면 가리고 씁니다.
- 답에 숫자·이름·날짜·조항이 있나? 있으면 그 부분만 1차 출처에서 확인합니다. 나머지가 좋아도 예외는 없습니다.
- 통과하지 못하면 맡기지 않습니다. 확인에 드는 시간이 직접 하는 시간보다 길면 맡길 이유가 없죠.
입력한 내용이 학습에 쓰이는지는 플랜에 따라 갈립니다
"AI에 넣은 내용은 학습에 쓰인다"는 말은 절반만 맞습니다. 개인용 계정과 업무용 환경의 기본값이 다릅니다. 개인용은 모델 개선에 쓰이는 것이 기본이거나 사용자가 직접 고르게 되어 있고, 기업·기관용 작업공간과 API는 기본적으로 학습에 쓰지 않는다고 명시한 곳이 많습니다. 구체적인 값은 아래 상자에 있습니다.
구멍이 두 개 있어요. 하나는 평가 버튼입니다. 학습 사용을 껐어도 좋아요·싫어요를 누르면 그 대화 전체가 모델 개선에 쓰일 수 있다고 OpenAI가 안내합니다. 다른 하나는 학습과 보관이 별개라는 점입니다. 구글은 제미나이 앱 안내에서 수집한 데이터 일부를 사람 검토자가 본다고 밝히며 "검토자가 보면 안 되는 기밀 정보는 입력하지 말라"고 당부합니다. 회사·학교 계정(워크스페이스)에는 허락 없이 도메인 밖 학습이나 사람 검토에 쓰지 않는다는 약속이 붙습니다.
국내 기준도 있습니다. 개인정보보호위원회는 생성형 AI 이용자용 개인정보 보호 가이드에서 학습 활용 여부, 업무 자료 입력 시 주의점, 학습 거부 설정, 대화 기록 삭제를 이용자가 직접 통제할 수 있는 기능으로 정리해 두었습니다.
이 영역의 세부 글 (준비 중)
- 「생성형 AI가 그럴듯하게 틀리는 이유와 거짓 답 가려내는 법」
- 「AI에게 질문 잘하는 기본 원칙, 원하는 답이 나오게 요청하는 법」
- 「AI로 긴 문서 요약할 때 빠지는 내용과 꼭 확인할 점」
- 「AI로 업무 메일 초안 쓸 때 개인정보와 말투에서 조심할 것」
네 편 모두 발행 전이라 제목만 적습니다.
2026년 기준 — 입력 내용의 학습 사용 기본값과 설정 경로 (2026년 9월 확인)
- ChatGPT 개인 계정: 대화가 모델 개선에 쓰이는 것이 기본. 끄는 경로는 설정 → 데이터 제어 → "모두를 위한 모델 개선" 끄기. 임시 채팅은 모델 개선에 쓰이지 않음
- ChatGPT Business·Enterprise·Edu와 API: 기본적으로 학습에 쓰지 않음
- 평가 버튼 예외: 설정을 껐어도 좋아요·싫어요를 누르면 그 대화 전체가 쓰일 수 있음
- Claude 개인 플랜(Free·Pro·Max): 학습 허용 여부를 개인정보 설정에서 선택. 허용하면 보관 기간이 5년으로 늘어남
- Claude for Work·Government·Education과 API: 기본적으로 학습에 쓰지 않음(평가 버튼을 누른 대화는 예외, 최대 5년 보관)
- 제미나이 앱 개인 계정: 활동 저장이 기본으로 켜져 있고 18개월 뒤 자동 삭제(3개월·36개월·삭제 안 함으로 변경 가능). 사람 검토를 거친 대화는 최대 3년 보관
- 구글 워크스페이스(회사·학교 계정): 허락 없이 도메인 밖 모델 학습이나 사람 검토에 쓰지 않음
- 무료 제공 범위(하루 이용 횟수, 쓸 수 있는 모델, 파일 첨부 여부): 서비스마다 다르고 자주 바뀌므로 공식 요금 안내와 도움말에서 확인
설정 이름과 메뉴 경로, 플랜 이름은 서비스가 정책을 바꾸면 함께 바뀝니다. 위 본문의 원리와 판단 순서는 그대로 유효합니다.
자주 묻는 질문
Q. 출처 링크가 붙어 있으면 믿어도 되나요?
A. 아니요. 질문을 잘못 이해하거나 웹 문장의 뉘앙스를 잘못 읽으면, 링크가 진짜 문서인데도 요약이 어긋날 수 있어요. 링크를 눌러 내가 쓰려는 문장이 거기 실제로 있는지만 확인하면 대부분 걸러집니다.
Q. 유료 플랜으로 바꾸면 틀린 답이 사라지나요?
A. 줄어들긴 하지만 없어지지 않습니다. OpenAI도 새 모델에서 환각이 크게 줄었지만 여전히 발생한다고 밝힙니다. 요금제는 이용 한도와 기능을 바꿔줄 뿐, 확인 절차를 대신하지 않습니다.
Q. 회사 문서를 그대로 붙여넣어도 될까요?
A. 회사가 계약한 업무용 환경인지부터 확인하세요. 개인 계정은 학습 사용이 기본으로 켜져 있을 수 있고, 껐더라도 대화는 일정 기간 보관되며 일부는 사람이 볼 수 있습니다. 개인 계정뿐이라면 이름·연락처·금액·거래처명을 지우고 구조만 남겨 넣으세요.
Q. 최신 정보를 물으면 왜 엉뚱한 답이 나오나요?
A. 모델에는 학습 데이터가 끊긴 시점이 있어서 그 이후 일은 검색 기능 없이는 알 수 없습니다. 서비스 공식 안내에도 특정 시점 이후에는 지식이 제한된다는 설명이 있어요. 검색을 켜면 나아지지만, 자료가 빈약한 주제에서는 품질 낮은 문서를 근거로 삼는 일이 생깁니다.
이 글의 설정 경로와 플랜별 기본값은 2026년 9월 기준으로 확인한 내용입니다. AI 서비스는 개인정보 처리 방침과 요금 구조를 수시로 손보기 때문에, 상자에 적은 설정 이름("모두를 위한 모델 개선" 같은 메뉴명), 플랜 이름, 보관 기간, 무료로 쓸 수 있는 범위는 몇 달 사이에도 달라질 수 있습니다. 같은 서비스라도 웹 브라우저와 스마트폰 앱, 앱 버전, 가입한 국가, 개인 계정인지 회사 계정인지에 따라 설정 화면의 위치와 이름이 다르게 보이는 경우가 흔합니다. 화면에서 같은 메뉴가 보이지 않으면 이름이 바뀐 것일 수 있으니 해당 서비스의 설정 화면과 공식 도움말을 함께 확인하시고, 회사 자료를 다룰 때는 소속 기관의 내부 지침을 우선 따르세요. 이 글은 특정 서비스의 가입이나 이용을 권하는 내용이 아니며, 서비스 간 우열을 매기지도 않습니다.
최종 업데이트: 2026.09.25
#생성형AI #AI사용법 #환각 #ChatGPT #제미나이 #Claude #개인정보 #모델학습 #AI업무활용
.png)
댓글
댓글 쓰기