법률 업계 자체의 AI 리서치 도구조차 2024년 Stanford RegLab and HAI 연구에서 17% 넘게 틀린 답을 내놓았습니다. Westlaw의 AI-Assisted Research는 34% 넘게 틀렸습니다. 변호사용으로 만든 도구가 이 정도로 헛발질한다면, 여러분의 임대차 계약서를 읽는 범용 챗봇은 짧은 목줄에 묶어 두는 게 맞습니다.
그렇다고 AI가 계약서에 쓸모없다는 뜻은 아닙니다. 읽기 도우미로는 쓸 만하지만 법률 권위자로는 못 믿을 존재라는 뜻입니다. 눈앞의 텍스트를 빠르게 찾고, 인용하고, 요약하는 용도로 쓰면 ChatGPT, Claude, Google의 도구들은 20페이지 분량의 깨알 같은 조항을 몇 분 만에 질문 목록으로 바꿔 줍니다. 반대로 여러분이 사는 지역의 법이 무엇인지, 소송에서 이길지를 묻는 용도로 쓰면 없는 얘기를 지어냅니다.
이 글은 일반적인 정보일 뿐 법률 자문이 아니며, 어떤 AI 답변도 여러분의 사정과 관할 법을 아는 변호사를 대신하지 못합니다. 이 점을 한 번 짚어 두고, 저희가 따르는 워크플로를 순서대로, 그리고 어디서 틀어지는지와 함께 소개합니다.

업로드하기 전에 데이터 설정부터 확인하세요
임대차 계약서나 근로계약서에는 본명, 주소, 소득, 때로는 은행 계좌까지 들어 있습니다. 그 텍스트가 학습 데이터로 쓰일 수 있는지는 대부분 한 번도 열어보지 않는 토글 하나에 달려 있습니다. 기본값이 곧 정책이고, 빅3의 개인용 플랜에서는 기본값이 여러분 편이 아닙니다. 각 업체가 자체 페이지에서 밝힌 내용은 다음과 같습니다.
| 서비스 | 개인용 플랜에 대한 업체 설명 | 사용자 제어 방법 |
|---|---|---|
| ChatGPT (Free, Plus, Pro) | OpenAI는 사용자의 콘텐츠를 모델 학습에 사용할 수 있다고 밝힙니다 | 설정 > 데이터 제어에서 "모든 사용자를 위해 모델 개선"을 끄세요. 임시 채팅은 학습에 사용되지 않습니다 |
| Claude (Free, Pro, Max) | Anthropic의 2025년 소비자 약관 업데이트에 따라 채팅을 Claude 개선에 쓸지 직접 선택할 수 있습니다. 허용하면 5년, 허용하지 않으면 30일간 보관됩니다 | 개인정보 설정에서 조정. 비즈니스 및 API 계정은 별도 약관이 적용됩니다 |
| Gemini 앱 | Google은 일부 채팅을 사람 검토자가 읽는다고 밝힙니다. 검토된 채팅은 활동을 삭제해도 최대 3년간 보관됩니다 | Keep Activity를 끄면 이후 채팅이 Google 서비스 개선을 위해 검토되는 것을 막을 수 있습니다. 임시 채팅을 써도 됩니다 |
Google의 조언은 직설적입니다. Keep Activity가 켜져 있다면 "기밀이거나, 검토자가 보거나 Google이 서비스 개선에 사용하는 것을 원치 않는 데이터는 입력하지 마세요." 계약서는 이 설명에 딱 들어맞습니다. 이런 정책을 일반적으로 어떻게 읽는지는 AI 도구 개인정보 프레임워크에서 다룹니다.
Google의 노트북 제품은 상대적으로 나은 편입니다. 지금 NotebookLM이 속해 있는 Gemini Notebook 도움말 페이지에는 피드백을 제공하지 않는 한 데이터가 "Gemini Notebook 학습에 사용되지 않는다"고 나와 있으며, 피드백을 남기면 전체 상호작용이 검토 대상이 될 수 있습니다. Gemini 안의 노트북은 방식이 다릅니다. Google 개인정보 허브에 따르면 소스로 추가한 파일은 생성형 모델 학습에 직접 사용되지 않지만, 노트북과 나눈 채팅은 Keep Activity 설정을 따르며 사람이 검토할 수 있습니다. 이런 차이 때문에 업로드 전에 어느 제품의 페이지가 적용되는지 확인하라고 권합니다. 이런 도구들이 문서를 어떻게 다루는지 더 자세히 보려면 NotebookLM, ChatGPT Projects, Claude Projects 비교와 NotebookLM 상세 페이지를 참고하세요.
실제 계약서를 붙여 넣는 분께 드리는 저희의 추천은, 첫 붙여넣기 전에 학습 토글을 끄거나 임시 채팅을 쓰는 것입니다. 영업 비밀이나 고객 데이터가 담긴 비즈니스 계약이라면, 기본적으로 학습이 꺼져 있는 유료 비즈니스 플랜이 더 안전한 자리입니다. OpenAI는 ChatGPT Business, Enterprise, Edu와 API가 기본적으로 학습에 사용되지 않는다고 밝히고 있습니다. ChatGPT에는 한 가지 함정이 있습니다. 옵트아웃했더라도 응답에 좋아요나 싫어요를 누르면, 그 피드백이 붙은 대화 전체가 학습에 사용될 수 있다고 OpenAI는 말합니다. 계약서 채팅에서는 엄지 버튼을 누르지 마세요.
개인정보부터 지우세요
가리는 작업은 5분이면 끝나고, 설정이 어떻든 모든 도구에서 통합니다. 찾아 바꾸기만으로 충분합니다.
- 사람과 회사 이름은 [TENANT], [LANDLORD], [CLIENT], [VENDOR]로 바꿉니다.
- 도로명 주소, 호수, 필지 번호나 등록 번호는 [PROPERTY]로 바꿉니다.
- 은행, 카드, 세금, 신분증 번호와 전화번호, 이메일은 아예 삭제합니다.
- 서명, 서명 이미지, 신분증을 스캔한 부분은 PDF를 올리기 전에 잘라냅니다.
금액, 날짜, 조항 번호는 그대로 두세요. AI가 쓸모 있으려면 이 정보가 필요하고, 이것만으로는 누구도 식별되지 않습니다. 스캔한 PDF라 텍스트를 선택할 수 없다면 먼저 OCR을 돌리고 결과를 확인하세요. 월세 금액의 숫자 하나가 잘못 읽히면 요약에 그대로 반영되기 때문입니다.
습관이 하나 더 있습니다. AI에게 어디 사는지 알려주세요. 임대차, 경업금지, 소비자 약관은 주, 도, 국가마다 다르고, 알려주지 않으면 모델이 임의로 법체계를 골라 버립니다.
결론이 아니라 인용문을 요구하세요
계약서 프롬프트를 가장 크게 개선하는 방법은 의역을 금지하는 것입니다. 정확한 문장, 그 위치, 그리고 원문과 눈에 띄게 분리된 쉬운 말 풀이를 요구하세요. 이렇게 분리해야 답을 검증할 수 있습니다.
I'm a non-lawyer reading a residential lease. Jurisdiction: [state or province, country].
Use only the document pasted below. Do not rely on outside knowledge of the law.
For each topic, give me:
1. The exact sentence(s), copied word for word, in quotation marks.
2. The section number or heading.
3. One sentence on what it means for me, labeled "Plain English".
If the document does not address a topic, write NOT ADDRESSED. Do not guess.
Topics: rent and late fees, deposit and how it's returned, term and renewal,
ending the agreement (both sides), repairs, landlord entry, subletting,
penalties, who pays for what, how disputes are handled.
[DOCUMENT, personal details replaced with placeholders]이용약관이나 개인정보 처리방침이라면 주제 목록을 바꾸세요. 회사가 내 콘텐츠로 무엇을 할 수 있는지, 약관을 언제 어떻게 바꿀 수 있는지, 해지와 환불은 어떻게 하는지, 중재나 집단소송 포기 조항은 무엇인지, 문제가 생기면 누가 책임지는지 등입니다. 프리랜서 계약이나 거래처 계약이라면 대금 지급 시기, 결과물의 소유권, 해지 통보, 책임 한도, 자동 갱신, 독점 조항을 보면 됩니다.
두 번째 프롬프트는 없는 내용을 찾습니다. AI가 진가를 발휘하는 부분입니다. 사람이 임대차 계약서를 훑을 때는 적혀 있는 것만 보이고, 빠진 것은 좀처럼 눈에 들어오지 않기 때문입니다.
Based only on the document, list provisions that a [residential lease / freelance
services agreement] in [jurisdiction] commonly contains that this one lacks.
For each, say in one line why a person might want it and label it "common"
or "varies". Do not say any provision is legally required. End with five
questions I should ask the other party or a lawyer.출력은 질문 목록으로 취급하세요. AI가 표준 조항이 없다고 말했다면 어디를 봐야 하는지 알려준 것일 뿐입니다. 무엇이 표준인지도, 정말 없는지도 틀렸을 수 있습니다.
인용문 검증은 10분이면 됩니다
원본 문서를 채팅 옆에 열어 두세요. AI가 준 인용문마다 검색 기능(Ctrl+F 또는 Cmd+F)을 쓰고, 인용문에서 특징적인 구절을 붙여 넣습니다. 결과는 세 가지입니다. 일치하거나, 단어가 바뀐 채 일치하거나, 아예 없거나. 두 번째와 세 번째는 둘 다 실제로 일어나며, 어떤 조항에 의존하려 했는지 알아야 합니다.
간단한 테스트 두 가지로 대부분의 문제를 잡을 수 있습니다. AI가 인용한 조항 번호가 실제로 존재하고, 그 조항이 인용문과 같은 내용을 말하고 있나요? AI가 인용한 조항이 문서 뒤쪽의 다른 조항, 예컨대 정의 조항이나 이를 덮어쓰는 부속 합의서에 의해 수정되지는 않나요? 이런 상호 참조는 모델이 놓치기 쉽지만 여러분이 확인하기는 쉽습니다.
Re-read your answers. For each quote, say whether it appears word for word in the
document. List every quote you shortened, reordered or combined from different
sections, and every statement that goes beyond the text.세 번째 프롬프트는 유용하지만 검증은 아닙니다. 오류를 낸 바로 그 시스템에게 스스로 채점하라고 시키는 셈이므로, 판정이 아니라 직접 검색해 보라는 신호로 취급하세요. AI 출력을 팩트체크하는 법 가이드에서 일반적인 절차를 다루지만, 계약서에서는 문서 자체가 유일하게 의미 있는 출처입니다.
문서가 길면 나누세요. 한 번에 한 섹션씩 붙여 넣거나, 먼저 조항 번호가 달린 목차를 요청한 뒤 특정 조항에 대해 물어보세요. 입력이 짧을수록 검증하기 쉬울 것으로 봅니다. 각 답변이 가리키는 텍스트 범위가 짧아지기 때문입니다.
답이 틀어지는 지점
Stanford 연구진은 실패 패턴을 잘 정리해 두었고, 이는 계약서 질문에 그대로 들어맞습니다. 2024년 벤치마크 보고서에서 연구진은 범용 챗봇이 법률 질문에서 58%에서 82% 사이의 확률로 환각을 일으켰다는 이전 연구를 언급합니다. (2024년의 다른 Stanford 글은 특정 법률 질문에서 69%에서 88%라고 보고하는데, 이는 측정 방식이 달라 둘을 섞어 쓰면 안 됩니다.) 이 이전 연구는 모델이 질문이 깔고 있는 전제를 그대로 받아들이는 경향도 발견했고, 이를 반사실적 편향(contra-factual bias)이라고 부릅니다. "집주인이 90일 전에 통보해야 하는 이유가 뭐죠?"라고 물으면, 사는 곳에 그런 규정이 없어도 이유를 대답해 줄 수 있습니다.
이 수치는 2024년 것이고, 이후 교체된 모델들을 대상으로 한 것입니다. 최신 어시스턴트의 현재 오류율은 알 수 없고, 모든 관할 지역의 계약서를 아우르는 수치를 어느 업체가 내놓을 수 있을지도 의문입니다. 쓸모 있는 부분은 실패 유형입니다. 그것들은 사라지지 않았으니까요.
관할권. 임대차, 고용, 소비자 규정은 주, 도, 국가마다, 때로는 도시마다 다릅니다. 따로 말하지 않으면 모델이 미국 기준을 기본으로 삼을 수 있습니다. 프롬프트에 위치를 밝히고, 법에 관한 주장은 공식 사이트에서 확인하세요.
지어냈거나 출처가 잘못된 조항. Stanford는 두 번째 유형의 오류를 misgrounded라고 부릅니다. 법을 정확하게 말하면서도 이를 뒷받침하지 않는 출처를 인용하는 경우입니다. 계약서 작업에서는 그럴듯한 조항을 9.2조의 내용이라고 하는데 실제 9.2조는 다른 내용을 말하는 경우가 이에 해당합니다. 앞에서 말한 인용문 검증이 선택이 아닌 이유입니다.
오래된 법. 2024년 연구에서 한 법률 도구는 2022년에 대법원이 뒤집은 기준을 읊었습니다. 보증금, 통지 기간, 수수료, 경업금지에 관한 규정은 자주 바뀝니다. 모델의 학습 시점은 언제나 법전보다 뒤처져 있습니다.
여러분의 가정에 동조. 프롬프트에 "이 조항은 불법이죠?"라고 쓰면 대개 그렇다는 답을 듣게 됩니다. 질문은 중립적으로 하세요. "이 조항은 집주인이 무엇을 하도록 허용하나요?"가 "정말 이렇게 해도 되는 건가요?"보다 나은 프롬프트입니다.
계약서 전용 도구가 필요할까요?
임대차 계약서 하나라면 아마 필요 없습니다. Spellbook 같은 전용 제품은 거래 전문 변호사를 겨냥하고 있고, Claude에서 돌아가는 Spellbook 사례 연구는 법무팀의 대량 업무를 다룹니다. Spellbook은 ToolRank의 AI 앱 중 546위입니다. 계약 검토 및 작성 보드와 AI 법률 어시스턴트 보드에서 선택지를 볼 수 있고, Legalese to English 같은 가벼운 브라우저 도구는 난해한 문구를 쉽게 풀어 주는 용도로 있습니다.
Stanford의 결과는 이런 홍보 문구에 신중해야 하는 이유입니다. 법률 데이터베이스에서 검색하는 도구는 범용 챗봇보다 오류가 적고 Stanford도 그렇게 말하지만, 연구진 스스로 정리한 결론은 "이런 맞춤형 법률 AI 도구조차 여전히 놀라울 만큼 자주 환각을 일으킨다"는 것이었습니다. 한 달에 거래처 계약서가 쌓이는 기업이라면 구독료가 정당화될 수 있습니다. 임대차 계약서 한 장을 쥔 세입자는 그렇지 않습니다. 이런 도구의 데이터 정책도 챗봇만큼 꼼꼼히 확인하세요. 같은 문서를 올리게 되니까요. 더 넓은 분야는 법률 서비스 보드를 참고하세요.
변호사를 써야 할 때
AI는 여러분이 준비된 상태로 찾아가게 해서 변호사 시간 비용을 줄여 줄 수 있습니다. 표시해 둔 조항 목록, 빠진 항목, 그리고 질문을 들고 가면 됩니다. 하지만 그 한 시간을 대체하지는 못합니다. 저희가 나름대로 위험도가 낮은 작업부터 높은 작업까지 분류하면 다음과 같습니다.
그 선에서 오른쪽으로 갈수록 틀렸을 때 치르는 비용이 큽니다. 서명 뒤에 큰 돈, 기한, 집, 사업이 걸려 있다면 면허를 가진 변호사에게 비용을 쓰는 것이 합리적입니다. 상업용 임대차, 개인 보증이 붙은 계약, 경업금지, 동업이나 투자 계약, 받은 퇴거 통지서나 청구서 등이 그렇습니다. 짧은 상담이나 정액제 문서 검토가 가능한지 먼저 물어보세요. 시간제로 끝없이 쓰는 것보다 저렴한 경우가 많습니다.

비용이 보통 가장 큰 반론이지만, 무료 경로도 있습니다. American Bar Association의 Find Legal Help 사이트는 변호사 소개, 저소득층 자격이 되는 사람을 위한 무료 법률 지원, 법을 쉽게 설명해 주는 ABA Law for Consumers 페이지를 안내합니다. USA.gov는 LawHelp.org와 저소득층을 위한 ABA 무료 법률 답변 서비스를 포함한 법률 구조 프로그램을 소개합니다. 미국 밖이라면 국가나 지역 변호사 협회, 소비자 기관이 같은 역할을 합니다. 여러분이 사는 곳의 법이 무엇인지는 챗봇이 아니라 이런 곳에서 확인해야 합니다.
저희가 좋아하는 AI의 마지막 활용법이 하나 있습니다. 변호사를 만나기 전에, 검증을 마친 인용문 표를 질문 한 장짜리 요약으로 정리해 달라고 하세요. 변호사가 읽는 시간에 드는 비용이 줄고, 변호사는 AI가 해석한 버전이 아닌 실제 텍스트를 보게 됩니다.
자주 묻는 질문
임대차 계약서를 ChatGPT, Claude, Gemini에 업로드해도 안전한가요?
설정에 따라 다릅니다. 개인용 플랜에서 ChatGPT는 옵트아웃하지 않으면 채팅으로 학습할 수 있고, Claude는 선택하도록 요청하며, Gemini의 사람 검토 표본 추출은 Keep Activity에 달려 있습니다. 해당 설정을 끄거나 임시 채팅을 사용하고, 먼저 이름, 주소, 계좌번호를 지우세요.
AI가 조항이 합법인지, 효력이 있는지 알려줄 수 있나요?
믿을 만하게는 못 합니다. 효력은 관할 지역, 현행 법령, 사실관계에 달려 있고, Stanford 연구는 모델이 법과 그 최근 변경 사항을 모두 틀린다는 점을 보여 줍니다. AI는 조항을 찾고 설명하는 데 쓰고, 규정은 공식 출처나 변호사에게 확인하세요.
AI가 없는 조항을 지어내지 않게 하려면 어떻게 하나요?
인용하게 하세요. 원문 그대로의 텍스트와 조항 번호를 요구하고, NOT ADDRESSED라는 답을 허용하고, 가지고 있는 문서 사본에서 검색 기능으로 모든 인용문을 확인하세요. 프롬프트로 오류를 없앨 수는 없지만, 인용 요구 덕분에 오류가 눈에 보이게 됩니다.
이용약관과 개인정보 처리방침에도 이 방법이 통하나요?
네, 오히려 더 쉬운 경우입니다. 문서가 공개되어 있고 보통 가릴 정보가 없기 때문입니다. 콘텐츠 소유권, 약관 변경, 해지, 중재, 데이터 공유 같은 주제를 넣어 인용문 우선 프롬프트를 똑같이 쓰세요.
계약서에는 어떤 AI 도구가 가장 좋나요?
일회성 임대차 계약서나 정책 문서라면, 데이터 설정만 맞으면 주요 어시스턴트 세 가지 중 어느 것이든 읽기 작업을 해낼 수 있습니다. 계약서 전용 플랫폼은 많은 계약을 검토하는 팀에 어울립니다. 어느 쪽을 택하든 인용문 검증을 대신하지는 못합니다.