회사 자료를 AI에 넣기 전에 — 유출은 어디서 일어나는가

사내 자료 유출 사고를 떠올리면 대개 해킹을 상상한다. 실제 통계는 다르다. 평범한 업무 행위에서 시작되는 경우가 훨씬 많다. AI 도구가 늘면서 그 경로가 몇 개 더 생겼다.

중요한 구분이 하나 있다. “AI가 위험하다”가 아니라 “어느 경로로 넣었는가” 가 위험을 정한다. 같은 문서를 같은 모델에 넣어도 회사 계약 계정과 개인 무료 계정은 완전히 다른 사건이다.

자료가 나가는 여섯 개의 길

1. 개인 계정 붙여넣기

가장 흔하다. 회사 문서를 개인 계정 챗봇에 붙여 요약을 시킨다. 이 경우 그 내용은 회사와 아무 계약이 없는 서비스의 저장소로 들어간다. 학습 데이터 사용 여부와 보관 기간이 회사 통제 밖이다.

2. 브라우저 확장 프로그램

“페이지 요약”, “메일 자동 작성” 류의 확장은 대개 현재 열려 있는 모든 페이지의 내용을 읽을 권한을 요구한다. 사내 관리 도구, 인사 시스템, 고객 관리 화면도 포함된다. 확장이 그 내용을 어디로 보내는지는 설치할 때 권한 문구에만 적혀 있다.

3. 화면을 읽는 에이전트

최근 도구들은 화면 내용을 인식해 작업을 돕는다. 편리한 만큼, 열려 있던 다른 창의 내용까지 캡처 범위에 들어가는지를 확인해야 한다.

4. 코드 저장소

에이전트형 코딩 도구는 맥락을 모으려고 저장소를 훑는다. .env, 인증서, 고객 데이터가 들어간 테스트 픽스처가 함께 읽힌다. 제외 설정이 있지만 도구를 바꾸면 설정도 새로 해야 한다.

5. 중계·자동화 서비스

여러 AI를 한 화면에서 쓰게 해주는 서비스, 자동화 플랫폼, 사설 게이트웨이는 중간에서 내용을 한 번 받는다. 최종 모델 사업자의 정책이 아니라 중계 서비스의 정책이 적용된다.

6. 결과물의 재유통

요약본과 번역본이 사내 위키, 메신저, 외부 공유 링크로 퍼진다. 원본에 걸려 있던 접근 권한이 사본에는 안 걸린다. 유출은 여기서 완성되는 경우가 많다.

조직이 정해야 할 것

금지 공지 한 장으로는 안 된다. 금지하면 개인 계정으로 숨어서 쓰고, 그때부터는 통제가 불가능해진다. 쓸 수 있는 길을 열어두고 그 길로만 다니게 하는 편이 실효성이 높다.

1. 계약된 기업용 경로를 제공한다. 학습 제외와 보관 기간이 계약으로 정해진 계정을 주는 것이 가장 효과가 크다
2. 자료를 등급으로 나눈다. 공개 / 사내 / 대외비 / 개인정보 포함 네 단계면 충분하다. 등급별로 어느 도구까지 되는지 표로 만든다
3. 브라우저 확장을 관리한다. 업무용 브라우저에서는 허용 목록 방식으로 운영한다
4. 비밀값을 저장소 밖으로 옮긴다. 제외 설정보다 확실하다
5. 로그를 남긴다. 어떤 도구가 쓰이는지 모르면 사고 후 범위 파악이 불가능하다

개인이 지킬 최소한

조직 규정이 아직 없다면, 개인 차원에서 통하는 기준은 이렇다.

• 고객사명·계약 조건·미공개 일정·인사 정보는 넣지 않는다. 개인정보가 아니어도 유출되면 곤란한 정보다
• 넣기 전에 한 번 치환한다. 회사명·사람 이름·금액을 A사·담당자·X원으로 바꾸면 대부분의 작업은 그대로 된다
• 개인 계정과 업무 계정을 섞지 않는다
• 결과물을 공유할 때 원본의 접근 권한을 다시 확인한다

치환은 번거로워 보이지만, 실제로는 AI에게 맥락을 정리해서 주는 일이라 결과가 더 좋아지는 경우가 많다.

사고가 났다고 판단되면

1. 무엇을, 어느 서비스에, 어느 계정으로 넣었는지 기록한다
2. 해당 서비스에서 대화·파일을 삭제하고, 계정 설정에서 학습 사용을 끈다
3. 보안 담당 또는 정보보호 책임자에게 알린다. 개인정보가 포함됐다면 법정 통지 의무가 생길 수 있다
4. 유출된 자격증명이 있으면 즉시 회전(재발급)한다

삭제가 곧 회수는 아니다. 대부분의 서비스는 삭제 후에도 일정 기간 내부 보관 조항을 두고 있다. 그래서 3번을 건너뛰면 안 된다.

정리

1. 위험을 정하는 것은 모델이 아니라 자료가 지나간 경로다
2. 실제 경로는 개인 계정 붙여넣기, 브라우저 확장, 화면 인식 에이전트, 코드 저장소, 중계 서비스, 결과물 재유통 여섯 가지다
3. 금지보다 계약된 경로 제공이 효과가 크다. 금지하면 개인 계정으로 숨는다
4. 개인은 고객사명·계약 조건·인사 정보를 넣지 않고, 넣기 전에 치환하는 것만으로 대부분을 막는다
5. 삭제는 회수가 아니다. 사고로 판단되면 보고 절차를 밟아야 한다

자주 묻는 질문

회사가 AI 사용을 금지하면 어떻게 하나요?

규정을 따르는 것이 먼저입니다. 다만 실무에서는 금지가 음성적 사용으로 이어지는 경우가 많아, 담당 부서에 기업용 계정 도입을 요청하는 것이 현실적인 해법입니다. 요청할 때는 어떤 업무에 무엇이 필요한지 구체적으로 적는 편이 통과 확률이 높습니다.

기업용 계정이면 정말 안전한가요?

계약으로 학습 제외와 보관 기간이 정해지므로 개인 계정보다 훨씬 낫습니다. 다만 계정 안에서 누가 무엇을 넣는지는 여전히 사람의 문제이고, 결과물이 재유통되는 경로도 계약으로 막히지 않습니다.

로컬에서 도는 모델을 쓰면 유출 위험이 없나요?

외부 전송이 없다는 점에서 경로 하나가 사라집니다. 다만 그 기기 자체의 보안, 로그 파일, 백업 경로는 그대로 남습니다. 또한 성능과 운영 비용을 함께 고려해야 하므로 모든 업무의 답이 되지는 않습니다.

번역기에 계약서를 넣는 것도 위험한가요?

같은 문제입니다. 번역 서비스도 입력을 저장하고 품질 개선에 활용할 수 있으며, 계약서는 대외비인 경우가 대부분입니다. 기업용 계약이 된 서비스를 쓰거나, 고유명사와 금액을 치환한 뒤 넣는 것이 안전합니다.