AI가 API 키, 카드 번호 및 클라이언트 파일을 유출하지 않도록 방지 — 도구
이 문서는 번역본입니다. 기준이 되는 판본은 영어 원문이며, 인용할 때는 원문을 사용해 주세요.
대부분의 사람들은 간단한 희망을 가지고 AI를 사용합니다. 자신이 붙여넣은 것이 절대 문제가 되지 않기를 바라는 것입니다. 그런데 메시지에 카드 번호가 슬쩍 들어가고, API 키(프로그램이 유료 서비스에 접근할 때 사용하는 비밀 암호)가 명령어에 들어가거나, 클라이언트 주소의 전체 스프레드시트가 "정리"할 수 있도록 채팅에 들어갑니다. 기업들은 이를 알고 있습니다. 어떤 기업은 AI를 완전히 금지하기도 하는데, 이는 이득을 잃는 대가를 치릅니다. 다른 기업은 붙여넣는 순간 아무도 읽지 않는 정책을 작성합니다. Gatecall은 Anthropic의 AI 어시스턴트인 Claude Code용 무료 오픈소스 플러그인으로, 컴퓨터의 파일과 함께 작동합니다. 회사의 규칙을 실수가 발생하는 정확한 위치에 놓고, 사람들에게 "안 됩니다"라는 말만 하는 대신 앞으로 나아갈 길을 제시합니다.
이것을 원하는 이유
Claude Code는 컴퓨터의 파일을 읽고, 명령을 실행하고, 웹 도구를 호출할 수 있습니다. 이를 사용하는 사람들은 세션에서 비밀을 유지하는 방법을 계속 질문하고 있으며, Claude Code 저장소의 GitHub 이슈에서는 프로젝트의 지시사항이 어시스턴트에게 이들을 건드리지 말라고 했음에도 불구하고 비밀이 노출되는 경우를 설명합니다. 작성된 지시사항은 요청이고, 단계 전에 실행되는 검사는 잠금입니다. 코딩 외에 가장 잘 알려진 사례는 2023년 Samsung으로, 엔지니어들이 소스 코드와 회의 기록을 챗봇에 붙여넣었습니다. 아무도 해를 끼칠 의도가 없었습니다. 그들은 빠르게 작업하고 있었을 뿐입니다.
무엇을 얻을 수 있는가
- 메시지가 나가기 전의 차단. Gatecall은 API 키와 토큰, 카드 번호(표준 Luhn 테스트로 확인되므로 일반적인 긴 번호는 통과), IBAN(mod-97 테스트로 확인), 체크 디지트가 있는 국가 ID 번호(미국, 영국, 스페인, 포르투갈, 브라질, 프랑스, 이탈리아, 독일, 네덜란드, 폴란드, 우크라이나 및 러시아) 및 이메일 주소 또는 전화번호 목록을 찾습니다. 발견되면 메시지가 보류되며 영어, 스페인어, 포르투갈어, 러시아어 또는 우크라이나어로 평문으로 이유를 알려줍니다.
- 작업에 대한 동일한 검사. 어시스턴트가 명령을 실행하거나 웹 페이지를 가져오거나 도구를 호출하기 전에 동일한 검사가 수행됩니다.
- 빨간색, 노란색 및 녹색 폴더. 회사에 머물러야 하는 것을 보유한 폴더를 지정합니다: 클라이언트 파일, 직원 기록, 계약. 빨간색 폴더는 자신의 컴퓨터에서 실행되는 AI 모델에 의해서만 읽혀지며, 웹 도구가 없고 네트워크 프로그램이 외부로 나가지 않는 세션입니다. 노란색 폴더는 Claude Team 또는 Enterprise 시트와 같은 회사 자체 계정으로 이동할 수 있는 작업입니다. 나머지는 모두 녹색입니다.
- 다른 AI 도구를 위한 안전한 사본. Kimi는 연습 파일의 학습 폴더에서 작업할 수 있습니다. Grok은 모든 파일의 키, 카드, IBAN, ID 번호 및 주소 목록(사무실 문서 포함)이 마스크된 정리된 사본에서 작업할 수 있으므로 카드는
[card ********7899]로 표시됩니다. - 준비된 회사 프로필.
default,eu,us-federal-contractor또는us-dod-strict를 선택합니다. 회사는 정책의 한 줄로 특정 국가 또는 공급업체의 AI 서비스를 종료할 수도 있습니다. - 보안 팀을 위한 저널. 모든 차단은 종류와 규칙에 따라 기록됩니다. 값 자체는 절대 저장되지 않습니다: 회사 자체 키로 만든 지문만 저장되므로 같은 카드가 두 번 돌아오는 것을 셀 수 있습니다. 기록은 보존 기간(선택하지 않으면 90일) 후 삭제되며 스프레드시트 파일로 내보낼 수 있습니다.
구체적인 예시
소규모 회사의 회계담당자가 Claude에게 "이 고객 목록을 확인하고 연체된 고객들을 추적해 주세요"라고 요청하면서 이름, 이메일 주소, IBAN이 포함된 표를 붙여넣습니다. Gatecall이 설치되어 있으면 메시지가 전송되지 않습니다. 그녀는 한 줄의 일반 텍스트만 보게 됩니다: 이 텍스트에 IBAN과 주소 목록이 포함되어 있다는 내용입니다. 그러면 그녀는 Gatecall이 가리키는 경로를 따릅니다: 고객 폴더가 빨간색으로 표시되어 있으므로 자신의 컴퓨터에 있는 모델이 읽거나, 또는 IBAN과 주소가 마스킹된 정제된 사본을 만듭니다. 작업은 여전히 완료되며, 은행 세부 정보는 건물 내에 남아 있습니다.
시작하는 방법
Claude Code와 Python 3.8 이상이 필요합니다. 계정이나 결제가 필요하지 않습니다. Gatecall 자체는 아무것도 전송하지 않으며 아무것도 구매하지 않습니다. Claude Code에서 다음을 입력합니다:
/plugin marketplace add https://raw.githubusercontent.com/vadimchernets/poly-a1-plugins/main/.claude-plugin/marketplace.json
/plugin install gatecall@poly-a1그러면 "set up the data rules for our company"라고 말합니다. 어시스턴트가 어느 폴더가 빨간색이고 어느 폴더가 노란색인지, 어느 국가에 있는지, 어느 국가나 공급업체가 제외되는지, 저널을 얼마나 오래 보관할지를 묻습니다. company-ai-policy.json 파일과 Claude Code에 맞는 권한 블록을 작성합니다.
Gatecall은 다른 회사 플러그인들과 함께 작동합니다: Firmcall은 모든 노트북에 동일한 정책 파일을 설치하고, Routecall은 빨간색 폴더를 읽을 수 있는 로컬 모델 창을 열며, Billcall은 동일한 정책을 읽어 AI 비용이 얼마인지 계산합니다. 이들은 모두 Poly A1 플러그인 카탈로그에 있습니다.
코드, 테스트 및 전체 설정 목록은 https://github.com/vadimchernets/gatecall의 Apache-2.0 라이선스 하에 있습니다.
Vadym Chernets는 또한 서로 다른 회사의 AI들이 서로의 작업을 확인하는 앱인 Poly A1을 개발합니다.