KI daran hindern, API-Schlüssel, Kartennummern und Clientdateien zu leaken — Tools
Dies ist eine Übersetzung. Maßgeblich ist das englische Original; bitte zitieren Sie dieses.
Die meisten Menschen nutzen KI mit einer einfachen Hoffnung: dass nichts, das Sie einfügen, jemals wichtig sein wird. Dann rutscht eine Kartennummer in eine Nachricht, ein API-Schlüssel (das Geheimpasswort, das ein Programm verwendet, um auf einen kostenpflichtigen Dienst zuzugreifen) landet in einem Befehl, oder ein ganzes Tabellenkalkulationsblatt mit Clientadressen geht in einen Chat, um dort „aufgeräumt" zu werden. Unternehmen wissen das. Einige verbieten KI ganz, was sie um den Nutzen bringt. Andere schreiben eine Richtlinie, die niemand im Moment des Einfügens liest. Gatecall ist ein kostenloses, quelloffenes Plugin für Claude Code, Anthropic's KI-Assistent, der mit den Dateien auf Ihrem Computer arbeitet. Es setzt die Unternehmensregel genau dort ein, wo der Fehler passiert, und es gibt den Menschen einen Weg nach vorne statt nur ein „Nein".
Warum Sie es haben möchten
Claude Code kann Dateien lesen, Befehle ausführen und Web-Tools auf Ihrem Computer aufrufen. Menschen, die es nutzen, fragen ständig, wie man Geheimnisse aus einer Sitzung fernhält, und ein GitHub-Issue im Claude-Code-Repository beschreibt, dass Geheimnisse auftauchen, obwohl die Anweisungen des Projekts dem Assistenten sagten, sie nicht anzufassen. Eine schriftliche Anweisung ist eine Bitte; eine Prüfung, die vor dem Schritt läuft, ist eine Sperre. Der bekannteste Fall außerhalb der Programmierung ist Samsung 2023, wo Ingenieure Quellcode und ein Besprechungsprotokoll in einen Chatbot einfügten. Niemand wollte Schaden anrichten. Sie arbeiten nur schnell.
Was es Ihnen bietet
- Ein Stopp, bevor die Nachricht versendet wird. Gatecall sucht nach API-Schlüsseln und Tokens, Kartennummern (überprüft mit dem Standard-Luhn-Test, sodass gewöhnliche lange Nummern durchgehen), IBANs (überprüft mit dem mod-97-Test), nationale Ausweisnummern mit ihrer Prüfziffer (Vereinigte Staaten, Vereinigtes Königreich, Spanien, Portugal, Brasilien, Frankreich, Italien, Deutschland, Niederlande, Polen, Ukraine und Russland) und Listen von E-Mail-Adressen oder Telefonnummern. Falls es etwas findet, wird die Nachricht zurückgehalten und Sie werden in verständlichen Worten auf Englisch, Spanisch, Portugiesisch, Russisch oder Ukrainisch darüber informiert, warum.
- Die gleiche Überprüfung bei Aktionen. Bevor der Assistent einen Befehl ausführt, eine Webseite abruft oder ein Tool aufruft, findet die gleiche Überprüfung statt.
- Rote, gelbe und grüne Ordner. Sie bestimmen, welche Ordner das enthalten, was im Unternehmen bleiben muss: Kundendateien, Personalakten, Verträge. Rote Ordner werden nur von einem KI-Modell gelesen, das auf Ihrem eigenen Computer läuft, in einer Sitzung ohne Web-Tools und ohne Netzwerkprogramme, die nach außen greifen. Gelbe Ordner sind Arbeiten, die zu den eigenen Konten des Unternehmens gehen können, wie etwa Claude Team oder Enterprise-Plätze. Alles andere ist grün.
- Sichere Kopien für andere KI-Tools. Kimi kann in einem Schulungsordner mit Übungsdateien arbeiten. Grok kann an einer bereinigten Kopie arbeiten, in der Schlüssel, Karten, IBANs, Ausweisnummern und Adressenlisten in jeder Datei, einschließlich Office-Dokumenten, maskiert sind, sodass eine Karte als
[card ********7899]angezeigt wird. - Vordefinierte Unternehmensprofile. Wählen Sie
default,eu,us-federal-contractoroderus-dod-strict. Ein Unternehmen kann auch die KI-Services bestimmter Länder oder Anbieter mit einer Zeile in seiner Richtlinie deaktivieren. - Ein Journal für das Sicherheitsteam. Jeder Stopp wird nach Art und Regel dokumentiert. Der Wert selbst wird nie gespeichert: nur ein Fingerabdruck, der mit dem eigenen Schlüssel des Unternehmens erstellt wird, sodass dieselbe Karte, die zweimal kommt, gezählt werden kann. Aufzeichnungen werden nach einer Aufbewahrungsfrist gelöscht (90 Tage, sofern Sie keine andere Frist wählen) und können als Tabellenkalkulationsdatei exportiert werden.
Ein konkretes Beispiel
Eine Buchführerin in einer kleinen Kanzlei bittet Claude, „diese Kundenliste zu überprüfen und die säumigen Kunden zu kontaktieren", und fügt eine Tabelle mit Namen, E-Mail-Adressen und IBANs ein. Mit installiertem Gatecall wird die Nachricht nicht versendet. Sie sieht eine einzelne Zeile: Der Text enthält IBANs und eine Liste von Adressen. Sie folgt dann dem von Gatecall angezeigten Weg: Der Kundenordner ist rot gekennzeichnet, daher liest ein Modell auf ihrem eigenen Computer ihn aus, oder sie erstellt eine bereinigt Version, in der die IBANs und Adressen maskiert sind. Die Arbeit wird trotzdem erledigt, und die Bankdaten bleiben im Unternehmen.
Erste Schritte
Sie benötigen Claude Code und Python 3.8 oder neuer. Kein Konto und keine Zahlung sind erforderlich; Gatecall selbst sendet nichts und kauft nichts. Geben Sie in Claude Code Folgendes ein:
/plugin marketplace add https://raw.githubusercontent.com/vadimchernets/poly-a1-plugins/main/.claude-plugin/marketplace.json
/plugin install gatecall@poly-a1Sagen Sie dann „set up the data rules for our company". Der Assistent fragt, welche Ordner rot und welche gelb sind, in welchem Land Sie sich befinden, ob bestimmte Länder oder Anbieter tabu sind, und wie lange das Journal aufbewahrt werden soll. Er schreibt eine company-ai-policy.json-Datei und den passenden Berechtigungsblock für Claude Code.
Gatecall funktioniert mit den anderen Unternehmens-Plugins: Firmcall installiert die gleiche Policy-Datei auf jedem Laptop, Routecall öffnet das Local-Model-Fenster, das rote Ordner lesen darf, und Billcall liest die gleiche Policy, um zu zählen, was KI kostet. Alle befinden sich im Poly A1 Plugins-Katalog.
Der Code, die Tests und die vollständige Liste der Einstellungen befinden sich unter https://github.com/vadimchernets/gatecall, unter der Apache-2.0-Lizenz.
Vadym Chernets entwickelt auch Poly A1, eine App, in der KIs verschiedener Unternehmen die Arbeit voneinander überprüfen.