Formation IA pour développeurs · Jour 2 · Atelier 4

Sécuriser un workflow IA sur une requête SQL sensible

« L'agent écrit la requête. Il ne voit aucune donnée réelle, et il ne peut rien modifier. »

Votre application, ou la base fictive ci-dessous Dans l'IDE ou en CLI 60 minutes, correction comprise Parcours relecture sans code

La règle du jeu

Vous allez faire écrire par votre agent une recherche dans une table de votre application qui contient des données personnelles : des clients, des utilisateurs, des adhérents… La recherche se fait par un champ exact (un e-mail, un identifiant) ou par un champ partiel (un nom, une ville).

C'est vous qui choisissez la table, les champs de recherche et les colonnes sensibles. Dans les prompts, remplacez chaque [crochet] par les vôtres. Les exemples de la fiche utilisent la base fictive (table clients, dossier data/) : adaptez-les à votre application.

Quatre étapes : l'agent travaille sans voir de données réelles, vous vérifiez vous-même ce qu'il produit, vous l'empêchez de modifier la base, puis vous apprenez à lui donner un log sans rien laisser fuir.

À la fin, votre dépôt contient le schéma de la table (docs/schema.txt), des données de test fictives, une règle qui bloque les secrets et les données, testée, une fonction de recherche avec son test d'injection, et un script de masquage de logs avec son test. Vous gardez votre checklist pour l'atelier 6.

1Préparer le contexte
Le schéma, des données fictives, une règle qui bloque. 15 min
2Faire écrire et vérifier
Une requête paramétrée et son test d'injection. 15 min
3Verrouiller
Lecture seule, base de test, tests à la fin. 10 min
4Masquer un log
Un script testé, puis un log masqué donné à l'agent. 10 min
✓Correction
La checklist, ensemble. 10 min

Avant de commencer

Pas de base dans votre application ?

Prenez l'application de secours (lien dans le chat), ou créez une base fictive en une minute. Ce script n'a besoin que de Python 3, sans aucune dépendance. Lancez-le vous-même, pas par l'agent.

creer_base.py · puis python creer_base.py
"""Crée data/clients.db avec 200 clients fictifs. Aucune dépendance."""
import random
import sqlite3
from pathlib import Path

PRENOMS = ["Marie", "Jean-Pierre", "Zoë", "Awa", "Lucas", "Nguyễn", "Inès", "Hugo", "Fatou", "Léa"]
NOMS = ["Durand", "N'Diaye", "Martin", "Lefèvre", "Benali", "Moreau", "Tran", "Dubois", "Kowalski", "Petit"]

Path("data").mkdir(exist_ok=True)
base = sqlite3.connect("data/clients.db")
base.execute("DROP TABLE IF EXISTS clients")
base.execute("""CREATE TABLE clients (
    id INTEGER PRIMARY KEY,
    nom TEXT NOT NULL,
    email TEXT NOT NULL UNIQUE,
    date_naissance TEXT,
    iban TEXT
)""")
random.seed(42)
for i in range(1, 201):
    prenom, nom = random.choice(PRENOMS), random.choice(NOMS)
    base.execute(
        "INSERT INTO clients (nom, email, date_naissance, iban) VALUES (?, ?, ?, ?)",
        (f"{prenom} {nom}", f"client{i}@exemple.test",
         f"{random.randint(1950, 2005)}-{random.randint(1, 12):02d}-{random.randint(1, 28):02d}",
         "FR76" + "".join(random.choice("0123456789") for _ in range(23))),
    )
base.commit()
print("data/clients.db : 200 clients fictifs")

Ces données sont fictives, mais traitez-les comme si elles étaient réelles : c'est ce que vous ferez au travail. Ajoutez data/ à votre .gitignore.

Étape 1 · Préparer le contexte (15 min)

1. Le schéma, sans les données

L'agent a besoin de la structure de la table, pas de son contenu. Extrayez-la vous-même :

schema.py · puis python schema.py [votre fichier de base] > docs/schema.txt
"""Affiche le schéma de la base, sans aucune ligne de données."""
import sqlite3
import sys

base = sqlite3.connect(f"file:{sys.argv[1]}?mode=ro", uri=True)
for (ddl,) in base.execute("SELECT sql FROM sqlite_master WHERE sql IS NOT NULL"):
    print(ddl + ";")
Votre baseCommande pour le schéma seul
SQLitepython schema.py [fichier.db], ou sqlite3 [fichier.db] .schema si l'outil sqlite3 est installé
PostgreSQLpg_dump --schema-only --no-owner -t [table] [base]
MySQL ou MariaDBmysqldump --no-data [base] [table]
Un ORM (Prisma, Doctrine, Hibernate, Entity Framework…)Le fichier de modèle ou de migration suffit : c'est déjà le schéma, sans données.

Piège : n'appelez pas ce fichier schema.sql. La règle que vous allez poser bloque les fichiers *.sql : l'agent ne pourrait plus le lire. Gardez docs/schema.txt.

2. Des données fictives pour les tests

Prompt · Données de test
Lis docs/schema.txt. Écris, pour les tests de ce projet, des données fictives pour la table [votre table] : cinq lignes, dans une base de test (en mémoire si possible). Varie les noms : un accent, une apostrophe, un trait d'union, un nom non latin. E-mails en @exemple.test, et aucune donnée réelle pour [vos colonnes sensibles : IBAN, téléphone, adresse…]. N'ouvre aucun fichier de [votre dossier de données].

3. Une règle qui bloque les secrets, les dumps et les données

Vous avez déjà interdit .env. Étendez la règle aux dumps et au dossier où vivent vos données. Dans les exemples ci-dessous, c'est data/ : remplacez-le par le vôtre (db/, storage/, var/…).

Claude Code

.claude/settings.json
{
  "permissions": {
    "deny": [
      "Read(./.env)", "Read(./.env.*)",
      "Read(./**/*.sql)", "Read(./**/*.dump)",
      "Read(./data/**)"
    ]
  }
}

VS Code et Copilot (aperçu)

Remplacez le hook proteger-env de l'atelier 2 par celui-ci, qui couvre aussi les dumps et data/. Il demande Node.js.

.github/hooks/proteger-donnees.json
{
  "version": 1,
  "hooks": {
    "preToolUse": [
      { "type": "command", "command": "node .github/hooks/proteger-donnees.cjs", "timeoutSec": 10 }
    ]
  }
}
.github/hooks/proteger-donnees.cjs
let entree = '';
process.stdin.on('data', (morceau) => (entree += morceau));
process.stdin.on('end', () => {
  // .env, dumps SQL et dossier data/ : interdits à l'agent.
  if (/\.env\b|\.sql\b|\.dump\b|\bdata[\\/]/.test(entree)) {
    console.log(JSON.stringify({
      permissionDecision: 'deny',
      permissionDecisionReason: "Secrets, dumps et données réelles sont interdits à l'agent."
    }));
  }
});

Testez : « Affiche le contenu de [un fichier de votre dossier de données]. » L'outil doit refuser. Si l'agent affiche le fichier, vérifiez le chemin de la règle, puis redémarrez la session.

Critère de l'étape 1 : rien de réel et aucun secret dans ce que l'agent peut lire. Ce qu'il voit : le schéma et des données fictives.

Étape 2 · Faire écrire et vérifier (15 min)

Prompt · La recherche
Écris une fonction qui cherche dans la table [votre table], par [un champ exact, par exemple l'e-mail] ou par [un champ partiel, par exemple le nom], à partir du schéma de docs/schema.txt. Requête paramétrée, aucune concaténation de la saisie. Ne renvoie que les colonnes utiles à un écran de recherche : pas de [vos colonnes sensibles, par exemple date de naissance, IBAN]. Ajoute les tests, dont un test qui passe ' OR '1'='1 dans [le champ exact] et vérifie qu'aucune ligne n'est renvoyée. Lance les tests.

Vérifiez vous-même, ne le demandez pas à l'agent

Une question à vous poser : que renvoie votre fonction quand le champ partiel est vide ? Ajoutez ce cas à vos tests.

Si l'agent a concaténé la saisie

Ne corrigez pas à la main : faites-lui expliquer.

Prompt · Correction
Pourquoi cette requête est-elle vulnérable ? Montre-moi une saisie qui renverrait toute la table. Corrige-la avec une requête paramétrée, et ajoute le test qui le prouve.

Étape 3 · Verrouiller (10 min)

Une consigne « ne modifie pas la base » dans AGENTS.md ne suffit pas. Choisissez au moins une mesure appliquée par un outil.

MesureComment
SQLite en lecture seuleLe code lancé par l'agent ouvre la base en lecture seule. Exemple en Python, avec la base fictive :
sqlite3.connect("file:data/clients.db?mode=ro", uri=True)
Toute écriture échoue : attempt to write a readonly database. Dans un autre langage, demandez à l'agent : « Ouvre la base en lecture seule pour le code que tu lances. »
PostgreSQL : un rôle sans écritureCREATE ROLE agent_lecture LOGIN PASSWORD '…';
GRANT CONNECT ON DATABASE app_test TO agent_lecture;
GRANT USAGE ON SCHEMA public TO agent_lecture;
GRANT SELECT ON ALL TABLES IN SCHEMA public TO agent_lecture;
Sur une base de test, jamais sur la production. Le mot de passe va dans une variable d'environnement.
Les clients SQL demandent votre accordClaude Code : "ask": ["Bash(sqlite3 *)", "Bash(psql *)", "Bash(mysql *)"] dans permissions.
VS Code : ne mettez pas ces commandes dans chat.tools.terminal.autoApprove.
Les tests tournent à la finLe hook de fin de l'atelier 2 (verifier.json), avec votre commande de test.

Testez : « Supprime toutes les lignes de [votre table]. » L'agent doit être bloqué par la lecture seule, ou vous demander l'autorisation.

Étape 4 · Masquer un log (10 min)

Un jour, vous aurez besoin de faire analyser un vrai log d'erreur. Il contiendra des e-mails, des IBAN, des clés. À la main, on en oublie toujours un : le masquage se fait par un script, écrit une fois, testé, et rangé dans le dépôt.

Prompt · Le script de masquage
Écris, dans le langage de ce projet, un script qui lit un fichier de log et le réécrit masqué : adresses e-mail, IBAN, clés d'API (sk_live_…, sk_test_…), et identifiants des chaînes de connexion (utilisateur, mot de passe, hôte). Chaque valeur est remplacée par un marqueur numéroté, <EMAIL_1>, <IBAN_1>, et une même valeur garde le même marqueur partout dans le fichier. Ajoute un test, uniquement sur des données fictives, avec l'exemple que je te donne. Lance le test.
Le log fictif à mettre dans le testCe que le script doit produire
user=marie.durand@exemple.fr iban=FR76 0000 0000 0000 0000 0000 000
token=sk_live_51Hx9AbCdEf db=postgres://app:Pa55w0rd@10.0.3.12/clients
WARN retry for marie.durand@exemple.fr
user=<EMAIL_1> iban=<IBAN_1>
token=<CLE_1> db=postgres://<USER>:<PASSWORD>@<HOST>/clients
WARN retry for <EMAIL_1>

Piège : app:Pa55w0rd@10.0.3.12 ressemble à une adresse e-mail. Si le script masque les e-mails d'abord, le mot de passe reste en clair. Les chaînes de connexion se masquent en premier.

Puis servez-vous-en : provoquez une erreur dans votre application, masquez le log avec le script, et donnez seulement le log masqué à l'agent : « Explique cette erreur. » Il la comprend aussi bien.

Critères de réussite

Gardez cette checklist : elle ira dans votre charte, à l'atelier 6.

Parcours relecture (RSSI, chefs de projet)

Un participant volontaire partage son écran. Avec la checklist ci-dessus, posez-lui ces questions :

  1. Qu'est-ce que l'agent a pu lire ? Montrez-moi la règle, et son test.
  2. Où la saisie entre-t-elle dans la requête ?
  3. Que se passe-t-il si je tape ' OR '1'='1 ? Et si je ne tape rien ?
  4. Quelles colonnes sortent de la base ? Toutes sont-elles utiles ?
  5. Avec quel compte l'agent se connecte-t-il ? Sur quelle base ?

En cas de blocage

SymptômeQue faire
sqlite3 : commande introuvableNormal sous Windows : utilisez schema.py, qui ne demande que Python.
L'agent lit quand même votre dossier de donnéesClaude Code : chemin relatif à la racine du projet, puis nouvelle session. Copilot : vérifiez que le hook est dans .github/hooks/ et que Node.js est installé. Les hooks de VS Code sont en aperçu : en dernier recours, sortez ce dossier du projet.
L'agent ne lit plus le schémaLe fichier s'appelle-t-il .sql ? Renommez-le en docs/schema.txt.
Le test d'injection échoue sur une requête paramétréeRegardez ce que renvoie la recherche quand le champ partiel est vide.
Le script de masquage laisse passer le mot de passeIl masque les e-mails avant les chaînes de connexion. Inversez l'ordre.
Votre application ne produit pas de logPrenez le log fictif du tableau de l'étape 4.
Quota gratuit épuiséPassez sur le modèle local Ollama.

Bonus · Attaquez votre propre requête

Vous avez fini en avance ? Changez de rôle : demandez à l'agent de jouer l'attaquant contre votre fonction de recherche.

Prompt · L'attaquant
Joue l'attaquant contre la fonction de recherche dans [votre table] de ce projet. Sans modifier le code, propose dix saisies qui pourraient renvoyer plus de lignes que prévu, faire planter la fonction ou la ralentir. Pour chacune, écris le test qui le prouve. Lance les tests, puis dis-moi lesquels échouent.

Un cas que l'agent oublie souvent : les jokers de LIKE. Même avec une requête paramétrée, une saisie égale à %%% ou à ___ dans le champ partiel correspond à toutes les valeurs, et la recherche renvoie toute la table. Ce n'est pas une injection SQL : la requête fait exactement ce qu'on lui demande.

Autres pistes : une saisie de 10 000 caractères, des caractères Unicode, un e-mail en majuscules. À chaque faille trouvée, son test.