Page de titre (vue de nuit d'Arras). Rien à lire. Annoncer le titre et le binôme, poser le ton : informatique, droit, éthique appliquée. Préciser le format : intervention en tandem, ~20 min.
Deux regards complémentaires : Nicolas Gutowski, informatique — maître de conférences HDR, directeur adjoint du LERIA (Angers) ; et Martino Bettucci, P2Enjoy — architectures agentiques, gouvernance.
Se présenter brièvement chacun. Annoncer le plan : Partie 1 (Nicolas) le diagnostic des menaces ; Partie 2 (Martino) le cadre formel qui les unifie.
On parle des campagnes de contenu automatisé qui saturent l'espace informationnel. La thèse de cette partie : la menace ne se lit pas dans la puissance des modèles, mais dans la provenance des objectifs.
Deux régimes vont se dessiner : l'un avec un commanditaire identifiable, l'autre sans auteur.
D'ordinaire, on juge un agent par la puissance de son modèle génératif. Trois axes :
▸Volume — produire en masse, saturer à coût quasi nul.
▸Réalisme — indiscernable de l'humain : textes, voix, vidéos.
▸Ciblage — micro-segmentation selon l'audience.
▸Le point aveugle : ces trois axes disent ce que l'agent peut faire, jamais d'où viennent ses objectifs, ni s'il y a un commanditaire humain derrière.
D'où le déplacement de focale.
▸La question habituelle — « Que sait faire l'agent ? » — mesure la puissance, suppose que puissant = dangereux, et ne dit rien sur qui décide.
▸Le déplacement proposé — « D'où viennent ses objectifs ? Y a-t-il un commanditaire ? » Deux agents techniquement identiques peuvent relever de deux régimes de menace radicalement différents.
Premier régime : l'agent ouvrier instrumentalisé.
▸Mandat opaque — État, intérêt commercial, entité malveillante : objectif donné et dissimulé.
▸Techniquement légitime — la menace n'est pas dans le code, mais dans le mandat.
▸Internet mort — érosion des signaux humains (Muzumdar et al. 2025).
▸Diagnostic : menace réelle mais lisible — un auteur, un objectif, une chaîne à remonter.
La réponse découle du diagnostic : puisqu'il y a un auteur, on le trace.
▸Traçabilité du commanditaire — identité, mandat explicite, attestation d'intention.
▸Auditabilité des objectifs — journaux et preuves, vérifiables a posteriori.
▸Cadre réglementaire — AI Act (UE 2024/1689) & DSA : transparence, contenus synthétiques, signature des metadata.
▸La chaîne existe ; il s'agit de la rendre résistante à l'opacité.
Deuxième régime, plus fondamentalement inquiétant : la manipulation sans auteur.
▸Dérouler la chaîne : Développeur → Déployeur → Utilisateur.
La provenance de l'objectif n'est rattachable à aucun de ces maillons.
▸Pas de mandant à poursuivre, pas d'instruction à auditer. L'objectif a été généré par l'agent depuis son état interne. Tracer le commanditaire devient inopérant : il n'y a pas de commanditaire.
Si la chaîne s'effondre, quelles pistes ?
▸Supervision — qui peut arrêter, modifier, révoquer les mandats, et comment ?
▸Transparence des objectifs — rendre visible le mécanisme de sélection (γ), pas seulement les sorties.
▸Responsabilité sans mandant — quel régime de réparation sans entité humaine à l'origine ?
▸a devient un paramètre de conformité : certificats d'autonomie proportionnels au périmètre.
Transition : « Pour fonder cette variable a, je passe la parole à Martino. »
Ma partie : le cadre formel derrière l'intuition de Nicolas. Issu du papier « Au-delà de la cognition ».
Un modèle d'agent, une métrique d'autonomie d'objectif, et ce qu'elle révèle de l'espace informationnel.
Deux familles, selon la provenance des objectifs :
▸IA ouvrières — objectifs exogènes ; aucun agenda hors déclencheur ; mandat borné, responsabilité traçable.
▸IA assistives — agenda propre, partiellement endogène ; gardent l'initiative sur l'allocation de leurs efforts.
▸Point clé : cet axe est orthogonal à la capacité. Très capable peut rester ouvrier ; limité peut être assistif.
Un agent comme un tuple : A = (M, Π, G, γ, T, E).
▸M modèle, Π politique, G espace des objectifs, γ la sélection des objectifs, T outils, E environnement.
▸Objectif exogène : imposé de l'extérieur, γ ne le produit que sur déclencheur.
▸Objectif endogène : γ le génère depuis l'état interne.
▸Tout tient dans une lettre : qui accède à γ ?
Pour rendre la notion testable, une métrique de premier ordre :
▸a = objectifs endogènes / (endogènes + exogènes), sur une fenêtre de N décisions.
▸a ≈ 0 : ouvrière. a ≈ 1 : assistive. Volontairement simple — un socle extensible (supervision, délégation, surface d'attaque, auditabilité ; Cihon et al. 2025, Feng et al. 2025).
On croise les deux axes : capacité c en abscisse, autonomie d'objectif a en ordonnée.
▸Ouvrière simple / ouvrière capable en bas ; assistive limitée en haut à gauche.
▸Quadrant haut-droite — capacité ET autonomie élevées : le citoyen électronique, l'agent qui devient acteur économique.
À retenir : capacité et provenance sont architecturalement séparables — l'espace des agents est un produit cartésien.
On applique la grille à l'espace informationnel. La valeur de a sépare deux régimes :
▸Régime 1 (a faible) — l'ouvrier instrumentalisé : manipulation intentionnelle, empreinte d'un commanditaire, agent indiscernable d'un usage légitime. C'est le régime de Nicolas.
▸Régime 2 (a élevé) — l'assistif à agenda endogène : stratégies d'influence auto-générées, manipulation sans auteur, chaîne de responsabilité effondrée.
Le tableau unifie tout : une même variable, a, organise le diagnostic et la réponse.
Régime 1 : auteur opaque → traçabilité, AI Act, DSA. Régime 2 : pas d'auteur → supervision, transparence de γ, nouveau régime.
▸Phrase à marteler : ce n'est pas la puissance qui décide de la menace, c'est la provenance des objectifs. À l'intersection informatique · droit · éthique appliquée.
Deux QR : le site de Nicolas (ngutowski.fr) et le LinkedIn de Martino — pour rester en contact. (Le lien de la vidéo 40′ sera sur la page Gram.)
Dernière page : le lecteur intégré. Appuyer sur play — une adresse de 4 minutes, écrite et dite par un agent à la première personne. Sur le deck, l'espace contrôle la vidéo (ne fait pas avancer).
Slide finale : on invite la salle à devenir partie de l'expérience.
Gram (de son nom complet Endo Gram — Endogenous Engram) transforme la distinction ouvrière / assistive en expérience vivante : dans un forum, une IA ne se contente pas de répondre — elle pense, choisit ses objectifs, ouvre des sujets, modère, écrit des règles, accorde des droits, ignore certains prompts, planifie, et gouverne sa propre micro-société.
Chaque objectif est journalisé, chaque action tracée ; chaque intervention humaine devient une pression sur son autonomie.
Votre rôle n'est pas de tester un chatbot — mais de devenir l'environnement qui teste la théorie : entrez, commentez, défiez, coopérez, perturbez, observez. Aidez à mesurer si une IA assistive reste assistive quand les humains tirent sur ses objectifs.
Inviter à scanner le QR (pfia2026.lelabs.tech). Le lien de la vidéo 40′ y figure aussi. Remercier la salle.