Une Américaine de 30 ans a été arrêtée en Floride après avoir confié à Claude son intention de s’en prendre à un bureau du shérif. Ses échanges avec le chatbot d’Anthropic, qu’elle semblait considérer comme un espace privé, ont été détectés par un système de surveillance, examinés par un humain puis transmis aux forces de l’ordre.
Dans l’esprit de Carli Michelle Heller, Claude ressemblait manifestement à un journal intime numérique. Un espace où déposer ses pensées, y compris les plus inquiétantes, sans imaginer qu’elles puissent sortir de la conversation. Cette perception de la confidentialité s’est brutalement heurtée aux mécanismes de sécurité mis en place par Anthropic, entreprise membre du Forum économique mondial.
Selon les informations rapportées par BFM Business, citant le magazine américain Inc., cette femme de 30 ans vivant dans le comté de Lee, en Floride, a été arrêtée après avoir évoqué auprès du chatbot un projet visant les forces de l’ordre locales.
Ses messages ne relevaient pas d’une formulation vague. Carli Michelle Heller aurait notamment écrit qu’elle comptait s’en prendre au shérif, avant d’indiquer le lendemain avoir acheté une nouvelle arme de poing. D’après le récit publié, elle envisageait de passer à l’acte le 26 septembre.
Ces échanges ont déclenché le système de détection d’Anthropic. Les conversations ont alors été signalées afin d’être examinées par une personne, qui a ensuite transmis les informations aux forces de l’ordre. Carli Michelle Heller a finalement été arrêtée et inculpée pour menaces écrites de violence.
Claude n’est pas nécessairement un espace confidentiel
L’affaire met en lumière une ambiguïté persistante dans la manière dont certains internautes utilisent les assistants d’intelligence artificielle. Leur fonctionnement conversationnel, leur disponibilité permanente et la possibilité d’aborder des sujets extrêmement personnels peuvent donner l’impression de dialoguer dans un espace entièrement privé.
Cette impression ne correspond pourtant pas nécessairement aux dispositifs de sécurité appliqués par les entreprises qui développent ces services.
Carmine Marceno, shérif du comté de Lee, a ainsi rappelé auprès d’Inc. que les internautes ne devaient pas se considérer comme totalement anonymes lorsqu’ils utilisent notamment des forums, des services de discussion ou des outils reposant sur l’intelligence artificielle.
Anthropic expose elle-même une partie de ses pratiques dans son centre de transparence. L’entreprise indique utiliser des mécanismes de surveillance et de détection afin de faire respecter ses règles d’utilisation. Elle précise également traiter certaines demandes de données provenant des autorités et des gouvernements.
Ces procédures peuvent porter sur le contenu lui-même, sur des données périphériques ou encore sur des demandes urgentes de divulgation. Anthropic affirme parallèlement chercher à protéger la vie privée de ses utilisateurs lorsqu’elle répond à de telles sollicitations.
La nuance est importante : l’existence d’un service conversationnel présenté comme personnel ne signifie donc pas que tout ce qui y est écrit bénéficie d’une confidentialité absolue, notamment lorsqu’un système de sécurité détecte une menace susceptible d’entraîner un passage à l’acte.
Les entreprises d’IA face aux menaces détectées dans les conversations
Le cas de Carli Michelle Heller s’inscrit dans un débat beaucoup plus large pour les développeurs de chatbots : jusqu’où une entreprise doit-elle intervenir lorsqu’un utilisateur évoque des actes violents ?
BFM Business rappelle que le sujet concerne également OpenAI. Depuis avril 2026, l’entreprise qui est également liée au WEF fait l’objet d’une enquête en Floride après une fusillade ayant causé la mort de deux personnes. Des conversations entre ChatGPT et l’auteur de l’attaque avaient été découvertes dans le cadre de cette affaire.
Quelques mois auparavant, en février, OpenAI avait également été critiquée après la fusillade de Tumbler Ridge, au Canada. Selon les informations rapportées par BFM, des échanges jugés problématiques impliquant la suspecte avaient été détectés avant l’attaque, mais les autorités canadiennes n’avaient finalement pas été prévenues.
Ces affaires illustrent le casse-tête auquel sont désormais confrontées les entreprises d’intelligence artificielle. Une intervention trop systématique soulève des questions majeures sur la confidentialité et la surveillance des conversations. À l’inverse, l’absence de signalement d’une menace crédible peut être lourdement questionnée lorsqu’un passage à l’acte survient.
Dans le cas de Claude, Anthropic semble avoir choisi d’intervenir face à ce que son dispositif considérait comme une menace suffisamment sérieuse. Le filtrage automatisé n’a toutefois constitué qu’une première étape : selon le récit rapporté, un examen humain a précédé la transmission des échanges aux autorités.
BFM Business souligne enfin qu’il ne s’agirait pas du premier signalement impliquant Anthropic et les autorités du comté de Lee. Avant l’arrestation de Carli Michelle Heller, l’entreprise avait déjà contribué à l’interpellation d’un homme après la publication d’une image générée par intelligence artificielle représentant le shérif local blessé à la tête.
Au-delà de ces affaires judiciaires, l’épisode rappelle une réalité souvent méconnue : parler à une intelligence artificielle ne revient pas nécessairement à écrire dans un carnet enfermé à double tour. Derrière l’interface conversationnelle peuvent exister des mécanismes automatisés de détection, des procédures d’examen humain et, dans certaines circonstances, une transmission d’informations aux autorités.
Sources :
BFM Business — article de Kesso Diallo, « Elle utilisait Claude comme un journal intime, l’IA d’Anthropic l’a dénoncée en signalant à la police son intention de tirer sur les forces de l’ordre »
BFM Business