Xavier Mathis (Okta) : « Il faut savoir quel humain est responsable derrière chaque agent IA »

Xavier Mathis, Regional Vice President & Country Manager France chez Okta, explique pourquoi les agents IA doivent disposer de leur propre identité, de droits limités et d’un bouton d’arrêt d’urgence.
Xavier Mathis, responsable d’Okta en France, en interview sur fond bleu évoquant les identités numériques et la sécurité des agents IA

L’IA agentique promet d’automatiser des tâches de plus en plus complexes. Mais lorsqu’un agent accède aux données de l’entreprise, sollicite d’autres agents ou prend des décisions, qui contrôle réellement ses actions ? À travers l’exemple de l’ONG World Central Kitchen, Xavier Mathis, Regional Vice President & Country Manager France chez Okta, explique pourquoi ces nouveaux acteurs numériques doivent disposer de leur propre identité, de droits limités et, si nécessaire, d’un bouton d’arrêt d’urgence.

Qu’est-ce qui vous a particulièrement marqué, récemment, dans le développement de l’IA agentique ?

Le monde de l’IA agentique évolue très vite. Ce qui m’a marqué, c’est que nous parlons souvent des mauvaises choses qui se passent dans le monde, mais beaucoup plus rarement des bonnes. Je pense notamment à l’un de nos clients, World Central Kitchen, une ONG qui intervient lors de catastrophes pour venir en aide aux populations. Cette organisation s’appuie sur l’IA agentique pour mettre la technologie au service de l’humain.

Nous avons eu, récemment, un exemple en Espagne, à la suite des inondations. Des agents IA sécurisés ont été utilisés pour contribuer à la gestion logistique des secours. C’est particulièrement intéressant dans un contexte où il n’y a jamais assez de bénévoles pour répondre à tous les besoins. Pour une fois, on voit très concrètement la technologie employée pour faire le bien.

Que peuvent apporter exactement ces agents IA dans la gestion d’une catastrophe ?

La grande difficulté, dans une gestion de crise, consiste à répondre en temps réel à des événements qui évoluent constamment. Il faut être capable d’acheminer les bonnes ressources vers les bénévoles présents sur le terrain, au plus près des personnes en difficulté. Cela peut concerner les denrées alimentaires, mais aussi le minimum de matériel médical nécessaire.

En exploitant différentes sources de données, des agents IA peuvent aider à organiser ces opérations, à ajuster les moyens engagés et à prendre en charge certaines actions avec un degré d’autonomie défini. L’intérêt est de traiter les demandes beaucoup plus rapidement et d’augmenter la capacité de réaction face à une situation catastrophique.

World Central Kitchen est donc l’un de vos clients. À quel niveau l’accompagnez-vous ?

Nous l’accompagnons dans la mise à disposition d’agents IA au sein de son organisation, auprès de ses équipes. L’ONG a rapidement identifié une opportunité : utiliser ces agents pour compléter les moyens humains, notamment lorsqu’elle manque de bénévoles ou doit faire face à des pics d’activité très soudains.

Mais cela ne peut pas se faire n’importe comment. On ne peut pas créer des agents, les laisser travailler, puis les oublier lorsqu’on n’en a plus besoin. World Central Kitchen a très vite compris qu’il fallait mettre en place une véritable gouvernance.

Pourquoi l’identité numérique est-elle devenue, selon vous, indispensable pour sécuriser les agents IA ?

Pour une identité humaine, on dénombre environ 109 identités non humaines. Toutes ne correspondent pas à des agents IA, mais ces derniers en représenteraient près de 70 %.

Je vois trois raisons majeures de gérer l’identité des agents, un peu comme nous le faisons déjà pour les collaborateurs.

La première, c’est la traçabilité. Dans un contexte de conformité — je pense notamment à SOC 2, DORA ou NIS 2 —, l’entreprise doit pouvoir reconstituer toute la chaîne de responsabilité. Lorsqu’un agent accomplit une action, il faut savoir quel humain en est responsable. C’est fondamental.

La deuxième, c’est l’encadrement de son autonomie. Un logiciel traditionnel suit globalement des règles ou un arbre de décision prédéfini. Un agent IA peut raisonner étape par étape, choisir une action en fonction du contexte, contacter une API ou faire appel à d’autres agents. Il a donc besoin d’une certaine autonomie, mais celle-ci doit s’exercer à l’intérieur d’un cadre précis, comme pour un salarié.

La troisième, c’est le principe du moindre privilège. Il faut déterminer à quelles ressources l’agent a accès, ce qu’il est autorisé à faire et pendant combien de temps. Cela passe notamment par des autorisations et des jetons d’accès limités à une mission ou à une période donnée.

Vous insistez donc sur la responsabilité, le cadre d’action et la durée des autorisations. Comment suivre un agent qui peut lui-même en solliciter d’autres ?

C’est toute la difficulté. Certains agents sont très éphémères. Ils sont créés pour accomplir une tâche, peuvent appeler d’autres agents ou services, puis cessent leur activité. Il faut conserver une vision précise de ce qu’ils ont le droit de faire et de ce qu’ils font réellement.

Cela suppose de remonter les journaux d’activité, les événements et les tentatives d’action, notamment pour les analyser dans un SOC, le centre opérationnel de sécurité. Pour y parvenir, il est essentiel de distinguer l’identité de l’humain qui donne la mission de celle de l’agent qui l’exécute. L’humain reste responsable, mais les actions de l’agent doivent pouvoir être suivies à chaque étape, y compris lorsqu’il fait appel à d’autres sources ou à d’autres agents.

Comment Okta répond-il concrètement à ce besoin de visibilité et de gouvernance ?

Notre première étape, avant même de parler de gouvernance, consiste à découvrir les agents existants. Ce n’est pas si simple. On peut en créer sur le réseau de l’entreprise, sur des passerelles techniques, au sein de plateformes comme Gemini ou Copilot, ou même depuis un navigateur. Notre objectif est d’obtenir une vue à 360 degrés de tous ces agents.

Ensuite, nous considérons que chaque agent doit être rattaché à un responsable humain. Nous pouvons donc lui assigner un propriétaire et l’inscrire dans notre Universal Directory, le méta-annuaire d’Okta qui centralise les identités et leurs attributs.

À partir de là, nous pouvons gérer beaucoup plus finement les accès. Nous utilisons notamment Cross App Access et Agent SSO, afin que les agents bénéficient de mécanismes d’authentification et de contrôle comparables à ceux des utilisateurs humains. Ils peuvent ainsi profiter de notre catalogue de plus de 8 000 intégrations, en complément des intégrations standard.

Enfin, il faut gérer tout le cycle de vie de l’agent. Prenons un cas classique : un collaborateur quitte l’entreprise. Que deviennent les agents qu’il a créés ou dont il était responsable ? Il faut pouvoir leur retirer leurs accès. Puis, si l’organisation souhaite les conserver, une campagne de recertification peut permettre de les réattribuer à un collègue ou à un manager. L’objectif est de réutiliser ces agents, mais dans un cadre d’autonomie défini et avec une traçabilité complète.

Quelle est précisément la différence entre Cross App Access et Agent SSO ?

Cross App Access permet de dissocier l’accès de l’agent IA de celui de l’utilisateur. Sans ce type de mécanisme, l’agent agit en votre nom, avec votre identité. Or il est essentiel de pouvoir lui attribuer sa propre identité et de contrôler séparément ses autorisations.

Agent SSO permet, de son côté, d’utiliser des mécanismes de fédération d’identité pour donner à l’agent accès aux applications dont il a besoin. Il peut s’agir, par exemple, de Salesforce pour consulter des données, sans qu’il soit nécessaire de lui ouvrir indistinctement tous les droits de son utilisateur.

Et si un agent IA se comporte de manière anormale ou dangereuse, peut-on aujourd’hui l’arrêter ?

Oui. Nous disposons d’un « kill switch », un bouton d’arrêt qui permet, au niveau de notre Agent Gateway, de couper les moyens d’action de l’agent auprès des ressources auxquelles il accède. Il est également possible, avec une intervention humaine, de le déprovisionner au niveau du fournisseur d’identité si nécessaire.

Nous voulons maintenant aller plus loin dans l’automatisation. C’est notamment l’intérêt du rachat de Permiso Security, qui vise à renforcer notre capacité à détecter des comportements à risque et, à terme, à déclencher des mesures de protection de manière autonome, sans attendre systématiquement une intervention humaine. C’est une évolution attendue dans les prochains mois.

La sécurisation des agents IA peut-elle vraiment être assurée par un seul acteur ?

Non, et c’est précisément l’objectif de la Blueprint Alliance, que nous avons annoncée récemment. Elle réunit plusieurs leaders de la cybersécurité et des technologies d’entreprise pour mieux partager des signaux de sécurité en temps réel.

Chaque acteur intervient à un niveau différent. AWS fournit notamment les infrastructures sur lesquelles les agents peuvent être construits et exécutés. Zscaler intervient sur les communications. CrowdStrike contribue à la surveillance des comportements. Des acteurs comme Salesforce ou ServiceNow se situent au niveau des applications et des données métier.

Nous pensons qu’Okta a un rôle central à jouer à travers l’identité. L’objectif est que ces différents systèmes puissent échanger leurs alertes et agir de façon coordonnée. Si un agent présente un comportement problématique, il faut être capable de réagir rapidement, par exemple en déclenchant un kill switch à plusieurs niveaux de l’environnement informatique. C’est cette coopération qui permettra de réduire les risques liés à l’IA agentique.

Sur le même sujet