"L'usage des algorithmes peut être déresponsabilisant", Gilles Rouet, directeur de l’Institut supérieur de management

Comment les algorithmes façonnent-ils la décision publique ?

La logique de recherche de performance du "new public management" pose, certes, la question de l'efficacité budgétaire mais aussi celle de la relation au citoyen et son rapport aux services publics. Les algorithmes répondent à une partie de cette question, mais ne portent pas en eux la clé de la performance. On en a parfois développé sans avoir évalué leur utilité, ou pensé aux problèmes qu'ils pourraient résoudre. Ensuite, il faut cultiver la responsabilité de celui qui s'appuierait sur des algorithmes pour prendre une décision. Sur les chantiers relatifs à l'e-administration, l'afflux de processus algorithmiques présente ce risque de retranchement derrière une machine.

Mais ce n'est pas l'algorithme qui est déresponsabilisant, c'est l'usage que l'on en fait et le rapport que l'on conserve entre agents et citoyens. Cela ne doit pas les empêcher d'avoir un regard critique pour mieux assumer les décisions à l'égard des administrés.

Pensez-vous que l'on devrait mieux évaluer la réception de ces outils par les agents et les administrés ?

A n'importe quel échelon, toute décision administrative doit être motivée, et c'est encore plus nécessaire en cas de recours aux algorithmes face auxquels on peut se sentir démuni et sans marge de négociation. La transparence est capitale quand on a un sentiment d'arbitraire. Depuis l'aide à la décision dans les années 1950, pour mieux voir parmi un tas de données à prendre en compte, leur usage prend aujourd'hui une tournure idéologique différente : il faut parallèlement mettre fin à cette idée de neutralité de l'algorithme qui empêcherait de remettre en cause l'outil, dont les critères sont pourtant préalablement déterminés. Dans une décision, il y a aussi l'alchimie des intuitions et des relations humaines qui n'entre pas, elle, dans ces critères. L'usage des algorithmes peut à cet égard nous aider à mieux cultiver le relationnel dans le rapport aux usagers.

Les agents sont-ils assez sensibilisés à ces questions pour en parler aux usagers ?

Utiliser des algorithmes pour une simplification administrative est un très bon objectif en soi, mais il faut se préoccuper du processus et du sens que cela donne au travail des agents. Le risque peut consister en une réduction des tâches qui alimente une peur de n'être qu'une interface entre le résultat d'un algorithme et les administrés. Il faut rester vigilant sur ce que l'algorithme permet et ce qu'il ne permet pas. Ce travail n'a pas encore été fait. Tous ces outils peuvent renforcer la performance globale et les usagers sont à même de le comprendre et de les trouver légitimes. Mais avec le développement d'usages prédictifs, attention à ne pas confondre le monde probabiliste et le monde réel. On ne peut pas dire qu'on va moins traiter les problèmes rares car ils sont plus difficiles à prédire. Les algorithmes ne nous amèneraient-ils pas à moins réfléchir au risque que l'on est prêt à accepter ?

(*) Institut d'administration des entreprises de Versailles - Saint-Quentin-en-Yvelines.