L'attention se porte sur le débat européen sur le contrôle du clavardage, qui dure depuis des années, en raison de la modification de la position du gouvernement allemand, qui est passée d'opposée à indécise. Ce changement fait courir à l'UE le risque d'approuver cette proposition dangereusement malavisée. Outre l'incompatibilité de l'approche de ChatControl en matière de surveillance de masse avec les lois européennes sur la protection de la vie privée, la proposition pose un autre problème fondamental : elle ne fonctionnera pas. Le meilleur scénario pour ChatControl est l'échec, tandis que les autres scénarios sont bien pires.
L'objectif de la proposition de ChatControl est de détecter, dans les communications par messagerie, tout matériel en ligne indiquant des signes d'abus, également connu sous le nom de " CSAM". La législation européenne (directive 2011/93/UE) définit la violence sexuelle à l'égard des femmes et exige des États membres qu'ils érigent en infraction la production, la distribution, la diffusion et la possession de matériel pornographique :
Elle exige également la suppression des sites web de ce type hébergés dans l'UE et la coopération avec des partenaires internationaux lorsqu'ils sont hébergés à l'étranger.
L'intérêt de mettre un terme à ces comportements criminels ne fait aucun doute. Cependant, ChatControl ne sera pas efficace pour plusieurs raisons.
L'un des problèmes majeurs de la proposition ChatControl est que ses mécanismes ont déjà été jugés infaisables par des organismes d'experts au sein de l'UE et de l'Allemagne.
Le Service de recherche du Parlement européen (EPRS), dans le cadre de l'évaluation des options scientifiques et technologiques (STOA), a réalisé une évaluation et a constaté des lacunes techniques critiques qui rendront ChatControl peu fiable.
Les technologies permettant de détecter les contenus d'abus sexuels connus sont précises, tandis que les technologies permettant de détecter les nouveaux contenus d'abus sexuels sur les enfants et le "grooming" sont nettement moins précises.
En outre, l'étude souligne l'absence de solution pratique pour les communications cryptées de bout en bout, ce qui est techniquement incompatible avec le mandat de détection du règlement :
"Un certain nombre de faiblesses dans la définition du problème de la Commission européenne ; notamment, elle n'aborde que de manière limitée les défis posés par le cryptage de bout en bout dans la lutte contre le matériel pédopornographique en ligne.
Enfin, l'EPRS a estimé qu'il existait un risque sérieux de catégorisation erronée des communications consensuelles entre adolescents.
Dans le cadre des évaluations techniques de ChatControl, les experts ont mis en évidence un risque important pour les forces de l'ordre : les faux positifs massifs. En raison des lacunes techniques qui empêcheraient une surveillance précise, les services répressifs seront probablement submergés par des rapports faussement positifs qui nécessiteront tout de même une enquête. Certains d'entre eux pourraient facilement déboucher sur des poursuites mal ciblées qui entraîneraient des innocents dans un engrenage de censure.
Le service scientifique du Bundestag allemand a présenté une critique sévère de ChatControl à la commission des affaires numériques. Outre la crainte d'une surveillance totale de l'internet, les neuf experts ont mis en garde contre le fait que les forces de l'ordre seraient submergées de faux rapports.
Un truisme concernant la surveillance est qu'elle est toujours plus efficace lorsque les parties ciblées ne savent pas qu'elles sont surveillées. ChatControl ne respecte pas ce principe de base puisqu'il sera annoncé comme une loi et connu de toutes les parties. Les fournisseurs devront probablement informer régulièrement leurs utilisateurs qu'ils sont surveillés pour des violations de CSAM.
Il n'est pas difficile de prédire ce qui va se passer ensuite. Tous ceux qui pourraient avoir un comportement criminel fuiront les plateformes surveillées et utiliseront des services E2EE, des services TOR, des VPN, des services du darknet ou d'autres sites de messagerie non conformes. Il en résultera que tous les délinquants que la proposition prétend détecter ne seront plus repérables.
Le concept de ChatControl a toutes les chances d'être un échec. Mais ce n'est que le meilleur des scénarios.
Les lois sur la surveillance de masse sont difficiles à contenir. Que se passera-t-il lorsque viendra l'inévitable déception concernant l'impact de l'application de la loi ? Les partisans de cette ingérence gouvernementale admettront-ils l'échec et abrogeront-ils la loi ? Malheureusement, non. Il est plus probable qu'ils fassent pression pour un contrôle et des restrictions supplémentaires de l'internet, en commençant par démanteler la protection vitale que le cryptage de bout en bout fournit aux entreprises et aux gouvernements de l'UE en imposant des portes dérobées vouées à être compromises, comme l'a montré le piratage de Salt Typhoon.
Mais la situation pourrait être bien pire. La surveillance de masse est une pente glissante qui peut conduire à une censure et à un contrôle de l'État de plus en plus importants. On voit comment cela se termine si l'on regarde la Grande Muraille de Chine. Cela peut sembler farfelu, mais un coup d'œil de l'autre côté de l'Atlantique nous montre que nous ne pouvons jamais être trop prudents en ce qui concerne la protection des droits fondamentaux. ChatControl ouvre une boîte de Pandore. Il ne faut pas la laisser passer.