{"id":4092,"date":"2023-12-19T10:38:00","date_gmt":"2023-12-19T09:38:00","guid":{"rendered":"https:\/\/staging.ekinops.com\/blog\/cybersecurity\/the-scunthorpe-problem-the-limitations-of-web-filtering-based-on-automatic-categorization"},"modified":"2026-11-06T11:53:02","modified_gmt":"2026-11-06T09:53:02","slug":"le-probleme-scunthorpe-les-limites-du-filtrage-web-a-base-de-categorisation-automatique","status":"publish","type":"post","link":"https:\/\/www.ekinops.com\/fr\/blog\/cybersecurity\/the-scunthorpe-problem-the-limitations-of-web-filtering-based-on-automatic-categorization","title":{"rendered":"Le probl\u00e8me Scunthorpe: les limites du filtrage web \u00e0 base de cat\u00e9gorisation automatique"},"content":{"rendered":"

Or devant le grand nombre de sites internet – en 2023, on parle de \u00eatre<\/a> presque 2 milliards de sites web<\/a> dans le monde, la cat\u00e9gorisation des URLs peut \u00eatre probl\u00e9matique, \u00e0 la fois pour la justesse de la cat\u00e9gorisation mais aussi pour maintenir une information \u00e0 jour dans la dur\u00e9e (un URL peut voir le site associ\u00e9 ou son contenu changer au fil des ann\u00e9es et par cons\u00e9quent changer de cat\u00e9gorie).<\/p>\n\n\n\n

Une cat\u00e9gorisation automatique, bas\u00e9e sur l’analyse s\u00e9mantique du contenu semble donc \u00eatre une solution \u00e0 la fois efficace et qui passe \u00e0 l’\u00e9chelle. C’est par ailleurs une approche adopt\u00e9e par la plupart des acteurs de filtrage web dans le monde, avec \u00e0 la cl\u00e9 des situations cocasses que nous allons voir dans cet article.<\/p>\n\n\n\n

Le probl\u00e8me de Scunthorpe<\/h2>\n\n\n\n

Le probl\u00e8me de Scunthorpe<\/a> tire son nom d’une ville \u00e9ponyme au Royaume-Uni. En 1996, cette localit\u00e9 est devenue c\u00e9l\u00e8bre malgr\u00e9 elle en raison de la politique de filtrage automatis\u00e9 mise en place par certains services en ligne, notamment les filtres anti-spam et les contr\u00f4les parentaux. Le probl\u00e8me \u00e9tait que le filtre censurait le terme “Scunthorpe” en raison de la s\u00e9quence de lettres “c-u-n-t” qu’il contenait, consid\u00e9r\u00e9e comme offensante (on vous laisse regarder la traduction).<\/p>\n\n\n\n

Cela a eu des cons\u00e9quences comiques, mais aussi probl\u00e9matiques pour les habitants de Scunthorpe qui rencontraient des difficult\u00e9s \u00e0 communiquer en ligne ou \u00e0 s’inscrire sur certains sites.<\/p>\n\n\n\n

Parmi d’autres situations amusantes, on peut citer le site officiel de la ville de Bitche en Moselle qui a \u00e9t\u00e9 censur\u00e9 entre mars et avril 2021 par Facebook<\/a> \u00e0 cause de sa ressemblance avec un mot anglais signifiant quelque chose de diff\u00e9rent.<\/p>\n\n\n\n

De m\u00eame, des courriers \u00e9lectroniques contenant le mot “specialist” fr\u00e9quent dans les CV ont \u00e9t\u00e9 filtr\u00e9s et donc dirig\u00e9s vers la bo\u00eete spam car ils contenaient la cha\u00eene de caract\u00e8res Cialis, qui correspond \u00e0 une marque de m\u00e9dicament traitant les troubles \u00e9rectiles (Tadalafil pour ceux qui demandent pour un ami) et dont le commerce est souvent utilis\u00e9 par les spammeurs. \u00c0 noter que les mots “socialiste” ou “socialisme” ont aussi \u00e9t\u00e9 bloqu\u00e9s par le m\u00eame filtre.<\/p>\n\n\n\n

Les d\u00e9fis de la cat\u00e9gorisation automatique des contenus<\/h2>\n\n\n\n

Le Probl\u00e8me de Scunthorpe est un exemple illustrant les d\u00e9fis complexes auxquels sont confront\u00e9es les solutions de filtrage \u00e0 cat\u00e9gorisation automatis\u00e9e. Ces solutions, souvent bas\u00e9es sur des algorithmes de correspondance de motifs, cherchent \u00e0 bloquer les termes ou le contenu jug\u00e9s inappropri\u00e9s. Cependant, ils peuvent \u00e9galement g\u00e9n\u00e9rer des faux positifs, censurant involontairement des termes innocents qui contiennent des s\u00e9quences de lettres ou de caract\u00e8res potentiellement probl\u00e9matiques.<\/p>\n\n\n\n

L’utilisation d’expressions r\u00e9guli\u00e8res, une m\u00e9thode courante dans le d\u00e9veloppement des syst\u00e8mes de cat\u00e9gorisation automatis\u00e9s, peut entra\u00eener des erreurs lorsque des termes apparemment offensants sont pr\u00e9sents dans des mots inoffensifs. Mais les nuances de la langue, les jeux de mots, et les contextes culturels peuvent facilement \u00e9chapper aux algorithmes. De m\u00eame, le langage \u00e9volue constamment, rendant la mise \u00e0 jour des filtres un d\u00e9fi permanent. Avec de plus en plus d’anglicismes ou m\u00e9langes de langues dans le m\u00eame contenu, les analyseurs automatiques ont fort \u00e0 faire pour distinguer les contenus ill\u00e9gitimes des contenus pertinents.<\/p>\n\n\n\n

Distinguer le contenu l\u00e9gitime avec une s\u00e9mantique laissant entendre un contenu ill\u00e9gal<\/h2>\n\n\n\n

Peu de m\u00e9tiers ont le niveau d’exigence que celui des personnes soignantes. M\u00e9decins, infirmi\u00e8res, personnels auxiliaires, ils ont en commun un besoin d’acc\u00e8s imm\u00e9diat \u00e0 l’information pertinente qui peut sauver des vies. Ils ont \u00e9galement la particularit\u00e9 d’\u00e9voluer dans un champ lexical pouvant sugg\u00e9rer un contenu illicite ou dont la consultation est encadr\u00e9e par la loi (m\u00e9dicaments, compos\u00e9s chimiques, drogues, maladies, toxicomanie, maladies, suicide etc.).<\/p>\n\n\n\n

Dans ces conditions, le responsable IT ou le RSSI de ces \u00e9tablissements, a la difficile t\u00e2che de devoir mettre en place des solutions de filtrage aux contenus illicites mais sans p\u00e9naliser le travail des soignants. Notre exp\u00e9rience dans le domaine des \u00e9tablissements de sant\u00e9 montre que les solutions retenues ne donnent pas toujours enti\u00e8re satisfaction.<\/p>\n\n\n\n

Trop souvent, les \u00e9quipes font face \u00e0 des sites bloqu\u00e9s alors que la consultation de ses contenus est n\u00e9cessaire pour la r\u00e9alisation de leur travail. On nous remonte trop souvent des sc\u00e9narios o\u00f9 des solutions “syst\u00e8me D” sont mises en place pour outrepasser les solutions de filtrage : utilisation d’\u00e9quipements ou connexions internet personnels, mise en place d’une box internet ind\u00e9pendante etc. Ces solutions peuvent r\u00e9soudre les probl\u00e8mes mais exposent les organisations \u00e0 des risques juridiques et de s\u00e9curit\u00e9 importants.<\/p>\n\n\n\n

La raison principale de ces difficult\u00e9s repose au c\u0153ur m\u00eame des solutions de filtrage : la base de donn\u00e9es des sites (ou URLs) et leur cat\u00e9gorisation. La plupart des solutions de filtrage utilisent des bases de donn\u00e9es globales avec une cat\u00e9gorisation unique et commune aux pays, sans prendre en compte les sp\u00e9cificit\u00e9s culturelles, juridiques et linguistiques des pays. De m\u00eame, en se limitant \u00e0 une cat\u00e9gorisation automatique \u00e0 base d’analyse s\u00e9mantique des sites internet, il est impossible de faire la diff\u00e9rence entre un site traitant de la vente de marijuana ill\u00e9gale et un site vendant des produits th\u00e9rapeutiques \u00e0 usage l\u00e9gal pour les \u00e9tablissements de sant\u00e9.<\/p>\n\n\n\n

L’op\u00e9rateur humain: seule solution pour limiter les faux positifs<\/h2>\n\n\n\n

La seule approche donnant satisfaction et limitant les faux positifs aujourd’hui implique une validation de la cat\u00e9gorisation du site par un op\u00e9rateur humain, aid\u00e9 bien s\u00fbr par un premier pr\u00e9-classement automatique – \u00e0 base d’IA ou non.<\/p>\n\n\n\n

Ce choix permet de s’assurer que les sites l\u00e9gitimes sont acc\u00e9d\u00e9s par les \u00e9quipes sans impact sur leur travail tout en bloquant les sites \u00e0 contenu illicite.<\/p>","protected":false},"excerpt":{"rendered":"

Le filtrage de contenus ou le filtrage web existe depuis plus de 20 ans et permet de s\u00e9curiser efficacement le trafic web des collaborateurs.<\/p>","protected":false},"author":10,"featured_media":5105,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[82],"tags":[],"class_list":["post-4092","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cybersecurity"],"_links":{"self":[{"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/posts\/4092","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/comments?post=4092"}],"version-history":[{"count":1,"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/posts\/4092\/revisions"}],"predecessor-version":[{"id":5106,"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/posts\/4092\/revisions\/5106"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/media\/5105"}],"wp:attachment":[{"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/media?parent=4092"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/categories?post=4092"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ekinops.com\/fr\/wp-json\/wp\/v2\/tags?post=4092"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}