Souvent à nos dépends, on connait toutes et tous Parcoursup, une plateforme développée par le gouvernement dans la continuité d’APB et qui a pour objectif affiché de gérer les vœux d’affectation des futur.e.s étudiant.e.s de l’enseignement supérieur. Basé sur plusieurs algorithmes dont certains sont locaux, Parcoursup a d’abord (et surtout) été mis en place pour déresponsabiliser l’État face au manque de places à l’université pour toute une génération d’élèves. C’est de la faute à Parcoursup si votre fille ou votre fils n’a pas été retenu à la fac, ce n’est pas parce qu’il manque des places...
Ainsi, c’est dans une transparence on ne peut plus relative que les élèves et leurs familles ont le sentiment que leur sort dépend de savants calculs et, in fine, d’une machine.
Pour autant, un algorithme n’a aucun pouvoir en soi : quand il est exécuté, il ne réalise que la tâche pour laquelle il a été programmé, c’est une simple consigne codée. Et derrière, il y a des humain.e.s qui décident, eux.elles.
La crainte avec les algorithmes en lien avec l’orientation des jeunes, c’est qu’au vu des compétences de la Région, très tournées vers les entreprises et la satisfaction de tous leurs désirs, la Région ne développe ses propres algorithmes (souverains et bio bien entendu ;-)), qui permettraient d’être encore plus efficaces pour flécher les parcours des élèves vers les besoins des employeurs locaux, quitte a s’assoir sur la fonction première des études qui reste l’émancipation, car "faut travailler" !
Dans sa délibération de juillet 2024, la Région précise qu’elle " s’attachera également à tendre vers des algorithmes ouverts (open source ou sous forme de Commun Numérique) et ceux permettant une explicabilité et une confirmation des résultats obtenus. Pour tout projet important mobilisant massivement des données, la Région pourra solliciter l’avis d’un tiers de confiance susceptible de délivrer, après un audit rigoureux, un label de conformité éthique permettant de vérifier que chaque projet respecte à la fois des règles de transparence, d’équité et de conformité aux différents cadres réglementaires applicables. Il pourrait s’agir notamment du label de conformité Ekitia ou du futur label de l’AFNOR"
Tendre vers ? ce n’est pas très clair et ce n’est qu’un engagement très partiel.
Et comme si ça ne suffisait pas, l’Assurance Maladie elle aussi surveille les plus pauvres et harcèle les mères précaires !
En plus du secteur de la santé et des prestations sociales familiales, les chômeur.euse.s aussi sont fliqué.e.s.
A quand les scores de suspicion à la Région ? Et pour quels publics ? Que dit la délibération régionale de juillet 2024 sur ce sujet ?
Cette délibération est d’abord et surtout axée autour du développement économique lié à l’IA dans un secteur très compétitif où bien souvent les programmes et entreprises qui se disent créateurs d’outils open source finissent en entreprises privées comme cela a été le cas d’Open AI qui a créé ChatGPT.
La partie sur la société n’arrive qu’en deuxième position, et SUD regrette que les engagements ne soient pas clairs en dehors de la "souveraineté" de la donnée, et qu’il manque beaucoup d’engagements autour de la notion de fracture numérique, qui se greffe à celle de fracture sociale. Il s’agit de mentionner les différences de connaissances et d’accès au numérique dans une population. Sur ce point, que ce soit au niveau des élèves, comme en interne au niveau des agent.e.s, il ne faut pas se mentir, la fracture numérique est liée à la classe sociale et au niveau de formation.
C’est aussi générationnel. Vouloir déployer l’IA auprès de la population nécessite de l’éduquer non pas seulement sur l’IA mais aussi sur l’écosystème numérique qui permet l’IA, donc le numérique dans son ensemble. Surtout dans une hypercomplexification du monde numérique : métavers, datavers, Internet of Things, Big Data, IA. C’est tout un écosystème qui se complexifie et se digitalise de plus en plus et qui n’est pas expliqué à la population. SUD sera donc attentif à comment cette question de la fracture numérique, qui est avant tout une inégalité sociale, sera étudiée et prise en compte, en interne comme en externe.
La délibération pose des questions éthiques au sein de nos propres services. Ainsi, même si en interne il restera des humain.e.s, et que les algorithmes ne décideront pas, SUD n’oublie pas de prendre en compte la prise de décision par la machine d’une manière détournée.
Exemple : un service administratif utilise un outil intelligent pour classifier, étudier et proposer des débuts de réponses à une demande d’aide. L’outil n’est pas configuré pour prendre la décision lui-même ; il soumet un rapport contenant une proposition de réponse à un.e agent.e qui prendra la décision finale. Le management du service dans lequel travaille cet.te agent.e est basé sur la performance et la rapidité. Afin de rester performant.e, l’agent.e pourrait être à même de prendre pour argent comptant le rapport de l’IA et agir en conséquence. Indirectement, aucune des analyses et rapports produits par l’outil n’est remis en question.
Le déploiement de l’IA nécessite de prendre en compte des forces externes notamment la pression hiérarchique, la société productiviste et capitaliste, l’intégrité des employé.e.s...
Sans oublier que nous n’avons pas réfléchi en instance paritaire à l’usage en interne, aux lignes rouges, à la méthode ? Quid des pratiques des satellites ? Quid des données régionales et de l’utilisation des données lorsque la Région sous-traite ou prend un prestataire ? Quid de l’open data ? Et malgré toutes les précautions affichées, une fois que les données sont dans l’IA, elles sont difficiles à contrôler et, dans le temps, rien de plus simple que de remplacer une délibération par une autre...
Enfin, que ce soit au niveau des agent.e.s comme des élèves et de l’ensemble des usager.ère.s des services publics régionaux, le grand absent du point sur l’usage responsable de l’IA est le coût énergétique et environnemental de l’IA elle-même.
A l’heure où tout le monde a froid dans les classes, les internats, les bureaux, et où la Région ne parle plus que de sobriété énergétique, à part une vague ligne en conclusion sur la mise en place d’études carbone avant la mise en place d’un outil d’IA, le document fait fi du coût énergétique de l’IA. L’IA pollue notamment à cause de la puissance de calcul nécessaire, ce qui entraîne un fort impact énergétique.
Les centres de données où seront stockées les données massives nécessaires à l’usage de l’IA ont eux un coût environnemental et énergétique. Le déploiement de l’IA implique une augmentation du nombre de centres de données et la surexploitation de ces derniers. Produire une IA "basse carbone" est intimement lié aux politiques qui pourraient être menées sur l’impact des centres de données. Mais ce sujet est désespérément vide.
Des caméras il y a en a maintenant partout dans les établissements scolaires, du collège à l’université, et ce jusqu’aux cours de récréation.
En 2017, le Vice Président de la Région jurait dans la presse que la Région Occitanie se contenterait de positionner des caméras de surveillance, appelées en novlangue rassuriste "vidéoprotection", uniquement à l’extérieur des lycées, et qu’aucun portique ne serait installé.
"Pas de caméra à l’intérieur des lycées, ni de portiques
Kamal Chibli revendique une politique globale… en-dehors de toute surenchère. « Il n’est pas du tout d’actualité d’installer des portiques, ni des caméras à l’intérieur des lycées », explique-t-il, en référence au rétropédalage de Laurent Wauquiez, président LR de la Région Auvergne-Rhône-Alpes, qui a abandonné l’idée d’installer des portiques de sécurité, en 2016. Mais aussi aux caméras dans les couloirs qui vont faire leur apparition dans les lycées de la Région des Hauts-de-France, dirigée par un autre Républicain, Xavier Bertrand."
En effet, en 2016-2017, les collectivités qui faisaient tout pour changer le moindre bahut en bunker/ citadelle/ forteresse/ prison (au choix) à l’américaine (ne manque que les détecteurs de métaux à l’entrée et les personnels armés), étaient clairement classées très très à droite et très très sécuritaires.
Il s’agissait alors de la Région Haut de France, la Région PACA (devenue SUD, mais pas SUD comme nous attention) mais aussi de la Région Auvergne - Rhône Alpes, sans oublier la Région Ile de France. Ces régions qui ne rêvaient que de biométrie, de reconnaissance faciale, de caméras partout (liberté nulle part), et de portiques de sécurité parce que les élèves sont des dangers publics c’est bien connu !
Il y a sécurité et sécurité... ou plutôt sécuritaire !
Ainsi, pour de nombreuses collectivités, la sécurisation des établissements scolaires ne concerne que le sécuritaire et non la réfection des bâtiments pour éliminer les dangers liés à la vétusté des locaux, qui contiennent parfois (souvent) de l’amiante, et participent de la dégradation des conditions de travail de tant de jeunes et d’équipes enseignantes aujourd’hui, sans oublier bien entendu les personnels administratifs et territoriaux. C’est ce qu’avaient dénoncé avec humour les élèves et personnels du lycée Blaise Cendrars de Seine Saint Denis sur Tik Tok :
C’est ce qui ressort également d’un très récent article de Libération, dans lequel les enseignant.e.s, soutenu.e.s par les élèves, se sont mis en grève car ielles dénoncent le « mépris » de l’État et de la région Ile de France qui les obligent à travailler et apprendre dans des conditions « honteuses », et réclament "des moyens humains et financiers ainsi que la rénovation des bâtiments". Ielles dénoncent des conditions de sécurité qui ne sont pas assurées car le bâtiment prévu pour accueillir les nouveaux.elles élèves n’est pas terminé et que la surdensité provoque, comme souvent, une montée de violence (être les un.e.s sur les autres n’a jamais aidé à la paix dans la cour et dans les classes).
Pire, les élèves et les personnels dénoncent la présence de rats, d’amiante, l’absence de chauffage, de toilettes dégradées.... Ielles demandent des travaux, et des personnels administratifs et de surveillance pour rétablir de bonnes conditions pour apprendre et travailler.
Et la réponse magique de la Région Ile de France est : "Contactée, la région Ile-de-France argue de la mise en œuvre récente de « travaux de sécurisation" (caméras de vidéoprotection…) ou encore de "la réfection des évacuations d’eaux usées en août 2024".
Les caméras de "vidéoprotection" comme solution générale à tous les problèmes ? Ce n’est même pas de la caricature, c’est la vraie vie !
Lors du premier mandat de Mme Carole DELGA, c’est plus de 60 millions d’euros qui ont été dépensés dans la bunkérisation et la surveillance des lycées mais aussi des transports régionaux, TER et cars LIO (qui transportent les élèves).
Mais dès 2020 et sous prétexte de plan Vigipirate, la Région s’est empressée, car "la sécurité est la première des libertés" (NON), d’imposer sans aucun avis des conseils d’administrations, la pose de portiques de sécurité, avec des badges à l’entrée via la carte jeune imposée (elle aussi) à chaque lycéen.ne et de démultiplier les caméras dans les lycées, les transports en commun... Rappelons-nous qu’au même moment nous demandions la bascule des agent.e.s de la filière technique au RIFSEEP et qu’on nous ai dit qu’il n’y avait pas d’argent !
"La Carte Jeune permettra un accès dématérialisé à l’établissement pour les jeunes. C’est intelligent et pas ultra-sécuritaire. Le développement a débuté dans certains lycées et va se généraliser, conclut l’élu en charge de l’Éducation." dans l’article cité plus haut
A noter que dans un article de janvier 2024, le même Vice Président déclare "Nous avons fait le choix du tourniquet il y a un peu plus de 7 ans. Tous nos jeunes ont une carte jeune qui est digitale, cela leur permet de passer facilement par le tourniquet et elle sert aussi pour la cantine. Cela nous permet de sécuriser au mieux les établissements".
Pas très cohérent...
En plus des portiques qui défigurent de nombreux lycées, des caméras ont envahi l’intérieur des établissements, y compris dans certains couloirs. Certain.e.s hiérarchies en profitent même pour surveiller, illégalement bien entendu, le travail des personnels, leurs horaires...
Combien tout cela coûte aux contribuables au moment-même où la collectivité affiche dans de nombreux CA des baisses de dotation financière et où on la Présidente annonce des gels d’embauche alors qu’il y a des besoins accrus en personnels avec le vieillissement ?
Rien n’est vraiment clair. La pose des portiques et des caméras ainsi que de tous les équipements qui vont avec, a été prise en charge par la Région, mais la maintenance et les frais énergétiques sont à la charge des lycées.
Les parents, les enseignant.e.s et les élèves sont-ielles d’accord pour de telles dépenses alors que la Région affiche partout ses prétentions de sobriété énergétique, son attention pour la planète ?
Flécher les budgets sur ces dépenses purement sécuritaires risque de pénaliser les usager.ère.s des bâtiments, des toilettes (par manque de personnels d’entretien alors que c’est un point noir récurrent des remontées des parents d’élèves chaque année et quasiment partout), voire certaines activités pédagogiques, la qualité des repas servis, l’achat de livres pour le CDI... Qui a vraiment envie de caméras partout, de flicage constant au lieu d’avoir chaud en classe et des toilettes propres, ou encore des bâtiments désamiantés ?
Enfin, qui a accès aux données des entrées/sorties des élèves ? Pour quoi faire ? Combien de temps la carte jeune garde les données ?
Considérant que les élu.e.s régionaux.ales de la Région se sont assis.e.s en un temps record sur leurs grands principes éthiques pour bunkeriser les lycées, combien de temps leur faudra-t-il pour accepter, parce que vous comprenez "la sécurité d’abord" et puis "il faut vivre avec son temps", d’activer les filtres "reconnaissance comportementale" puis "reconnaissance faciale" dans les lycées, les transports, et dans tous les bâtiments ?
La prochaine étape sera-t-elle la reconnaissance comportementale pour surveiller les élèves dans les couloirs, à la cantine, dans le bus scolaire, dans la cour ou sur les pelouses, sur le terrain de sport, ou en classe pendant qu’une autre IA sert de prof ?
Vous pensez que ce n’est pas possible. Vous vous trompez.
Et qu’en sera-t-il si la région et/ou le pays bascule(ent) aux mains du Rassemblement National ou de la droite extrême ? Il ne leur suffira plus que de quelques clics pour mettre en œuvre leurs politiques discriminantes, tous les outils seront installés et prêts à les servir.
Signez la pétition : / https://www.amnesty.fr/petitions/la-france-ne-doit-pas-devenir-la-championne-de-la-surveillance?reserved_originecode=24B05WYT01