La récente annonce du congrès « Instructions Illégales » laisse peu de place au doute : le Chaos Computer Club (CCC) prend la situation très au sérieux. « Les signes annoncent une tempête », indiquent les organisateurs. Les efforts pour contrer la dérive de l’Europe vers des sociétés de surveillance et de répression « fragmentées et hostiles » deviennent de moins en moins efficaces. Ce qu’il faut maintenant, c’est un « Résistance Technique » contre la surveillance, la mesure, l’espionnage des données et l’infiltration.

Ce langage alarmant fait écho aux projets du gouvernement sortant : après plusieurs attaques, notamment lors d’événements publics, un paquet de sécurité est envisagé, intégrant la reconnaissance faciale biométrique pour la prévention des dangers. Le Bundesrat a temporairement bloqué certaines parties de cette loi, tandis que l’Union demandait des mesures supplémentaires.

Le CCC s’oppose à ces technologies de surveillance et met en garde contre leurs dangers potentiels. Comme l’a souligné Matthias Marx, porte-parole du CCC, en septembre dernier, les problèmes sociaux ne peuvent pas être résolus par des moyens techniques.

L’IA améliore-t-elle vraiment les choses – ou l’inverse ?

Il est évident que le thème central du congrès du CCC est l’une des questions les plus complexes de notre époque : comment utiliser la technologie pour améliorer notre vie quotidienne, ou même garantir notre sécurité ? L’Intelligence Artificielle représente-t-elle une grande opportunité pour un avenir meilleur, ou met-elle en péril notre sécurité en raison de ses dangers difficiles à évaluer ? Ce sujet continuera à susciter des débats dans les années à venir, et il est impératif d’éviter les erreurs.

Les temps où le progrès numérique était perçu exclusivement comme une opportunité semblent révolus. De nouvelles technologies peuvent être utilisées tant par des acteurs bienveillants que malveillants. Certains créent des images drôles avec des outils d’IA pour divertir, tandis que d’autres s’en servent pour désinformer. D’un côté, on imagine des poèmes grâce à des chatbots IA, de l’autre, certains développent des méthodes pour arnaquer des personnes âgées au téléphone.

Les inquiétudes exprimées par le CCC s’étendent également aux mécanismes de surveillance. La question du respect de la vie privée reste floue, car il est souvent difficile de savoir quels services d’IA traitent les images collectées et où ces données sont stockées. Lorsque des administrations conservent d’énormes quantités de données, il existe un risque de détournement par des hackers. Que se passe-t-il alors si un gouvernement antidémocratique accède à ces données ? L’utilisation de ces archives pourrait rapidement compromettre nos libertés.

L’importance de la contestation des hackers

Le dilemme entre sécurité et liberté se pose ailleurs également, comme en témoigne l’instauration prévue de vérifications d’âge sur des sites pour adultes dans plusieurs pays. Des experts au congrès du CCC analyseront la conformité de ces demandes avec la législation sur la protection des données et les risques qu’elles peuvent engendrer.

Historiquement, le CCC a toujours défendu une position claire sur la surveillance : lors de sa conférence, il débattra des moyens de « semer le trouble dans la machine de surveillance numérique capitaliste ». En septembre, Matthias Marx avait déjà fait savoir que le CCC envisageait de donner des conseils pour « saboter et désactiver » des mesures de surveillance, si celles-ci venaient à être mises en œuvre.

Bien que cela puisse sembler radical au premier abord, il est essentiel que la voix résonne de manière forte face à ces questions. L’utilisation de logiciels de reconnaissance faciale et d’autres technologies d’intelligence artificielle ne devrait pas être une décision précipitée. Elle doit être réfléchie et discuter auprès de la société, en prenant en compte les préoccupations des experts. Car si ces technologies font leur entrée sans réflexion préalable dans notre quotidien, elles pourraient aggraver davantage la situation.