Aller au contenu
Veille technologique

Comment l'intelligence artificielle transforme-t-elle à la fois les attaques informatiques et les moyens de s'en défendre, et que doit en retenir un administrateur systèmes et réseaux ?

Axes

01

L'IA au service des attaquants

Phishing rédigé sans fautes et personnalisé, deepfakes vocaux pour l'arnaque au président, aide à l'écriture de code malveillant et automatisation de la reconnaissance.

02

L'IA au service des défenseurs

Détection d'anomalies dans les journaux, tri des alertes en SOC, analyse de malwares et assistance à la réponse aux incidents.

03

Sécuriser les systèmes d'IA eux-mêmes

Injection de prompt, empoisonnement des données d'entraînement, fuite de données sensibles par les assistants et dépendance à des fournisseurs externes.

04

Le cadre réglementaire

AI Act européen, recommandations de l'ANSSI et du BSI : ce qui devient obligatoire pour les organisations qui utilisent ou déploient de l'IA.

Fiches

Chaque information marquante : la source, ce qu'elle dit, et ce que j'en retiens pour mon métier.

  1. ·Union européenne — AI Act (règlement 2024/1689)

    AI Act : calendrier d'application des obligations

    Interdictions et gouvernance applicables depuis le 2 février 2025, obligations des fournisseurs de modèles d'IA à usage général depuis le 2 août 2025 ; les obligations des systèmes à haut risque ont été repoussées à décembre 2027 par l'omnibus numérique.

    Mon analyse

    Une organisation qui déploie un outil d'IA devra savoir le classer selon son niveau de risque : l'inventaire des services (gestion de patrimoine) devient aussi un sujet de conformité.

    RéglementationEuropeConformité
    Lire la source ↗
  2. ·ANSSI et partenaires internationaux

    Développer la confiance dans l'IA par une approche par les risques cyber

    Présenté pendant le Sommet pour l'action sur l'IA à Paris, ce document co-signé par 19 partenaires internationaux et 5 partenaires nationaux décrit les risques cyber qui pèsent sur les systèmes d'IA et donne des recommandations stratégiques pour les intégrer de façon sécurisée.

    Mon analyse

    Pour un admin sys, l'IA devient un composant d'infrastructure comme un autre : elle doit être cartographiée, cloisonnée et supervisée, avec une attention particulière aux flux vers des services externes.

    ANSSIGouvernanceAnalyse de risques
    Lire la source ↗
  3. ·ANSSI et BSI

    Assistants de programmation basés sur l'IA : recommandations de sécurité

    Les agences française et allemande analysent les risques des assistants de code : fuite de code ou de secrets vers le fournisseur, suggestions vulnérables, dépendances inventées, et recommandent une relecture humaine systématique.

    Mon analyse

    Point de vigilance direct pour mes scripts d'automatisation : ne jamais coller de secrets dans un assistant, et relire chaque commande proposée avant de l'exécuter sur un serveur de production.

    ANSSIBSIDéveloppement
    Lire la source ↗
  4. ·ANSSI

    Recommandations de sécurité pour un système d'IA générative

    Le guide de l'ANSSI couvre tout le cycle de vie d'une IA générative (entraînement, déploiement, production) et formule 35 recommandations : cloisonnement, maîtrise des données, journalisation, gestion des accès.

    Mon analyse

    Beaucoup de ces mesures sont des bonnes pratiques que j'applique déjà sur l'infrastructure (segmentation VLAN, moindre privilège, journalisation centralisée) : elles s'étendent naturellement aux services d'IA hébergés.

    ANSSIIA générativeBonnes pratiques
    Lire la source ↗
En direct

Mises à jour automatiquement toutes les 6 heures depuis les flux RSS de mes sources.

Chargement des flux…

Méthode

Flux RSS

Agrégation des sources ci-dessous, triées par mot-clé (IA, LLM, deepfake…)

Sources institutionnelles

ANSSI / cyber.gouv.fr, CERT-FR, CNIL, Commission européenne

Presse spécialisée

IT-Connect, 01net, ZDNet, LeMagIT

Fiches de veille

Une fiche par information marquante : source, date, résumé et analyse personnelle

Que ce soit pour un projet, une alternance ou une collaboration en cybersécurité, n'hésitez pas.

Me contacter