Cette année encore Thierry Berthier, Pilote du groupe « Sécurité – IA – Robotique » du Hub France IA et directeur scientifique de la fédération professionnelle européenne Drones4Sec, a organisé une table ronde intitulée “IA Robotique & Cybersécurité” le 13 décembre 2023 à Limoges.
Organisée en trois grandes parties :
- Six décennies de R&D en IA pour converger vers une IA générale ;
- Les révolutions de la robotique associée à l’IA ;
- La cybersécurité, comme ingrédient indispensable aux révolutions de l’IA et de la robotique.
Cette conférence reprend les grands thèmes des risques et opportunités liés aux nouvelles technologies… qui font régulièrement la une de l’actualité : intelligence artificielle (IA), essaims de drones, cyber-attaques…
L’IA s’est invité dans l’actualité il y a un an avec le lancement de ChatGPT. Américains et chinois domine le marché de l’IA mais les challengeurs ne sont pas loin, y compris la France avec Mistral AI qui a tout récemment levé 385 M€ pour développer son propre modèle.
Pour en savoir plus sur l’intérêt des agents conversationnels, leurs limites et s’y former : Introduction à l’utilisation des agents conversationnels (IA).
ChatGPT concentre l’attention du grand public mais il n’est pas la seule solution d’IA. Bien au contraire, il en existe même pléthore chacune spécialisée sur une activité prédéterminée :
Pour mémoire, avant d’utiliser ces outils, il est nécessaire d’en comprendre risques et limites.
Les risques tout d’abord : tous ces services sont en ligne. Aussi tous les prompts soumis à ces systèmes sont envoyés sur internet avec les éventuelles données qu’ils comprennent. L’utilisateur de solutions d’intelligence artificielle doit avoir conscience qu’il perd le contrôle sur les données qu’il fournit dans ses requêtes et notamment sur l’usage que ces outils peuvent en faire ultérieurement (risque de communication à d’autres utilisateurs, de réutilisation par l’éditeur du service…). Il n’est donc pas recommandé de communiquer des données personnelles ou sensibles (RGPD), des données protégées par le secret des affaires ou appartenant à des tiers. La même prudence doit être de rigueur avec l’usage des moteurs de recherche…
Par ailleurs, l’éditeur du service d’IA (idem pour un moteur de recherche) est en mesure d’identifier les domaines de recherche de chaque utilisateur ce qui peut s’avérer problématique pour les entreprises désireuses de protéger la préparation d’opérations stratégiques n’ayant pas vocation à être rendues publiques (par exemple : préparation d’un dépôt de brevet, développement d’un nouveau produit ou logiciel…). Les entreprises doivent se prémunir et sensibiliser leurs équipes contre les risques liés à l’intelligence économique. Selon le Guide de l’intelligence économique “L’intelligence économique consiste à collecter, analyser, valoriser, diffuser et protéger l’information économique stratégique, afin de renforcer la compétitivité d’un Etat, d’une entreprise ou d’un établissement de recherche.“. Pour approfondir de dernier sujet, lire : L’intelligence économique : un guide pour en comprendre les enjeux et les risques / Tous les articles en rapport avec l’intelligence économique.
Concernant les limites : il ne faut pas prendre pour argent comptant les affirmations édictées par les IA mais faire preuve d’esprit critique. En effet, les agents conversationnels sont doués pour rédiger des réponses convaincantes, argumentées… quelque fois erronées voire basées sur des données construites de toute pièce à partir de faits fictifs. Ce phénomène appelé hallucination est loin d’être rare. Aussi, il est préférable de maîtriser les sujets interrogés pour pouvoir juger de la crédibilité des réponses obtenues (à l’image des calculs effectués sur une calculatrice, mieux vaut avoir une idée du résultat attendu pour déjouer une faute de frappe)…
Complexité du réel pour l’IA : chihuahua ou muffin ?
Une vache de 5,2 mètres de long ?
Dilemme éthique de la voiture autonome : qui tuer ? La grand-mère qui a déjà vécu ? Le bébé qui n’a rien à faire ici ? Ou les passagers de la voiture ?
Dernier sujet : l’usage des nouvelles nouvelles technologies comme arme. Les IA sont partout y compris comme arme de guerre sans compter les drones dopés à l’IA que l’on retrouve sur les champs de bataille que ce soit dans la guerre qui oppose l’Ukraine à la Russie, ou Israël contre le Hamas… Les drones kamikazes attaquent en essaims… Les outils de lutte anti-drones se développent. De nouvelles armes appellent de nouvelles contre-mesures.
Le support de la conférence est téléchargeable ci-après. Lien vers les sujets 2022.
Les-enjeux-de-securite-des-revolutions-_IA-Robotique_-.pdf
Derniers articles parBenoît RIVIERE (voir tous)
- Nouveautés de l’interpréteur de formules de calcul (v1.1) - dimanche 3 novembre 2024
- Dématérialisation de la facturation : nouvelles mentions obligatoires - lundi 28 octobre 2024
- Interpréteur de formules de calcul en Python - dimanche 13 octobre 2024
- Les données de la facturation électronique - mercredi 9 octobre 2024
- VBA/SQL vs Power Query : deux solutions complémentaires - mercredi 2 octobre 2024