Beaucoup pensent que la voie vers une intelligence artificielle efficace passera par l'imitation de l'intelligence humaine.
Cette façon de penser limite la compréhension de ce que l'IA pourrait être capable de réaliser, même dans un avenir proche. Chez WithSecure, nous pensons que lorsque des systèmes d'IA, capables de faire preuve d'une véritable intelligence artificielle apparaîtront, ils ne se comporteront pas comme des humains.
Projet Blackfin
Pour tenter de comprendre comment une telle intelligence artificielle pourrait éventuellement être appliquée dans le domaine de la cybersécurité, nous avons mis en place un effort de recherche appelé Projet Blackfin.
Les techniques d'intelligence collective telles que l'intelligence en essaim et l'apprentissage par renforcement multi-agents représentent les premières étapes d'un chemin qui pourrait mener à l'évolution d'une véritable intelligence artificielle. Les techniques d'intelligence collective impliquent la modélisation et l'étude des interactions entre plusieurs agents au sein d'un même système.
Les interactions entre ces agents peuvent souvent conduire à l'émergence de comportements inattendus, qui ne sont pas sans rappeler les phénomènes coopératifs naturels observés dans les bancs de poissons ou les colonies d'insectes.
Nous pensons qu'il faudrait orienter davantage la recherche vers la découverte et l'utilisation de l'intelligence émergente des machines sous sa forme unique, au lieu d'essayer de la modeler pour qu'elle se comporte comme les humains. Si notre objectif ultime est de créer des systèmes qui surpassent notre propre intelligence, nous devons penser au-delà des humains et de leurs capacités.
Les agents des essaims d'intelligence collective communiquent entre eux et partagent leurs connaissances. L'apprentissage fédéré est un exemple de mécanisme dans le partage des connaissances couramment utilisé. À mesure que de nouveaux et meilleurs mécanismes de communication et de partage des connaissances seront mis en place, les systèmes d'intelligence collective deviendront plus performants et plus puissants. À l'avenir, lorsque les essaims d'intelligence collective seront composés d'agents réellement intelligents, leurs capacités dépasseront tout ce que nous pouvons imaginer actuellement.
Dans la nature, les essaims d'organismes travaillent ensemble pour réaliser des actions qui dépassent les capacités de chaque individu. En interagissant les uns avec les autres, en apprenant et en partageant des informations, ils sont capables de résoudre des problèmes, et ce, de manière parfois inattendue.
En augmentant la complexité des agents individuels dans un essaim d'intelligence collective, des comportements plus complexes, et donc des capacités plus complexes, apparaissent. Ces comportements émergents peuvent être appliqués pour résoudre des problèmes du monde réel tels que ceux rencontrés dans la cybersécurité. Nous pensons que les techniques d'intelligence collective seront également pertinentes dans divers autres domaines, tels que le transport, l'énergie, la logistique et les véhicules autonome.
Les objectifs
Le projet Blackfin est un effort de recherche pluriannuel visant à étudier l'application de l'intelligence collective dans le domaine de la cybersécurité. La recherche, qui est dirigée par le Centre d'excellence en intelligence artificielle de WithSecure est un effort à l'échelle de l'entreprise, impliquant les ingénieurs de WithSecure, les chercheurs spécialistes des données et les partenaires universitaires. Les objectifs à court terme de cette recherche sont les suivants :
Detection
Développer de nouvelles méthodes, plus génériques, pour détecter les attaques.
Suivi
Créer des mécanismes capables de suivre les actions des attaquants sur plusieurs endpoints.
Automatisation
Améliorer et automatiser davantage les capacités de collecte de renseignements sur les menaces.
Amélioration
Comprendre la mise en œuvre et améliorer les actions de réponse automatisées.
Analyse
Mettre en œuvre des mécanismes capables d'effectuer une analyse contextuelle des risques sur chaque endpoint.
Ressources connexes
A security self-assessment questionnaire for machine learning-based systems
Pour en savoir plusA study of defences against poisoning attacks in a distributed learning environment
Pour en savoir plusThe first AI innovations of Project Blackfin are already a part of our Endpoint Detection and Response solution.
Pour en savoir plusVous souhaitez en savoir plus ?
Remplissez le formulaire, pour obtenir plus d'informations sur le projet Blackfin.
Nos accréditations et certificats
