Google veut confier la sécurité d’Android à une intelligence artificielle
Les équipes en charge de la sécurité de l’OS mobile le plus populaire au monde tente de plus en plus d’intégrer des intelligences artificielles dans leur processus de surveillance ou d’optimisation. Des efforts prometteurs, même si tout n’est pas encore prêt…
« Machine learning », « intelligence artificielle » et « deep
learning », trois expressions qui ont été répétées des dizaines de fois
lors de la conférence d’ouverture de la Google I/O, le 18 mai dernier. Une omniprésence qui témoigne de l’importance centrale que prend ce domaine dans la stratégie de Google.
Centrale au point que la sécurité d’Android ou plutôt les sécurités d’Android sont peu à peu confiées à des intelligences artificielles grâce au deep learning. C’est ce qu’annonce Wired, qui a eu l’occasion de rencontrer les équipes chargées de sécuriser l’OS mobile. A leur tête, Adrian Ludwig pense qu’il faut changer de modèle de sécurité et opter pour une gestion des risques plutôt que de tenter de tous les éviter en bloquant ou fermant tout. Pourquoi ? Pour la simple et bonne raison qu’avec plus d’un milliard d’appareils sous Android, il y aura forcément des failles, des périphériques compromis et des problèmes de sécurité.
Toutefois, pour cela, il faut une quantité de données suffisamment significative pour que les réseaux neuronaux puissent apprendre – ou alors il faut encore améliorer ces réseaux. Or, contrairement à ce qu’on pourrait croire, à l’heure actuelle, tous les éléments ne sont pas encore réunis. Les problèmes remontés ne sont pas assez nombreux pour que les intelligences artificielles de Google puissent s’y faire les dents. « Ce n’est pas une expérimentation scientifique. C’est réel. Mais ce n’est pas une solution dominante », explique ainsi Adrian Ludwig à Wired.
Elle est toutefois également utilisée au sein d’un autre système, le Clusterfuzz, qui, sur des milliers de smartphones, virtuels ou bien réels, sert à rechercher un bug dans Android ou une faille provoquée par un usage, une application, etc. Le machine learning est utilisé pour tester et identifier chaque fichier, voir comment chacun réagit ou interagit. L’objectif est d’arriver à couvrir 100% des fichiers et, en l'occurrence, seul l’apprentissage machine pourra permettre cette exhaustivité à terme.
Jusqu’à présent, ce travail de « physionomiste » reposait seulement sur des règles préétablies. Désormais, les équipes de Google commencent à y ajouter du machine learning. Car, en scannant chaque application mise en ligne sur le Play Store, en y cherchant un potentiel code dangereux, en l’exécutant et en analysant son comportement, les ingénieurs de Google ont amassé une quantité colossale de données. Les confier à une intelligence artificielle leur permet d’automatiser la chasse aux malwares et de découvrir d’éventuelles nouvelles relations entre différents éléments nuisibles.
« Nous pouvons utiliser l’apprentissage machine pour découvrir lesquels de ces signaux sont effectivement liés à des comportements potentiellement dangereux et lesquels sont totalement inoffensifs », commente Sebastian Porst, qui travaille avec Adrian Ludwig.
Pour autant, pour l’heure, Sebastian Porst tient à préciser qu’aucune expertise en sécurité ne peut être remplacée par un algorithme d’apprentissage machine. Ainsi, si l’intelligence artificielle annonce un problème, un ingénieur vérifie qu’il ne s’agit pas d’une erreur. Mais une fois encore, malgré les centaines de milliers d’applications sur le Play Store, les informations manquent. Car il n’y a plus assez d’applications à problèmes dans ce kiosque de téléchargement officiel. En revanche, les applications disponibles sur les plates-formes tierces offrent plus de données au réseau neuronal.
Si l’intelligence artificielle n’est pas encore prête à assurer, seule, la sécurité d’Android, les efforts en ce sens montrent, d’une part, ce que peut apporter l’apprentissage machine et, d’autre part, que Google met les bouchées doubles pour renforcer son OS mobile. Un enjeu stratégique qui validera également le choix de son modèle d’ouverture, face à celui d’Apple, donné pour être plus sûr car fermé.
Source :
Wired
Centrale au point que la sécurité d’Android ou plutôt les sécurités d’Android sont peu à peu confiées à des intelligences artificielles grâce au deep learning. C’est ce qu’annonce Wired, qui a eu l’occasion de rencontrer les équipes chargées de sécuriser l’OS mobile. A leur tête, Adrian Ludwig pense qu’il faut changer de modèle de sécurité et opter pour une gestion des risques plutôt que de tenter de tous les éviter en bloquant ou fermant tout. Pourquoi ? Pour la simple et bonne raison qu’avec plus d’un milliard d’appareils sous Android, il y aura forcément des failles, des périphériques compromis et des problèmes de sécurité.
Un besoin insatiable de données
Comment accompagner ce changement ? Grâce à l’utilisation d’intelligence artificielle pour analyser des modèles et un flux incessant de données en provenance de tous ces smartphones et tablettes. Grâce au machine learning, Google entend réussir à créer un système qui analyse des changements, des états et est capable d’identifier les problèmes potentiels à la volée, au fur et à mesure qu’ils apparaissent.Toutefois, pour cela, il faut une quantité de données suffisamment significative pour que les réseaux neuronaux puissent apprendre – ou alors il faut encore améliorer ces réseaux. Or, contrairement à ce qu’on pourrait croire, à l’heure actuelle, tous les éléments ne sont pas encore réunis. Les problèmes remontés ne sont pas assez nombreux pour que les intelligences artificielles de Google puissent s’y faire les dents. « Ce n’est pas une expérimentation scientifique. C’est réel. Mais ce n’est pas une solution dominante », explique ainsi Adrian Ludwig à Wired.
Elle est toutefois également utilisée au sein d’un autre système, le Clusterfuzz, qui, sur des milliers de smartphones, virtuels ou bien réels, sert à rechercher un bug dans Android ou une faille provoquée par un usage, une application, etc. Le machine learning est utilisé pour tester et identifier chaque fichier, voir comment chacun réagit ou interagit. L’objectif est d’arriver à couvrir 100% des fichiers et, en l'occurrence, seul l’apprentissage machine pourra permettre cette exhaustivité à terme.
L’IA pour améliorer l’existant
Si l’intelligence artificielle n’est pas encore capable de satisfaire à toutes les attentes en matière de sécurité, elle sert aussi à améliorer des systèmes existants. Ainsi, le Bouncer du Play Store se muscle au deep learning. Ce programme, lancé en février 2012, détecte les applications intégrant potentiellement un malware et les retoque.Jusqu’à présent, ce travail de « physionomiste » reposait seulement sur des règles préétablies. Désormais, les équipes de Google commencent à y ajouter du machine learning. Car, en scannant chaque application mise en ligne sur le Play Store, en y cherchant un potentiel code dangereux, en l’exécutant et en analysant son comportement, les ingénieurs de Google ont amassé une quantité colossale de données. Les confier à une intelligence artificielle leur permet d’automatiser la chasse aux malwares et de découvrir d’éventuelles nouvelles relations entre différents éléments nuisibles.
« Nous pouvons utiliser l’apprentissage machine pour découvrir lesquels de ces signaux sont effectivement liés à des comportements potentiellement dangereux et lesquels sont totalement inoffensifs », commente Sebastian Porst, qui travaille avec Adrian Ludwig.
Pour autant, pour l’heure, Sebastian Porst tient à préciser qu’aucune expertise en sécurité ne peut être remplacée par un algorithme d’apprentissage machine. Ainsi, si l’intelligence artificielle annonce un problème, un ingénieur vérifie qu’il ne s’agit pas d’une erreur. Mais une fois encore, malgré les centaines de milliers d’applications sur le Play Store, les informations manquent. Car il n’y a plus assez d’applications à problèmes dans ce kiosque de téléchargement officiel. En revanche, les applications disponibles sur les plates-formes tierces offrent plus de données au réseau neuronal.
Si l’intelligence artificielle n’est pas encore prête à assurer, seule, la sécurité d’Android, les efforts en ce sens montrent, d’une part, ce que peut apporter l’apprentissage machine et, d’autre part, que Google met les bouchées doubles pour renforcer son OS mobile. Un enjeu stratégique qui validera également le choix de son modèle d’ouverture, face à celui d’Apple, donné pour être plus sûr car fermé.
Source :
Wired
Commentaires