Edge AI : allez viens, on embarque notre intelligence artificielle !

A presentation at Touraine Tech in January 2023 in Tours, France by Eléa PETTON

Slide 1

Slide 1

Edge AI Allez viens, on embarque notre intelligence artificielle ! Eléa Petton

Slide 2

Slide 2

Machine Learning Engineer AI Solutions Team @EleaPetton eleapttn Eléa PETTON

Slide 3

Slide 3

De l’idée au déploiement d’IA

Slide 4

Slide 4

AI pipeline EDA / Data processing collecte et exploration des données préparation des données séparation des données Entraînement du modèle construction du modèle entraînement du modèle dans le Cloud Inférence exportation du modèle déploiement du modèle résolution du problème

Slide 5

Slide 5

Qu’est-ce que l’Edge AI ?

Slide 6

Slide 6

Edge AI [Edge Computing] + [AI] = [Edge AI]

Slide 7

Slide 7

Edge AI Intégrer l’IA au plus près des capteurs ou des objets connectés Pas besoin de disposer d’une connectivité internet permanente Confidentialité des données Réduction de la latence

Slide 8

Slide 8

Edge AI Stockage et traitement des données Entraînement du modèle Modèle d’IA entraîné Processeur Edge AI

Slide 9

Slide 9

L’Edge AI en quelques chiffres Le marché mondial des logiciels d’Edge AI devrait atteindre 3,1 milliards de dollars d’ici 2027 ActuAI, d’après le Research Dive - institution indienne spécialisée dans les études de marché

Slide 10

Slide 10

Parlons d’Edge Computing

Slide 11

Slide 11

Pourquoi l’Edge Computing ? 1 Diminution de la latence de traitement des données 2 Augmentation de la sécurité informatique 3 Amélioration de la fiabilité et la résilience 4 Prise en charge des applications AI/ML

Slide 12

Slide 12

Et dans la vie courante… Supermarché autonome Smart homes Médical Industrie Smart cities Voiture autonome

Slide 13

Slide 13

Edge Computing et Cloud Computing

Slide 14

Slide 14

Cloud computing Edge computing Calcul dans le Cloud Calcul sur les dispositifs périphériques

Slide 15

Slide 15

Cloud computing Edge computing Opérations réalisées on Edge Traitement Exportation Stockage Inférence Entraînement Opérations réalisées dans le Cloud

Slide 16

Slide 16

Les avantages de l’Edge AI

Slide 17

Slide 17

Faible latence services de Deep Learning déployés à proximité des utilisateurs réduction considérable de la latence réduction du coût de l’envoi des données vers le Cloud

Slide 18

Slide 18

Confidentialité données brutes stockées localement sur les appareils de périphérie ou les appareils des utilisateurs confidentialité améliorée

Slide 19

Slide 19

Fiabilité nécessité de disposer de services intelligents extrêmement fiables maintien des services lorsque les connexions réseau sont perdues

Slide 20

Slide 20

Raspberry Pi 4

Slide 21

Slide 21

Raspberry Pi 4 Qu’est-ce qu’un Raspberry Pi ? Nano-ordinateur monocarte Raspberry Pi 4 Model B

Slide 22

Slide 22

Raspberry Pi 4 Les avantages des Raspberry Pi Importantes capacités de traitement Faible encombrement Faibles besoins en énergie

Slide 23

Slide 23

Raspberry Pi 4 + IA ? Peut-on déployer des modèles d’IA sur Raspberry Pi 4 ? Mise en œuvre d’applications de Machine Learning Déploiement de modèles personnalisés

Slide 24

Slide 24

Raspberry Pi 4 + IA ? Adaptation aux systèmes d’IA à hautes performances Un assistant IA Un outil de reconnaissance ou de détection Une station météo Un système de sécurité Un drone autonome

Slide 25

Slide 25

PEN 0.96 YOLOv7 sur RPI4

Slide 26

Slide 26

YOLOv7 You Only Look Once Famille d’algorithmes Reconnaissance d’objets variés sur des images et vidéos Détection temps réel Rapidité + précision

Slide 27

Slide 27

Détection d’objets sur RPI4 DOG 0.89 YOLOv7 modèle personnalisé RASPBERRY PI 4 + WEBCAM détection en temps réel RÉSULTATS affichés

Slide 28

Slide 28

Et en pratique ? 1 2 3 4 5 6 Entraînement du modèle YOLOv7 avec AI Notebooks Exportation du modèle dans l’Object Storage Récupération du modèle sur le Raspberry Pi 4 avec la CLI ovhai Clonage du dépôt GitHub de YOLOv7 Installation des dépendances Python Détection en temps réel depuis une webcam ou une caméra

Slide 29

Slide 29

Entraînement de YOLOv7

Slide 30

Slide 30

Déploiement du modèle YOLOv7 sur RPI4

Slide 31

Slide 31

Qu’avons-nous appris aujourd’hui ?

Slide 32

Slide 32

Qu’avons-nous appris ? Notion d’Edge AI AI Notebooks Edge Computing, Cloud Computing, IA embarquée Entraînement et exportation d’un modèle dans le Cloud Raspberry Pi 4 Déploiement sur RPI4 Adaptation aux systèmes d’IA à hautes performances Récupération du modèle, installation des dépendances YOLOv7 YOLOv7 Détection en temps-réel Algorithme de détection d’objets Reconnaissance d’objets, sauvegarde des résultats

Slide 33

Slide 33

e lp ou ep cl ra @ C R I E ! M y n a ir tt B It n s Lo @ x ags d l i @w @aure lievach e @titimob y

Slide 34

Slide 34

Avez-vous des questions ?

Slide 35

Slide 35

Ressources What Is Edge AI and How Does It Work? - https://blogs.nvidia.com/blog/2022/02/17/what-is-edge-ai/ Edge AI is Overtaking Cloud Computing for Deep Learning Applications - https://embeddedcomputing.com/technology/iot/edgecomputing/edge-ai-is-overtaking-cloud-computing-for-deep-learning-applications Article sur l’EdgeAI par ActuAI - https://www.actuia.com/actualite/ledge-ai-la-technologie-en-plein-essor-qui-mele-intelligence-artificielle-etedge-computing/ Etude de marché sur l’EdgeAI par Research Dive - https://www.researchdive.com/6080/edge-ai-hardware-market Raspberry Pi 4 Model B - https://www.raspberrypi.com/products/raspberry-pi-4-model-b/ YOLOv5 Object Detection on Raspberry Pi 4 - https://www.youtube.com/watch?v=pIUFXGxR_-Q&t=3s Running YOLOv5 Machine Learning Detection on a Raspberry Pi 4 - https://jordan-johnston271.medium.com/tutorial-running-yolov5-machinelearning-detection-on-a-raspberry-pi-4-3938add0f719 Dépôt GitHub de YOLOv7 - https://github.com/WongKinYiu/yolov7 COCO dataset - https://cocodataset.org/#home Documentation des AI Tools d’OVHcloud - https://docs.ovh.com/gb/en/publiccloud/ai/ Dépôt GitHub des tutoriels AI d’OVHcloud - https://github.com/ovh/ai-training-examples Dépôt GitHub des codes et commandes de la présentation Edge AI - https://github.com/eleapttn/edge-ai-yolov7