A presentation at AI Days in in Brest, France by Eléa PETTON
AI ENDPOINTS Eléa Petton
PRÉSENTATION Eléa Petton Machine Learning Engineer OVHcloud AI Solutions Team 02 @EleaPetton eleapttn Eléa PETTON
OVHcloud en quelques mots 03
OVHcloud UNE PRÉSENCE MONDIALE 04
À PROPOS D‘OVHcloud OVHcloud est un fournisseur mondial de services de cloud computing spécialisé dans les solutions performantes et rentables pour mieux gérer, sécuriser et faire évoluer les données. Private Cloud Public Cloud PaaS portfolio 05 Bare Metal Web Cloud
À PROPOS D‘OVHcloud OVHcloud est un fournisseur mondial de services de cloud computing spécialisé dans les solutions performantes et rentables pour mieux gérer, sécuriser et faire évoluer les données. Public Cloud PaaS portfolio 05 AI Solutions
OVHcloud DATA & IA 06
AI SOLUTIONS et sa gamme complète de GPUs 07
OVHcloud AI SOLUTIONS 08 AI NOTEBOOKS AI TRAINING AI DEPLOY Notebook As A Service Environnement prépackagé Persistence du workspace Container As A Service Entraînement de modèles Facturation à la minute Container As A Service Inférence de modèles Haute disponibilité - autoscaling
OVHcloud ET SA GAMME DE GPUs 09 H100 A100 L40S extreme fine-tuning and training, demanding model inference, LLM projects ALREADY AVAILABLE V100S L4 deep-learning training or inference, generative AI, LLM projects advanced training and inference of AI models enhanced AI capabilities workloads A100 - ALREADY AVAILABLE L40S - ALREADY AVAILABLE ALREADY AVAILABLE ALREADY AVAILABLE
OVHcloud AI SOLUTIONS AI NOTEBOOKS AI TRAINING AI DEPLOY AI ENDPOINTS Notebook As A Service Environnement prépackagé Persistence du workspace Container As A Service Entraînement de modèles Facturation à la minute Container As A Service Inférence de modèles Haute disponibilité - autoscaling AI As A Service APIs d’IA prêtes à l’emploi Solution serverless, simple, sécurisée NEW - alpha 10
AI ENDPOINTS “seamless AI with strong privacy” 11
OVHcloud AI ENDPOINTS 12
DÉMOCRATISER L‘IA “ Améliorez vos applications avec AI Endpoints ” CONÇU POUR LES DÉVELOPPEURS ENGAGÉ ENVERS LA CONFIDENTIALITÉ LISTE ORGANISÉE DE MODÈLES D’IA TECHNOLOGIE SANS VERROUILLAGE avec une documentation complète, des API simples et des exemples de code nous ne stockons pas et ne partageons pas vos données pendant ou après l’utilisation du modèle mise à disposition des derniers modèles, optimisés pour des performances et une précision maximales grâce à notre transparence sur les modèles d’IA utilisés, les clients peuvent mettre en œuvre ces modèles sur leur propre infrastructure ou sur d’autres services cloud 13
AI ENDPOINTS et son catalogue de modèles 14
CATALOGUE DE MODÈLES “ Une plate-forme serverless donnant accès à des modèles d’IA avancés, comme les LLM, le NLP, la traduction, la reconnaissance vocale ou encore la reconnaissance d’images. ” 15 ASSISTANT AUDIO ANALYSIS COMPUTER VISION EMBEDDINGS NLP TRANSLATION
COMMENT UTILISER CES ENDPOINTS ? PARCOURIR le catalogue d’AI Endpoints INTÉGRER les call API dans son code TESTER le playground depuis l’interface utilisateur 16 PROFITER de sa solution à la pointe de la technologie PERFECTIONNER son application avec des API d’IA optimisées
DEMO TIME “AI Endpoints in action” 17
DEMO 1 - USAGE DE BASE “ Un unique Endpoint en tant que réponse à votre besoin ! ” QUERY 18 AI ENDPOINT RESPONSE
DEMO 1 - USAGE DE BASE “ Un unique Endpoint en tant que réponse à votre besoin ! ” INTÉGREZ UN ENDPOINT LLM À VOTRE SOLUTION QUERY 18 AI ENDPOINT LLM RESPONSE
“INTÉGREZ SIMPLEMENT UN AI ENDPOINT À VOTRE SOLUTION EN QUELQUES LIGNES DE CODE” 19
DEMO 2 - COMBINER LES ENDPOINTS À L’INFINI “ Speech-To-Text, LLM, Translation, Text-To-Speech… Comment assembler ces Endpoints pour obtenir une solution complète et adaptée à mon besoin ? ” QUERY 20 AI ENDPOINT N°1 AI ENDPOINT N°2 RESPONSE
DEMO 2 - COMBINER LES ENDPOINTS À L’INFINI “ Speech-To-Text, LLM, Translation, Text-To-Speech… Comment assembler ces Endpoints pour obtenir une solution complète et adaptée à mon besoin ? ” QUERY 20 AI ENDPOINT N°1 AI ENDPOINT N°2 AI ENDPOINT N°3 RESPONSE
DEMO 2 - COMBINER LES ENDPOINTS À L’INFINI “ Speech-To-Text, LLM, Translation, Text-To-Speech… Comment assembler ces Endpoints pour obtenir une solution complète et adaptée à mon besoin ? ” INTERROGEZ UN LLM VERBALEMENT GRÂCE AU SPEECH AI QUERY 20 AI ENDPOINT ASR AI ENDPOINT LLM AI ENDPOINT TTS RESPONSE
“ASSEMBLEZ CES AI ENDPOINTS ENTRE EUX POUR UNE SOLUTION INNOVANTE ET SUR-MESURE” 21
DEMO 3 - UN CHATBOT INCOLLABLE SUR VOS DONNÉES “ Utiliser AI Endpoints et LangChain pour créer son propre chatbot, c‘est possible ! ” AI ENDPOINT EMBEDDINGS VECTOR DB RETRIEVED CONTEXTS QUERY AI ENDPOINT LLM RESPONSE 22
“CRÉEZ VOTRE PROPRE RAG AVEC AI ENDPOINTS ET LANGCHAIN POUR UN CHATBOT PERSONNALISÉ” 23
CONCLUSION que retenir de AI Endpoints ? 24
CONCLUSION Que retenir de la solution AI Endpoints ? 25 CONFIDENTIALITÉ Avec AI Endpoints nous ne stockons pas et ne partageons pas vos données pendant ou après l’utilisation du modèle. TRANSPARENCE Grâce à la transparence d’AI Endpoints sur les modèles d’IA utilisés, les clients peuvent mettre en œuvre ces modèles sur leur propre infrastructure ou sur d’autres services cloud. ACCESSIBILITÉ AI Endpoints est conçu dans le but de simplifier et de démocratiser l’IA et permet aux développeurs de tous niveaux d’utiliser des APIs de pointe, sans aucune expertise nécessaire. IA OPTIMISÉES AI Endpoints met à disposition les derniers modèles les plus puissants, optimisés par les ingénieurs en IA d’OVHcloud pour des performances et une précision maximales.
CONCLUSION Que retenir de la solution AI Endpoints ? 26 TESTEZ PAR VOUS MÊME !
MERCI !
CONTACTEZ-NOUS ! Informations https://www.ovhcloud.com/ OVHcloud elea.petton@ovhcloud.com @OVHcloud
Démo menée par OVHcloud autour de leur nouvelle solution : AI Endpoints. La plateforme se veut accessible car elle ne nécessite d’aucune expertise en matière d’IA ou d’infrastructure dédiée, il s’agit d’une solution serverless proposant les modèles d’IA les plus avancés. Vous y retrouverez notamment du LLM As A Service basés sur des modèles comme Llama ou Mistral. Une alternative crédible aux géants tels que AWS, Azure, Google Cloud Platform. Pour en savoir plus : https://endpoints.ai.cloud.ovh.net/
for free. You
can too.