GSP1165

Présentation

Concevoir des requêtes, c'est créer des requêtes efficaces pour produire le résultat souhaité à partir d'un grand modèle de langage (LLM) tel que PaLM. Ces requêtes peuvent être utilisées pour générer du texte, traduire des langues, rédiger différents types de contenus créatifs et répondre à vos questions de manière informative.

Pour obtenir de bons résultats à partir de votre requête, vous devez être spécifique, choisir des mots clés pertinents pour le résultat que vous voulez générer et fournir à PaLM des exemples de réponses souhaitées pour l'aider à mieux comprendre votre demande.

Dans cet atelier, vous jouerez le rôle d'un analyste marketing travaillant pour le compte d'une agence immobilière. Votre mission consiste à créer des requêtes capables de résumer de très longs descriptifs de logements publiés sur le site de votre agence, afin d'aider les clients à trouver des biens correspondant à leurs critères de recherche spécifiques.

Points abordés

Au cours de cet atelier, vous utiliserez Vertex AI en tant que plate-forme d'IA/de ML et verrez comment :

• créer des requêtes de bonne qualité ;
• interagir avec PaLM afin d'obtenir les réponses souhaitées ;
• repérer les hallucinations dans les réponses.

Cas d'utilisation

Votre entreprise souhaite exploiter de grands modèles de langage (LLM) pour afficher de courtes descriptions textuelles de biens immobiliers correspondant aux critères de recherche des acheteurs potentiels.

Votre mission consiste à créer des requêtes capables de résumer de très longs descriptifs de logements présentés sur votre site immobilier. Les contenus en question sont stockés dans un fichier qui est hébergé au sein d'un bucket Google Cloud Storage.

Pour gagner du temps, vous commencerez par explorer les modèles prédéfinis disponibles dans Model Garden. Vous devrez ensuite implémenter une solution aussi rapidement que possible.

Fonctionnalités de Vertex AI utilisées dans cet atelier

Modèles d'IA générative

Les modèles d'IA générative disponibles dans Vertex AI, également appelés modèles de fondation, sont classés selon le type de contenu qu'ils sont conçus pour générer : texte, chat, images, code, ou encore représentations vectorielles continues de texte. Chaque modèle est exposé via un point de terminaison d'éditeur spécifique à votre projet Google Cloud. Il est donc inutile de déployer le modèle de fondation, sauf si vous devez le régler pour un cas d'utilisation spécifique.

Pathways et PaLM (Pathways Language Model)

Pathways est un modèle unique qui peut être généralisé à divers domaines et tâches, tout en étant très efficace. PaLM (Pathways Language Model) est un modèle Transformer dense et uniquement décodeur entraîné avec le système Pathways, qui permet à Google d'entraîner efficacement un seul modèle sur plusieurs pods TPU v4. PaLM est testé sur des centaines de tâches de compréhension et de génération du langage. Il possède des fonctionnalités efficaces pour les tâches multilingues et la génération de code source.

PaLM 2 est le modèle sous-jacent qui gère l'API PaLM. Ce modèle de langage de pointe est doté de fonctionnalités multilingues, de raisonnement et de codage améliorées. Pour en savoir plus sur PaLM 2, consultez Introducing PaLM 2. Ce notebook vous montre comment concevoir des requêtes pour créer différents types de résumés.

Vertex AI Studio

Vertex AI Studio est un outil de la console Google Cloud qui permet de prototyper et de tester rapidement des modèles d'IA générative. Vous pouvez utiliser des exemples de requêtes, concevoir vos propres requêtes et personnaliser des modèles de fondation afin de traiter des tâches qui répondent aux besoins de votre application. Generative AI Studio vous permet de :

• tester des modèles à l'aide d'exemples de requêtes ;
• concevoir et enregistrer vos propres requêtes ;
• régler un modèle de fondation ;
• convertir la voix en texte et inversement.

Pour en savoir plus sur AI Studio, consultez la documentation officielle.

Vertex AI Workbench

Vertex AI Workbench est une infrastructure de calcul évolutive, entièrement gérée et adaptée aux entreprises. Il fournit un environnement unique permettant aux data scientists de réaliser l'ensemble de leurs tâches de ML, qu'il s'agisse de tests, de déploiements ou encore de gestion et de surveillance de modèles. Cet environnement basé sur Jupyter inclut une vaste gamme d'outils et de services, y compris des notebooks Jupyter et des ressources de calcul gérées.

Préparation

Avant de cliquer sur le bouton "Démarrer l'atelier"

Lisez ces instructions. Les ateliers sont minutés, et vous ne pouvez pas les mettre en pause. Le minuteur, qui démarre lorsque vous cliquez sur Démarrer l'atelier, indique combien de temps les ressources Google Cloud resteront accessibles.

Cet atelier pratique vous permet de suivre vous-même les activités dans un véritable environnement cloud, et non dans un environnement de simulation ou de démonstration. Nous vous fournissons des identifiants temporaires pour vous connecter à Google Cloud le temps de l'atelier.

Pour réaliser cet atelier :

• vous devez avoir accès à un navigateur Internet standard (nous vous recommandons d'utiliser Chrome) ;

Remarque : Ouvrez une fenêtre de navigateur en mode incognito/navigation privée pour effectuer cet atelier. Vous éviterez ainsi les conflits entre votre compte personnel et le temporaire étudiant, qui pourraient entraîner des frais supplémentaires facturés sur votre compte personnel.

• vous disposez d'un temps limité ; une fois l'atelier commencé, vous ne pouvez pas le mettre en pause.

Remarque : Si vous possédez déjà votre propre compte ou projet Google Cloud, veillez à ne pas l'utiliser pour réaliser cet atelier afin d'éviter que des frais supplémentaires ne vous soient facturés.

Démarrer l'atelier et se connecter à la console Google Cloud

1. Cliquez sur le bouton Démarrer l'atelier. Si l'atelier est payant, un pop-up s'affiche pour vous permettre de sélectionner un mode de paiement. Sur la gauche, vous trouverez le panneau Détails concernant l'atelier, qui contient les éléments suivants :

   • Le bouton Ouvrir la console Google
   • Le temps restant
   • Les identifiants temporaires que vous devez utiliser pour cet atelier
   • Des informations complémentaires vous permettant d'effectuer l'atelier

2. Cliquez sur Ouvrir la console Google. L'atelier lance les ressources, puis ouvre la page Se connecter dans un nouvel onglet.

   Conseil : Réorganisez les onglets dans des fenêtres distinctes, placées côte à côte.

   Remarque : Si la boîte de dialogue Sélectionner un compte s'affiche, cliquez sur Utiliser un autre compte.

3. Si nécessaire, copiez le nom d'utilisateur inclus dans le panneau Détails concernant l'atelier et collez-le dans la boîte de dialogue Se connecter. Cliquez sur Suivant.

4. Copiez le mot de passe inclus dans le panneau Détails concernant l'atelier et collez-le dans la boîte de dialogue de bienvenue. Cliquez sur Suivant.

   Important : Vous devez utiliser les identifiants fournis dans le panneau de gauche. Ne saisissez pas vos identifiants Google Cloud Skills Boost. Remarque : Si vous utilisez votre propre compte Google Cloud pour cet atelier, des frais supplémentaires peuvent vous être facturés.

5. Accédez aux pages suivantes :

   • Acceptez les conditions d'utilisation.
   • N'ajoutez pas d'options de récupération ni d'authentification à deux facteurs (ce compte est temporaire).
   • Ne vous inscrivez pas aux essais offerts.

Après quelques instants, la console Cloud s'ouvre dans cet onglet.

Remarque : Vous pouvez afficher le menu qui contient la liste des produits et services Google Cloud en cliquant sur le menu de navigation en haut à gauche.

Activer les API

1. Accédez au menu de navigation () de la console Google Cloud, puis cliquez sur Plus de produits. Ensuite, sélectionnez Vertex AI dans la section Intelligence artificielle.
2. Dans le tableau de bord Vertex AI, cliquez sur Activer toutes les API recommandées.

Ouvrir Vertex AI Workbench

1. Toujours depuis le tableau de bord Vertex AI, cliquez sur Workbench dans le volet de gauche.

   Remarque : Vous devrez peut-être élargir la fenêtre de votre navigateur pour voir le volet de gauche.

2. Cliquez sur l'onglet Notebooks gérés par l'utilisateur.

Tâche 1 : Créer un système de questions-réponses à l'aide de modèles génératifs sur Vertex AI

Vous devez concevoir une interface utilisateur permettant aux prospects de filtrer les annonces immobilières en fonction de leurs réponses.

1. Dans l'onglet Notebooks gérés par l'utilisateur, cliquez sur l'option Ouvrir JupyterLab à côté du nom de votre notebook.

Dans la fenêtre Vertex AI Workbench qui s'ouvre, vous pouvez voir des fichiers dans le volet de gauche.

2. Double-cliquez sur training-data-analyst/self-paced-labs/genai/housing_question_answering.ipynb.

Le fichier housing_question_answering.ipynb s'ouvre dans le volet de droite.

3. Cliquez sur Modifier > Supprimer tous les résultats.

4. Lisez attentivement les instructions du notebook et exécutez le code dans chaque cellule.

Pour exécuter la cellule actuellement sélectionnée, cliquez dessus et appuyez sur MAJ+ENTRÉE. Vous trouverez les autres commandes de cellule dans l'interface du notebook, sous Exécuter.

Poursuivez cette tâche sans fermer votre environnement de notebook Jupyter. Vous y reviendrez à la tâche 3.

Cliquez sur Vérifier ma progression pour valider l'objectif.

Exécuter les cellules du fichier housing_question_answering.ipynb

Valeurs de paramètres

Chaque appel que vous envoyez à un modèle inclut des valeurs de paramètres qui contrôlent la manière dont le modèle génère sa réponse. Le modèle produit des résultats différents en fonction de ces valeurs de paramètres. Dans cette tâche, vous allez tester différentes valeurs de paramètres afin d'obtenir les meilleurs résultats possible.

Les paramètres disponibles selon les modèles peuvent varier, mais voici les plus courants :

• Température
• Limite de jetons
• Top-K
• Top-P

Température

La température permet de contrôler le degré de hasard dans la sélection des jetons, lorsque les paramètres top-K et top-P sont appliqués. Des températures basses sont idéales pour les requêtes qui nécessitent une réponse plus déterministe et moins ouverte ou créative, tandis que des températures plus élevées peuvent entraîner des résultats plus diversifiés ou créatifs. Une température de 0 est déterministe, ce qui signifie que la réponse dont la probabilité est la plus élevée est toujours sélectionnée.

Dans la plupart des cas, essayez de démarrer avec une température de 0,2. Si le modèle renvoie une réponse trop générique ou trop courte, ou s'il renvoie une réponse de remplacement, essayez d'augmenter la température.

Limite de jetons

La limite de jetons détermine la quantité maximale de texte pouvant être générée à partir d'une requête. Un jeton correspond environ à quatre caractères. La valeur par défaut est 256.

Spécifiez une valeur inférieure pour obtenir des réponses plus courtes et une valeur supérieure pour des réponses plus longues.

Top-K

Top-K modifie la façon dont le modèle sélectionne les jetons pour la sortie. Une valeur top-K de 1 signifie que le prochain jeton sélectionné est le plus probable parmi tous les jetons du vocabulaire du modèle (une stratégie également appelée décodage glouton), tandis qu'une valeur top-K de 3 signifie que le jeton suivant est sélectionné parmi les trois jetons les plus probables à l'aide de la température.

Pour chaque étape de sélection des jetons, les jetons top-K ayant les plus fortes probabilités sont échantillonnés. Les jetons sont ensuite filtrés en fonction du top-P, puis le jeton final est sélectionné à l'aide de l'échantillonnage de température.

Spécifiez une valeur inférieure pour obtenir des réponses moins aléatoires et une valeur supérieure pour des réponses plus aléatoires. La valeur par défaut de top-K est 40.

Top-P

Top-P modifie la façon dont le modèle sélectionne les jetons pour la sortie. Les jetons sont sélectionnés en partant de la probabilité la plus forte (voir top-K) à la plus basse, jusqu'à ce que la somme de leurs probabilités soit égale à la valeur top-P. Par exemple, si les jetons A, B et C ont une probabilité de 0,3, 0,2 et 0,1 et que la valeur de top-P est 0,5, le modèle sélectionne A ou B comme jeton suivant à l'aide de la température et exclut le jeton C comme candidat.

Spécifiez une valeur inférieure pour obtenir des réponses moins aléatoires et une valeur supérieure pour des réponses plus aléatoires. La valeur par défaut de top-P est 0,80.

Tâche 2 : Tester différentes valeurs de paramètres

Vous pouvez à présent essayer différentes valeurs de paramètres.

1. Accédez au menu de navigation () de la console Google Cloud, puis sélectionnez Vertex AI dans la section Intelligence artificielle.

2. Dans le volet Outils à gauche, cliquez sur Langage dans la section Generative AI Studio. Ensuite, cliquez sur Requête textuelle sur la page Premiers pas.

3. Saisissez la requête suivante :

Summarize the beginning of Harry Potter for me.

4. Dans la section "Paramètres", faites passer la température de 0,9 à 1. Cliquez sur Envoyer, puis sur Enregistrer. Nommez votre requête et enregistrez-la. Lisez la réponse pour voir comment différentes valeurs de température influent sur le résultat.

5. Dans la section "Paramètres", faites passer la limite de jetons de 2 048 à 1 024. Cliquez sur Envoyer, puis sur Enregistrer. Lisez la réponse pour voir comment différentes limites de jetons influent sur le résultat.

6. Dans la section "Paramètres", cliquez sur le bouton d'activation Avancé pour faire passer la valeur de top-K à 1. Cliquez sur Envoyer, puis sur Enregistrer. Lisez la réponse pour voir comment différentes valeurs de top-K influent sur le résultat.

7. Dans la section "Paramètres", faites passer la valeur de top-P à 1. Cliquez sur Envoyer, puis sur Enregistrer. Lisez la réponse pour voir comment différentes valeurs de top-P influent sur le résultat.

Cliquez sur Vérifier ma progression pour valider l'objectif.

Modifier les paramètres et enregistrer votre réponse

Tâche 3 : Résumer des textes à l'aide de modèles génératifs sur Vertex AI

Vous allez résumer des descriptions immobilières à l'aide des informations les plus pertinentes afin de simplifier la recherche de biens.

1. Dans votre notebook JupyterLab, double-cliquez sur le fichier housing_text_summarization.ipynb dans le volet de gauche.

2. Cliquez sur Modifier > Supprimer tous les résultats.

3. Lisez attentivement les instructions du notebook et exécutez le code dans chaque cellule.

Exécuter les cellules du fichier housing_text_summarization.ipynb

Félicitations !

Vous vous êtes servi de l'API PaLM et d'AI Studio pour créer et tester des requêtes destinées à différents cas d'utilisation de l'IA générative. Par ailleurs, vous avez exploré l'interface utilisateur d'AI Studio, et vous avez créé des requêtes textuelles et de code en utilisant différents paramètres.

Étapes suivantes et informations supplémentaires

• Pour en savoir plus sur la conception de requêtes, accédez à la documentation officielle.

• Consultez les notebooks utilisés dans cet atelier.

Formations et certifications Google Cloud

Les formations et certifications Google Cloud vous aident à tirer pleinement parti des technologies Google Cloud. Nos cours portent sur les compétences techniques et les bonnes pratiques à suivre pour être rapidement opérationnel et poursuivre votre apprentissage. Nous proposons des formations pour tous les niveaux, à la demande, en salle et à distance, pour nous adapter aux emplois du temps de chacun. Les certifications vous permettent de valider et de démontrer vos compétences et votre expérience en matière de technologies Google Cloud.

Dernière mise à jour du manuel : 28 décembre 2023

Dernier test de l'atelier : 28 décembre 2023

Copyright 2024 Google LLC Tous droits réservés. Google et le logo Google sont des marques de Google LLC. Tous les autres noms d'entreprises et de produits peuvent être des marques des entreprises auxquelles ils sont associés.