Amazon Bedrock : Construire une base solide pour votre stratégie d'IA

Amazon a récemment annoncé son service de modèle de fondation : Amazon Bedrock. Nous avons pu mettre la main dessus dans le cadre d'une avant-première limitée. Qu'est-ce qu'il y a dedans pour vous ?

Au cours des derniers mois, chaque semaine a vu l'arrivée d'un nouvel acteur dans le domaine de l'IA générative. Certaines semaines, il s'agit d'un nouveau modèle à code source ouvert, tandis que d'autres semaines, des acteurs établis lancent leurs modèles et services de base.

OpenAI (et par extension, Microsoft) a donné le coup d'envoi avec ChatGPT. Meta a rapidement suivi avec ses modèles LLaMA, que la communauté open-source a chaleureusement adoptés. Anthropic n'a pas été en reste avec Claude, et Google a récemment annoncé ses services d'IA générative lors de la conférence Google I/O.

Un lecteur méticuleux pourrait remarquer qu'il manque à la liste ci-dessus un acteur important, qui a révolutionné les services en nuage tels que nous les connaissons, et il aurait raison. Il y a quelques mois, Amazon a annoncé son service de modèle de base, Amazon Bedrock. Dans le cadre de la version bêta, nous avons pu mettre la main dessus et, par le biais de ce blog, nous vous montrons ce qu'il offre et notre première impression !

Qu'est-ce que Bedrock ?

Annoncé dans le cadre de la promotion de l'IA générative sur AWS, Amazon Bedrock est un service qui rend divers modèles de base (d'où le nom Bedrock) accessibles par l'intermédiaire d'une API. Il permet aux clients de créer et de mettre à l'échelle des applications basées sur l'IA générative sans se soucier de l'infrastructure et de la maintenance nécessaires à l'exécution de ces modèles. Il s'agit de "Foundation-Models-as-a-Service" (modèles de fondation en tant que service).

N'est-ce pas la même chose que Sagemaker Jumpstart ?

Alors que Sagemaker Jumpstart offre une pléthore de modèles préformés qui peuvent être affinés ou déployés à la demande, Bedrock offre des modèles similaires et beaucoup plus importants en tant que service géré, réduisant ainsi le processus d'utilisation d'un modèle de base à une simple demande d'API.

Quels sont les modèles auxquels vous pouvez accéder par l'intermédiaire de Bedrock ?

Actuellement, Amazon Bedrock prend en charge les modèles NLP et Vision Foundation. Bien que le nombre de modèles pris en charge soit déjà impressionnant, nous nous attendons à ce que cette liste s'allonge.

Anthropic's Claude

Bedrock donne accès à deux modèles de la famille Claude d'Anthropic ; Claude, avec un contexte de 12K tokens pour gérer des dialogues sophistiqués et des tâches de génération de contenu créatif, et Claude Instant, avec 9K tokens pour une performance plus rapide et des tâches linguistiques plus simples.

D'une manière générale, la famille de modèles linguistiques de Claude offre d'excellentes performances tout en mettant l'accent sur le pilotage et la sécurité grâce à l'approche de l'IA constitutionnelle d' Anthropic.

Le jurassique d'AI21

Une autre famille de LLM, cette fois de AI21 Labs, est également disponible sur Amazon Bedrock. Deux modèles, J2 Grande Instruct et J2 Jumbo Instruct, sont accessibles à partir de la famille Jurassic. Les modèles Jurassic offrent des capacités multilingues avec un support pour l'anglais, l'espagnol, le français, l'allemand, l'italien, le portugais et le néerlandais.

Le Titan FM d'Amazon

Parallèlement au lancement de Bedrock, Amazon a également annoncé le lancement de sa famille de modèles de base, appelée Titan. Actuellement, deux modèles sont disponibles via Bedrock : Titan Text Large, un LLM génératif et Titan Text Embeddings, un modèle qui, comme son nom l'indique, peut générer des embeddings de texte pour des applications telles que la recherche et la recommandation.

Alors que des modèles comme Claude et J2 sont des modèles de suivi d'instructions formés pour fonctionner correctement dans une configuration de type "chat", Titan est un modèle de langage comme GPT-3 utile pour les tâches NLP telles que le résumé, l'extraction d'informations et la génération de texte.

Les Titan FM peuvent détecter et supprimer les contenus nuisibles dans les données, rejeter les contenus inappropriés dans les entrées des utilisateurs et filtrer les résultats des modèles qui contiennent des contenus inappropriés (tels que les discours haineux, les blasphèmes et la violence).

Diffusion stable

Alors que les modèles mentionnés précédemment traitent du texte, Bedrock prend également en charge la génération d'images par le biais des modèles de diffusion stable. Actuellement, il donne accès à Stable Diffusion XL, qui permet l'incitation de texte à image, l'incitation d'image à image, et l'incrustation d'image.

Toutefois, à l'heure actuelle, seule la commande de texte à image est possible par l'intermédiaire d'Amazon Bedrock.

Nos premières impressions

Faisant partie d'un nombre limité de partenaires AWS ayant accès à Bedrock, nous avons essayé les modèles et outils disponibles pour tester ses capacités. Voici ce qui nous a le plus marqué !

Modèle Variété

L'une des principales qualités de Bedrock est la variété des modèles disponibles. Alors que les services Azure et Google sont limités à leurs offres propriétaires, Amazon Bedrock met à disposition une bien plus grande variété de modèles, ce qui permet de faire des choix plus judicieux en termes de qualité, de performance et de coût.

Mettre l'accent sur la sécurité

Amazon Titan a effectivement filtré les contenus dangereux, refusé de répondre et renvoyé l'utilisateur à ses conditions d'utilisation. De tels filtres seront obligatoires lorsque le grand public interagira avec ces modèles dans le cadre d'applications orientées vers l'utilisateur.

Terrains de jeux

Comme d'autres offres d'IA générative, Amazon Bedrock fournit également un terrain de jeu pratique où l'on peut tester diverses invites et paramètres pour chaque modèle avant de l'intégrer dans son application. Cela devrait permettre des tests et des prototypes rapides, réduisant ainsi le temps de développement global.

Facilité d'accès

Amazon promet que "Bedrock est le moyen le plus facile de construire et de mettre à l'échelle des applications d'IA générative avec des FM". Jusqu'à présent, nous sommes d'accord !

Pour accéder à un modèle, il suffit d'envoyer une requête avec les paramètres et les entrées appropriés (voir l'extrait de code ci-dessus). La prise en charge de Bedrock a été ajoutée au SDK officiel AWS Python boto3, ce qui rend le service relativement simple à utiliser. En outre, le fait qu'il s'agisse d'un service géré signifie que les entreprises n'auront pas à s'inquiéter de la mise à l'échelle et des problèmes qui en découlent à mesure qu'une base d'utilisateurs plus importante utilisera leur produit.

Tarification

Bien que les détails exacts de la tarification soient encore sous NDA, nous pouvons partager que les prix sont extrêmement compétitifs et parfois substantiellement plus bas que les tarifs correspondants offerts par OpenAI.

Nos attentes pour l'avenir

Bien que Bedrock soit déjà très prometteur, il convient de rappeler qu'il s'agit encore d'une version préliminaire. Voici ce qui devrait changer ou être ajouté prochainement :

Mise au point du modèle général

Le blog d'Amazon sur Bedrock indiquait que les clients pouvaient affiner ces modèles avec leurs données, permettant ainsi des modèles spécifiques pour des cas d'utilisation spécifiques. Toutefois, cette fonctionnalité n'est actuellement disponible que pour les modèles Titan. La facilité d'affinage sera un facteur important de changement dans l'adoption de Bedrock par les entreprises.

(Non) disponibilité dans l'UE

Actuellement, Amazon Bedrock n'est disponible que dans deux régions des États-Unis. Cependant, cela pose un problème pour les entreprises de l'UE qui doivent adhérer aux lois sur la protection des données et la localisation du continent. Idéalement, cette situation devrait bientôt changer pour permettre aux entreprises de l'UE d'adopter l'IA générative et d'adhérer aux lois GDPR.

Extension des capacités de diffusion stable

Les utilisateurs de Bedrock ne peuvent utiliser Stable Diffusion que pour les messages texte-image, alors qu'il peut faire beaucoup plus ! Des fonctionnalités telles que la peinture et la génération d'image à image devraient être ajoutées à Bedrock dans un avenir proche.

Conclusions

Dans le domaine de l'IA générative, qui progresse rapidement, les grandes entreprises de cloud computing semblent converger vers les mêmes idées. Les points communs sont l'offre de modèles de fondation en tant que service géré, la diversité des tailles et des modalités, la possibilité d'un réglage fin et la promesse de sécurité.

Dans ce contexte, Bedrock d'Amazon est une plateforme facile à utiliser pour un large éventail d'applications d'IA. Outre sa facilité d'utilisation, Bedrock se distingue par la disponibilité de modèles provenant de divers fournisseurs tels qu'Anthropic, AI21, Cohere et StabilityAI, ainsi que de leurs propres modèles Amazon Titan. Ce mélange unique de polyvalence, de facilité d'utilisation et d'accent mis sur la sécurité crée un service que les développeurs et les entreprises accueilleront à bras ouverts.

Il est juste de dire qu'avec Bedrock, Amazon ne se contente pas d'introduire un autre service d'IA, mais pose des bases solides pour les futures stratégies d'IA des entreprises du monde entier. Bien que le potentiel de ce service ne soit pas encore pleinement exploité, l'avant-première elle-même est un aperçu encourageant de l'avenir des solutions basées sur l'IA sur AWS.

‍

Le billet est également disponible sur notre canal Medium.