Instacart : Ava, l'assistant IA interne — plus de la moitié des employés par mois, avec des sessions de 20+ minutes

• Scaling Productivity with Ava — Instacart's Internal AI Assistant — tech-at-instacart (Zain Adil, Kevin Lei, Ada Cohen), 2023-09-07
• Unlocking Efficiency: How Ava Became Our AI Productivity Partner (43% экономят час+/нед, 60% инженеров, ~70K строк кода/мес) — tech-at-instacart (Dayle Lyng), 2024-01-31

Contexte

Instacart est le plus grand service de livraison d'épicerie aux États-Unis. L'histoire de son assistant IA interne n'a pas commencé par un programme stratégique mais par un hackathon à l'échelle de l'entreprise au début de 2023 : en travaillant sur les projets du hackathon, une équipe d'ingénieurs a fourni près de deux fois plus de fonctionnalités que prévu avec l'aide de ChatGPT (spécifiquement GPT-4). L'équipe en a tiré rapidement la conclusion : si le modèle accélère le brainstorming, le codage, le débogage et la génération de tests à ce point, chaque développeur de l'entreprise a besoin d'accès — aussi rapidement que possible.

Le moment était également favorable : Instacart a travaillé étroitement avec OpenAI et avait un accès anticipé à GPT-4 avec un contexte de 32K tokens — via des API avec des garanties d'entreprise pour la confidentialité des données, la sécurité et les quotas. Cela a supprimé le principal obstacle qui pousse les entreprises à interdire les chatbots publics : les données ne fuient pas vers des services tiers incontrôlés. Sur cette base, l'équipe a rapidement construit et lancé Ava — un assistant ChatGPT-style interne, initialement réservé aux ingénieurs.

En septembre 2023, les ingénieurs Zain Adil, Kevin Lei et Ada Cohen ont décrit le parcours du « projet hackathon à outil interne » sur le blog tech-at-instacart avec des métriques d'adoption honnêtes, et un deuxième article a suivi en janvier 2024 — avec des données sur comment Ava s'est enracinée au-delà de l'ingénierie. Le cas d'Instacart est devenu l'un des récits publics qui définissent le genre du « ChatGPT interne » : des dizaines d'entreprises ont construit des outils similaires, mais peu ont publié les chiffres d'engagement et les mécanismes qui les ont impulsés.

Problème

Laisser les employés utiliser des chatbots IA publics est risqué : le code, les documents internes et les données clients ne doivent pas s'échapper vers des services tiers sans garanties d'entreprise. Mais une interdiction sans alternative a un prix prévisible — perte de productivité et utilisation fantôme : les employés porteront quand même les tâches professionnelles dans leurs comptes personnels ChatGPT, juste sans aucune surveillance de la part de la sécurité.

Un outil interne est donc nécessaire — et voilà la deuxième moitié, produit du problème. Les outils d'entreprise sont réputés perdre face aux produits grand public sur la convivialité : si l'assistant interne est pire que ChatGPT, les employés simplement ne l'utiliseront pas, et l'investissement devient un portail mort. L'outil devait correspondre à ChatGPT sur l'expérience utilisateur — et ajouter ce que le service public ne peut pas : l'intégration avec les workflows de l'entreprise.

Le troisième défi était de passer à l'échelle au-delà de l'ingénierie. Pour les développeurs, la valeur est évidente dès la première invite : code, débogage, tests. Mais les recruteurs, avocats, responsables marketing et équipes d'exploitation n'ont pas l'habitude d'écrire des invites, et une boîte de texte vide est une barrière d'entrée réelle. Déployer l'assistant à l'échelle de l'entreprise est un problème de produit, pas un problème technique : vous avez besoin de mécanismes qui transfèrent l'expertise des utilisateurs avancés à tout le monde. Et tout cela devait être mesuré — pas des « nombres d'enregistrements », que les relations publiques d'entreprise peuvent facilement gonfler, mais l'engagement et la rétention réels.

Solution

Ava est un assistant web de style ChatGPT sur GPT-4 (y compris le modèle 32K-context) et GPT-3.5. Pour le premier lancement — réservé aux ingénieurs — l'équipe a privilégié les fonctionnalités avec une valeur développeur instantanée : raccourcis clavier pratiques, copie de code en un clic et mises à niveau automatiques entre les modèles GPT-4 au fur et à mesure que le contexte de la conversation grandissait — l'utilisateur n'a jamais eu à penser à quel modèle il avait besoin. Avec le plus grand modèle de contexte, les développeurs ont travaillé avec des fichiers de code entiers : créant, déboguant, révisant — et résumant des documents.

L'adoption a dépassé les attentes, et les entretiens d'après-lancement ont révélé une demande au-delà de l'ingénierie — de Ops et Recruiting à Brand Marketing et HR. Pour les utilisateurs non techniques, l'équipe a réduit la barrière de la « boîte vide » avec des modèles d'invites bien conçus, ajouté une recherche de conversation en texte intégral et le partage de conversation. Le détail de partage clé : les liens de conversation se déploient en aperçus dans Slack pour que les collègues voient le contenu avant de cliquer — l'équipe note directement que cela a considérablement facilité l'adoption et la notoriété du produit.

L'étape suivante a été la Prompt Exchange — une place de marché de prompts interne. La logique est instructive : une grande part des conversations provenait de modèles, mais la petite équipe d'Ava manquait physiquement d'expertise de domaine pour rédiger de bons modèles pour chaque département. À la place, la publication et l'évaluation des prompts ont été confiées aux employés eux-mêmes — les meilleures pratiques ont commencé à se diffuser horizontalement, sans l'implication de l'équipe centrale.

La quatrième étape a été d'aller où les employés travaillent déjà : une application Slack. Mentionner @Ava dans un fil produit des résumés et des réponses directement dans la conversation — « comme demander à un collègue ». À ce moment-là, près d'un tiers de l'organisation utilisait déjà Ava mensuellement, et le canal Slack a supprimé la dernière friction — devoir ouvrir une page séparée et coller le contexte à la main.

Les plans décrits dans l'article : la récupération sur les connaissances internes et l'exécution de code d'Instacart (l'équipe appelle les données le « talon d'Achille » des LLM), plus l'ouverture des API d'Ava à chaque équipe de l'entreprise pour qu'elles puissent construire leurs propres outils IA sur l'assistant.

Résultat

Selon l'article de septembre 2023, plus de la moitié des employés d'Instacart utilisaient Ava mensuellement et plus de 900 hebdomadairement ; les sessions duraient 20+ minutes, et les utilisateurs « produisaient et copiaient une quantité importante de code ». L'article de suivi de janvier 2024 a ajouté des détails : 43% de l'entreprise gagne plus d'une heure par semaine avec Ava ; 60% des ingénieurs génèrent environ 70 000 lignes de code avec elle mensuellement ; le plugin Slack est invoqué plus de 5 000 fois par mois et résume plus de 200 fils et canaux. Tous les chiffres sont les données internes d'Instacart sans audit externe ; noter également que « une heure gagnée par semaine » est l'auto-évaluation des employés à partir des sondages, pas une mesure du suivi du temps.

À notre avis, le cas Ava est précieux avant tout comme manuel des mécanismes de produit d'adoption. Les outils internes sont généralement déployés par décret ; Instacart a plutôt suivi le chemin classique grand public : commencer par une audience qui obtient une valeur instantanée (ingénieurs), réduire la barrière d'entrée (modèles), boucles virales (partage de conversation avec aperçus Slack), contenu généré par l'utilisateur (la Prompt Exchange), et aller où l'utilisateur vit déjà (le bot Slack). Chaque mécanisme ici se transfère à n'importe quelle entreprise — et à en juger par les chiffres de rétention, ensemble ils fonctionnent mieux que tout mandat d'entreprise.

Notre deuxième observation concerne les métriques : Instacart a rapporté l'engagement, pas les enregistrements — audience hebdomadaire, durée de session, volume de code généré, fréquence d'invocation Slack. Pour les outils IA internes c'est une discipline rare : « nous avons donné accès à tout le monde » et « la moitié de l'entreprise l'utilise réellement chaque mois » sont des déclarations fondamentalement différentes. Enfin, l'économie du pari est révélatrice : un projet hackathon a reçu une équipe produit et des garanties de sécurité d'entreprise en quelques mois — une vitesse de légalisation qui explique probablement pourquoi l'utilisation d'IA fantôme n'a jamais eu le temps de s'enraciner.

Leçons

1. Un ChatGPT interne avec garanties d'entreprise est le moyen le plus rapide de légaliser l'IA dans une entreprise : les employés obtiennent l'outil, la sécurité garde le contrôle des données.
2. Les mécanismes de produit stimulent l'adoption, pas les mandats : la Prompt Exchange et le partage de conversation avec aperçus Slack transforment les meilleures invites des collègues en canal de distribution viral.
3. Une boîte de texte vide est une barrière pour les utilisateurs non techniques : les modèles d'invites prêts à l'emploi ont ouvert Ava à Ops, Recruiting, Marketing et HR.
4. Allez où l'utilisateur travaille déjà : le bot @Ava Slack a supprimé la friction de la page séparée — 5 000+ invocations mensuelles le confirment.
5. Mesurez l'engagement, pas les inscriptions : les sessions de 20+ minutes, 900+ utilisateurs hebdomadaires et 70 000 lignes de code par mois signalent une utilité réelle plutôt que de la curiosité.
6. L'équipe centrale n'a pas besoin d'être l'expert dans chaque domaine : confier la création de modèles et d'invites aux utilisateurs eux-mêmes — comme l'a fait la Prompt Exchange.
7. Un hackathon est une source légitime d'infrastructure IA d'entreprise — du moment que le projet obtient rapidement une équipe produit et des garanties de sécurité.

Questions fréquentes