Don’t Build AI Products The Way Everyone Else Is Doing It

Summary

Ce script met en lumière les défis de créer des produits AI basés sur des modèles pré-entraînés et propose une approche différentiée. Il souligne les problèmes de coût, de lenteur et de manque de personnalisation des grands modèles de langage (LLM). L'orateur recommande de combiner des techniques de programmation traditionnelles avec des modèles AI spécialisés pour construire des produits plus rapides, fiables, économiques et uniques. Il partage l'expérience de développement d'un outil de codage automatisé à partir de designs visuels, montrant comment l'intelligence artificielle peut être utilisée de manière efficace dans des domaines spécifiques pour améliorer grandement l'expérience utilisateur.

Takeaways

• 🚀 Évitez de simplement utiliser des modèles d'IA existants et créez une technologie différentiée.
• 💰 Les modèles de langage de grande taille (LLM) sont coûteux à exécuter en raison de leur complexité et de leur taille.
• 🛠️ Construisez votre propre chaîne d'outils en combinant un LLM fine-tuned, d'autres technologies et un modèle entraîné spécifiquement pour votre cas d'utilisation.
• 📈 Les coûts peuvent devenir prohibitifs pour les utilisateurs lorsque les modèles de langage de grande taille ne sont pas nécessaires pour la tâche.
• 🚫 Les LLM sont lent et difficiles à personnaliser pour répondre aux besoins spécifiques d'une application.
• 🔍 Explorez d'abord le problème en utilisant des pratiques de programmation normales pour déterminer quelles zones nécessitent un modèle d'IA spécialisé.
• 🧠 Les produits d'IA avancés sont généralement construits à partir de plusieurs modèles spécialisés et de code normal.
• 🤖 L'IA doit être utilisée le moins possible, uniquement pour résoudre des problèmes spécifiques qui ne peuvent être traités que par des modèles d'IA bien établis.
• 🌐 Utilisez des ressources en ligne pour générer des données de formation et des outils tels que Google's Vertex AI pour entraîner vos propres modèles.
• 🔒 Ayez un contrôle complet sur vos modèles d'IA pour pouvoir les améliorer continuellement et répondre aux besoins de confidentialité.
• 📈 Les produits d'IA réussis sont ceux qui utilisent une combinaison de code normal et de modèles d'IA spécialisés pour créer une valeur proposition unique et différentiée.

Q & A

Quelle est la principale problématique liée aux produits AI basés sur des wrappers de modèles pré-entraînés?

La principale problématique est que ces produits ne sont pas différenciés du point de vue technologique, car ils utilisent une technique simple avec un modèle pré-entraîné que n'importe qui peut copier rapidement, ce qui les rend vulnérables à la concurrence facile.

Comment les coûts des grandes modèles linguistiques (LLM) peuvent-ils poser problème pour les entreprises?

Les LLM sont très larges et complexes, ce qui les rend coûteuses à exécuter. Par exemple, Co-pilot perd de l'argent par utilisateur, avec un coût moyen de 20 $ pour les appels API pour un abonnement mensuel de 10 $.

Pourquoi les LLM sont-elles lentes pour certaines applications?

Les LLM sont lentes car, pour certaines applications, il faut attendre une réponse complète avant de pouvoir passer à l'étape suivante, ce qui peut prendre des minutes si l'on doit transmettre une spécification de conception entière et recevoir une représentation complète token par token.

Comment les LLM sont-elles limitées en termes de personnalisation?

Bien que les LLM prennent en charge l'ajustement de fine-tuning, cela ne permet que d'améliorer progressivement le modèle pour l'adapter à des besoins spécifiques. Cependant, dans certains cas, comme la conversion de designs Figma en code, le fine-tuning ne semble pas rendre le modèle significativement plus intelligent.

Qu'est-ce qu'une 'toolchain' et pourquoi est-elle importante pour les produits AI avancés?

Une 'toolchain' est une série d'outils et de modèles spécialisés combinés avec du code normal pour résoudre des problèmes spécifiques. Elle est importante car elle permet de construire des produits plus rapides, fiables, économiques et différenciés, sans avoir à se soucier de produits clones ou open source qui émergent rapidement.

Comment les développeurs peuvent-ils entraîner leur propre modèle AI sans être un data scientist ou un doctorant en apprentissage automatique?

Avec des produits comme Google's Vertex AI, les développeurs expérimentés peuvent facilement entraîner leur propre modèle en utilisant des types de modèles couramment disponibles et en préparant les données nécessaires, ce qui rend le processus d'entraînement accessible à un public plus large.

Pourquoi est-il important de ne pas utiliser d'AI dès le départ lors de la construction d'une solution?

Il est important d'explorer d'abord l'espace du problème avec des pratiques de programmation normales pour déterminer quelles zones nécessitent un modèle spécialisé. Utiliser des 'super models' pour résoudre des problèmes complexes peut entraîner des modèles incroyablement complexes, lents et coûteux qui ne sont pas viables.

Comment les développeurs peuvent-ils générer des données pour entraîner leurs modèles d'appariement d'objets?

Ils peuvent utiliser des outils comme Puppeteer pour ouvrir automatiquement des sites web, prendre des captures d'écran et parcourir le HTML pour identifier les balises d'image. En utilisant les coordonnées d'image comme données de sortie et les captures d'écran comme données d'entrée, ils obtiennent ce dont ils ont besoin pour entraîner leur modèle.

Quels sont les avantages de la solution 'visual co-pilot' présentée dans le script?

La solution 'visual co-pilot' offre des avantages tels que la conversion rapide et efficace de designs en code de qualité supérieur, la prise en charge d'une large variété de frameworks et d'options, et la possibilité d'une personnalisation complète du code généré. De plus, le coût est faible et la solution est très rapide, car les modèles sont spécifiquement construits pour cet usage.

Comment les entreprises peuvent-elles bénéficier de la propriété de leurs propres modèles AI?

La propriété de leurs propres modèles AI permet aux entreprises de les améliorer constamment, d'ajouter des fonctionnalités et de les adapter à leurs besoins spécifiques. Elles peuvent également garantir un niveau élevé de confidentialité et, si nécessaire, utiliser des modèles d'entreprise propres ou des instances d'entreprise d'AI pour respecter leurs exigences de confidentialité.

Quel est le conseil principal donné pour construire des produits AI?

Le conseil principal est de ne pas utiliser d'AI aussi longtemps que possible et de se concentrer sur les problèmes spécifiques qui ne peuvent être résolus que par des modèles d'IA bien établis. Les développeurs devraient remplir les lacunes avec des modèles spécialisés uniquement là où ils sont nécessaires et continuer à utiliser du code normal pour le reste de la solution.