Ressources Logiciels de modèles de langage de grande taille (LLMs)

A few hours ago, OpenAI released GPT-4.5, currently only for developers and users on the PRO plan.

"GPT-4.5 does not include reasoning, as it was designed to be a more general-purpose, innately smarter model."

https://help.openai.com/en/articles/10658365-gpt-4-5-in-chatgpt

Has anyone started testing it yet? What do you think?

(One of my considerations about the topic, is the cost)

MODEL | Input Cost (per 1M tokens) | Output Cost (per 1M tokens) | Context Window

GPT-4.5 = $75.00 | $150.00 | 128k tokens

GPT-4.o = $2.50 | $10.00 | 128k tokens

Claude 3.7 Sonnet = $3.00 | $15.00 | 200k tokens

Salut,

De plus en plus d'équipes avec lesquelles je travaille poussent les LLM à analyser de longs documents, conversations et ensembles de données où le contexte est vraiment important.

Pour voir ce qui est le plus couramment fiable, j'ai regardé les données de G2 pour la catégorie Modèles de Langage de Grande Taille en pensant au raisonnement à long contexte.

Voici ce qui se classe le plus haut.

• Gemini : Meilleur pour les équipes qui veulent une forte compréhension et raisonnement à long contexte.
• Meta Llama 3 : Meilleur pour les équipes qui veulent contrôler la longueur du contexte et la gestion de la mémoire.
• BERT : Meilleur pour les équipes qui veulent une compréhension contextuelle profonde pour les tâches d'analyse.
• GPT-4 : Meilleur pour les équipes qui veulent un raisonnement détaillé à travers des entrées longues et complexes.
• GPT-3 : Meilleur pour les équipes qui veulent une analyse évolutive avec une profondeur de contexte modérée.
• Megatron-LM : Meilleur pour les équipes qui veulent des modèles à grand contexte entraînés pour des charges de travail analytiques profondes.

Quelqu'un pousse-t-il les LLM à leurs limites de contexte aujourd'hui ? Je vois aussi beaucoup de stratégies de découpage et de RAG mentionnées. Y a-t-il un autre outil à inclure ? Quelle a été votre expérience ?

Bonjour,

Je travaille avec des équipes de contenu et de croissance qui ont besoin d'analyser les données de performance et de générer du contenu marketing sur plusieurs canaux sans épuiser les rédacteurs. Pour comprendre quels modèles sont couramment utilisés, j'ai vérifié les classements G2 dans la catégorie des grands modèles de langage en gardant à l'esprit les cas d'utilisation marketing. Voici ce qui ressort.

• Gemini : Idéal pour les équipes qui souhaitent générer et analyser du contenu sur plusieurs formats marketing.
• Meta Llama 3 : Idéal pour les équipes qui souhaitent des modèles personnalisables pour un contenu aligné sur la marque.
• BERT : Idéal pour les équipes qui souhaitent une analyse de contenu, un étiquetage et des insights de sentiment.
• GPT-4 : Idéal pour les équipes qui souhaitent générer du contenu de haute qualité pour des campagnes et des formats longs.
• GPT-3 : Idéal pour les équipes qui souhaitent une génération de contenu évolutive sur plusieurs canaux.
• Megatron-LM : Idéal pour les équipes qui souhaitent des modèles formés en interne pour des opérations de contenu à grande échelle.

Quelqu'un utilise-t-il beaucoup les LLM dans le marketing aujourd'hui ? Je vois aussi des flux de travail de contenu superposés à ces modèles. Y a-t-il un autre outil à inclure ? Quelle a été votre expérience ?