Risorse Software per Modelli di Linguaggio di Grandi Dimensioni (LLM)

Qualche ora fa, OpenAI ha rilasciato GPT-4.5, attualmente solo per sviluppatori e utenti con il piano PRO.

"GPT-4.5 non include il ragionamento, poiché è stato progettato per essere un modello più generico e intrinsecamente più intelligente."

https://help.openai.com/en/articles/10658365-gpt-4-5-in-chatgpt

Qualcuno ha già iniziato a testarlo? Cosa ne pensate?

(Una delle mie considerazioni sull'argomento è il costo)

MODELLO | Costo Input (per 1M token) | Costo Output (per 1M token) | Finestra di Contesto

GPT-4.5 = $75,00 | $150,00 | 128k token

GPT-4.o = $2,50 | $10,00 | 128k token

Claude 3.7 Sonnet = $3,00 | $15,00 | 200k token

Ciao,

Sempre più team con cui lavoro stanno spingendo gli LLM ad analizzare documenti lunghi, conversazioni e dataset dove il contesto è davvero importante.

Per vedere cosa è più comunemente considerato affidabile, ho guardato i dati di G2 per la categoria dei Modelli di Linguaggio di Grandi Dimensioni con in mente il ragionamento a lungo contesto.

Ecco cosa è classificato più in alto.

• Gemini: Migliore per i team che vogliono una forte comprensione e ragionamento a lungo contesto.
• Meta Llama 3: Migliore per i team che vogliono controllo sulla lunghezza del contesto e gestione della memoria.
• BERT: Migliore per i team che vogliono una comprensione contestuale profonda per compiti di analisi.
• GPT-4: Migliore per i team che vogliono un ragionamento dettagliato su input lunghi e complessi.
• GPT-3: Migliore per i team che vogliono un'analisi scalabile con profondità di contesto moderata.
• Megatron-LM: Migliore per i team che vogliono modelli a grande contesto addestrati per carichi di lavoro analitici profondi.

Qualcuno sta spingendo gli LLM ai loro limiti di contesto oggi? Vedo anche che le strategie di chunking e RAG sono menzionate spesso. Qualche altro strumento da includere? Qual è stata la tua esperienza?

Ciao,

Sto lavorando con team di contenuti e crescita che devono analizzare i dati sulle prestazioni e generare testi di marketing su diversi canali senza esaurire gli scrittori. Per capire quali modelli sono comunemente usati, ho controllato le classifiche di G2 nella categoria dei Modelli di Linguaggio di Grandi Dimensioni con in mente casi d'uso di marketing. Ecco cosa emerge.

• Gemini: Migliore per i team che vogliono generazione e analisi di contenuti su più formati di marketing.
• Meta Llama 3: Migliore per i team che vogliono modelli personalizzabili per contenuti allineati al brand.
• BERT: Migliore per i team che vogliono analisi dei contenuti, tagging e approfondimenti sul sentiment.
• GPT-4: Migliore per i team che vogliono generazione di contenuti di alta qualità per campagne e testi lunghi.
• GPT-3: Migliore per i team che vogliono generazione di testi scalabile su diversi canali.
• Megatron-LM: Migliore per i team che vogliono modelli addestrati internamente per operazioni di contenuto su larga scala.

Qualcuno utilizza pesantemente gli LLM nel marketing oggi? Vedo anche flussi di lavoro di contenuti stratificati su questi modelli. Qualche altro strumento da includere? Qual è stata la vostra esperienza?