Große Sprachmodelle (LLMs) Software Ressourcen

A few hours ago, OpenAI released GPT-4.5, currently only for developers and users on the PRO plan.

"GPT-4.5 does not include reasoning, as it was designed to be a more general-purpose, innately smarter model."

https://help.openai.com/en/articles/10658365-gpt-4-5-in-chatgpt

Has anyone started testing it yet? What do you think?

(One of my considerations about the topic, is the cost)

MODEL | Input Cost (per 1M tokens) | Output Cost (per 1M tokens) | Context Window

GPT-4.5 = $75.00 | $150.00 | 128k tokens

GPT-4.o = $2.50 | $10.00 | 128k tokens

Claude 3.7 Sonnet = $3.00 | $15.00 | 200k tokens

Hallo,

Mehr Teams, mit denen ich arbeite, setzen LLMs ein, um lange Dokumente, Gespräche und Datensätze zu analysieren, bei denen der Kontext wirklich wichtig ist.

Um zu sehen, was am häufigsten vertraut wird, habe ich mir G2-Daten für die Large Language Models-Kategorie mit Blick auf langes Kontextverständnis angesehen.

Hier ist, was am höchsten bewertet wird.

• Gemini: Am besten für Teams, die ein starkes Verständnis und eine starke Argumentation für lange Kontexte wünschen.
• Meta Llama 3: Am besten für Teams, die Kontrolle über Kontextlänge und Speicherverwaltung wünschen.
• BERT: Am besten für Teams, die ein tiefes kontextuelles Verständnis für Analyseaufgaben wünschen.
• GPT-4: Am besten für Teams, die detaillierte Argumentationen über lange und komplexe Eingaben wünschen.
• GPT-3: Am besten für Teams, die skalierbare Analysen mit moderater Kontexttiefe wünschen.
• Megatron-LM: Am besten für Teams, die große Kontextmodelle für tiefgehende analytische Arbeitslasten trainiert haben möchten.

Setzt heute jemand LLMs an ihre Kontextgrenzen? Ich sehe auch oft Chunking- und RAG-Strategien erwähnt. Gibt es ein weiteres Tool, das hinzugefügt werden sollte? Wie sind Ihre Erfahrungen?

Hallo,

Ich arbeite mit Content- und Wachstumsteams, die Leistungsdaten analysieren und Marketingtexte über verschiedene Kanäle hinweg erstellen müssen, ohne dass die Autoren ausbrennen. Um zu verstehen, welche Modelle häufig verwendet werden, habe ich die G2-Rankings in der Kategorie der großen Sprachmodelle mit Blick auf Marketinganwendungen überprüft. Hier ist, was auffällt.

• Gemini: Am besten für Teams, die Inhalte generieren und analysieren möchten, die über mehrere Marketingformate hinweggehen.
• Meta Llama 3: Am besten für Teams, die anpassbare Modelle für markenkonforme Inhalte wünschen.
• BERT: Am besten für Teams, die Inhaltsanalyse, Tagging und Stimmungsanalysen wünschen.
• GPT-4: Am besten für Teams, die qualitativ hochwertige Langform- und Kampagneninhalte generieren möchten.
• GPT-3: Am besten für Teams, die skalierbare Texterstellung über verschiedene Kanäle hinweg wünschen.
• Megatron-LM: Am besten für Teams, die intern trainierte Modelle für groß angelegte Inhaltsoperationen wünschen.

Verwendet heute jemand LLMs intensiv im Marketing? Ich sehe auch Content-Workflows, die auf diesen Modellen aufbauen. Gibt es ein weiteres Tool, das hinzugefügt werden sollte? Wie sind Ihre Erfahrungen?