Recursos de Modelos de Lenguaje de Gran Escala (LLMs) Software

A few hours ago, OpenAI released GPT-4.5, currently only for developers and users on the PRO plan.

"GPT-4.5 does not include reasoning, as it was designed to be a more general-purpose, innately smarter model."

https://help.openai.com/en/articles/10658365-gpt-4-5-in-chatgpt

Has anyone started testing it yet? What do you think?

(One of my considerations about the topic, is the cost)

MODEL | Input Cost (per 1M tokens) | Output Cost (per 1M tokens) | Context Window

GPT-4.5 = $75.00 | $150.00 | 128k tokens

GPT-4.o = $2.50 | $10.00 | 128k tokens

Claude 3.7 Sonnet = $3.00 | $15.00 | 200k tokens

Hola,

Más equipos con los que trabajo están impulsando los LLM para analizar documentos largos, conversaciones y conjuntos de datos donde el contexto realmente importa.

Para ver qué es lo más comúnmente confiable, miré los datos de G2 para la categoría de Modelos de Lenguaje Grande con el razonamiento de contexto largo en mente.

Esto es lo que ocupa el primer lugar.

• Gemini: Mejor para equipos que quieren una fuerte comprensión y razonamiento de contexto largo.
• Meta Llama 3: Mejor para equipos que quieren control sobre la longitud del contexto y el manejo de la memoria.
• BERT: Mejor para equipos que quieren una comprensión contextual profunda para tareas de análisis.
• GPT-4: Mejor para equipos que quieren un razonamiento detallado a través de entradas largas y complejas.
• GPT-3: Mejor para equipos que quieren un análisis escalable con una profundidad de contexto moderada.
• Megatron-LM: Mejor para equipos que quieren modelos de gran contexto entrenados para cargas de trabajo analíticas profundas.

¿Alguien está llevando los LLM a sus límites de contexto hoy en día? También veo que se mencionan mucho las estrategias de fragmentación y RAG. ¿Alguna otra herramienta para incluir? ¿Cuál ha sido tu experiencia?

Hola,

Estoy trabajando con equipos de contenido y crecimiento que necesitan analizar datos de rendimiento y generar textos de marketing en varios canales sin agotar a los escritores. Para entender qué modelos se utilizan comúnmente, revisé las clasificaciones de G2 en la categoría de Modelos de Lenguaje de Gran Escala con casos de uso en marketing en mente. Esto es lo que destaca.

• Gemini: Mejor para equipos que desean generación y análisis de contenido en múltiples formatos de marketing.
• Meta Llama 3: Mejor para equipos que desean modelos personalizables para contenido alineado con la marca.
• BERT: Mejor para equipos que desean análisis de contenido, etiquetado e información sobre sentimientos.
• GPT-4: Mejor para equipos que desean generación de contenido de alta calidad para campañas y textos largos.
• GPT-3: Mejor para equipos que desean generación de copias escalables en varios canales.
• Megatron-LM: Mejor para equipos que desean modelos entrenados internamente para operaciones de contenido a gran escala.

¿Alguien está usando LLMs intensamente en marketing hoy en día? También veo flujos de trabajo de contenido superpuestos a estos modelos. ¿Alguna otra herramienta para incluir? ¿Cuál ha sido tu experiencia?