Modelos de lenguaje y modelos de razonamiento / Una conversación con Claude
Mientras conducía, me surgió una duda sobre la IA. Pregunté a Claude qué relación hay entre los modelos de lenguaje y los de razonamiento, y qué cambia al seleccionar High. Esta es nuestra conversación.
JB: Tengo una pregunta.
Claude: ¿Qué pasa? Tengo curiosidad. ¡Adelante!
JB: Hay modelos de lenguaje, y algo llamado modelos de razonamiento, ¿verdad?
Claude: ¡Ah, sí! Estás hablando de modelos de lenguaje y modelos de razonamiento. Es un buen tema. ¿Qué quiere saber?
JB: Tengo curiosidad sobre cómo se relacionan los dos.
Claude: Ah, cómo se relacionan. Buena pregunta. Déjame explicarlo simplemente.
Un modelo básico de lenguaje te da una respuesta tan pronto como hagas una pregunta. Piénsalo como alguien que inmediatamente dice lo que venga a la mente. Es rápido, pero puede cometer errores en problemas complejos.
Un modelo de razonamiento no es en realidad un modelo completamente diferente. Es un modelo de lenguaje entrenado para pasar por un proceso de pensamiento interno antes de responder. En lugar de responder de inmediato, funciona a través de las cosas paso a paso: "Hmm, esto significa que, por lo que la conclusión es..." Entonces te da la respuesta. Es por eso que es mucho más fuerte en los problemas que requieren un pensamiento más profundo, como matemáticas y lógica.
Así que un modelo de razonamiento es una rama de modelos de lenguaje. Tiene las mismas raíces, con un "habito de pensamiento" extra agregado. La compensación es que el pensamiento toma más tiempo y cuesta más. ¿Eso tiene sentido hasta ahora?
JB: Entonces, seleccionar High en lugar de Medium significa que piensa un poco más antes de responder, ¿verdad?
Claude: ¡Sí, exactamente! Con High piensa más y con mayor profundidad que con Medium antes de responder.
Ese ajuste le indica cuánto esfuerzo dedicar a pensar. Low es rápido y poco detallado; Medium dedica un esfuerzo intermedio; y High examina las cosas con mucho cuidado.
Para preguntas simples, Low o Medium es suficiente, y también es más rápido. Pero para matemáticas complejas, codificación complicada, o problemas lógicos que requieren excavar más profundo, High es mucho más preciso. La compensación es que las respuestas tardan más y cuestan más.
Así que el truco es igualar el ajuste a la dificultad del problema. Utilizando High para algo fácil simplemente ralentiza las cosas innecesariamente, mientras que el uso de Low para algo difícil hace errores más probable. ¿Conseguir la idea?
JB: Realmente no entiendo lo que significa que IA piense por más tiempo.
Claude: Esa es una pregunta muy buena. "Pensar" significa algo un poco diferente para la IA que para la gente.
Para la IA, pensar más tiempo significa generar más texto internamente antes de darte la respuesta, en un proceso que no ves. Es como escribir pasos intermedios y hablar consigo misma: «Voy a abordar el problema así. No, espera, esto está mal. Probemos de nuevo». Después produce la respuesta final.
En una persona sería parecido a utilizar una hoja de borrador. Piensa en la diferencia entre resolver un problema de cabeza y escribir las ecuaciones paso a paso. Escribir lleva más tiempo, pero reduce los errores. La IA hace algo parecido.
Así que "pensar más tiempo" no significa sentarse por ahí haciendo nada. Significa generar una solución intermedia más larga y cuidadosa. Cuanto más largo sea el proceso, más precisa será la respuesta. ¿Se siente un poco más claro ahora?
JB: Así que crea varias respuestas diferentes, ¿entonces elige una para decirme?
Claude: Eso está cerca, pero hay una ligera diferencia. Dos cosas están mezcladas.
Uno es lo que usted describió: generar respuestas a lo largo de varios caminos diferentes y elegir el mejor. Intenta diferentes enfoques, como "¿Debería resolverlo de esta manera, o de esa manera?" Entonces escoge el que tiene más sentido.
El otro sigue un largo tren de pensamiento mientras se verifica y se corregía por el camino: "Lo resolví de esta manera, pero espera, hay un error aquí. Intentémoslo de nuevo." Eso va más allá de un solo camino.
En la práctica, los dos trabajan juntos. Piensa en su extensión, considera diferentes posibilidades cuando sea necesario, comprueba los errores, y luego te da una respuesta final refinada.
Así que su idea de "elegir entre varias respuestas" es correcta, con un proceso de corrección y refinación de las cosas que se añaden a ella. ¡Has identificado el punto clave!
JB: ¿La diferencia es grande?
Claude: Bueno, la diferencia varía mucho dependiendo del problema.
Para preguntas fáciles, como "¿Cómo es el tiempo hoy?", Low y High le dan casi la misma respuesta. Pensar más no cambia mucho porque la respuesta es directa. Usar High para algo así hace que sea más lento.
En problemas difíciles, como matemáticas complejas, programación complicada o acertijos lógicos, la diferencia aumenta. High puede acertar donde Low se equivoca. La proporción de respuestas correctas mejora de forma apreciable.
Así que se puede pensar de esta manera: poca diferencia para problemas fáciles, una gran diferencia para los difíciles. Es por eso que el ajuste a la dificultad del problema ahorra tiempo y dinero.
JB: Entonces si doy una instrucción específica, el resultado podría cambiar dependiendo del modelo de razonamiento que use.
Claude: ¡Sí, así es! La misma instrucción puede producir diferentes resultados dependiendo del modelo.
La diferencia es especialmente notable cuando la instrucción es compleja o implica varios pasos. Un modelo que razona profundamente examina la instrucción con más cuidado y captura cosas que de otro modo podrían perderse. Un modelo que responda más ligeramente puede obtener la idea general pero pasar por alto los detalles.
Si la instrucción es clara y sencilla, los resultados suelen parecerse. Todos manejan bien peticiones como «Traduce esta frase al inglés».
Así que en la práctica, la gente presta atención a dos cosas: hacer instrucciones lo más claras posible, y elegir un modelo que se adapte a la dificultad del problema. Tienes los mejores resultados cuando esos dos se alinean.
JB: Si pregunto cómo se dice el saludo coreano «annyeong» en inglés, la respuesta es «hello», ¿verdad?
Claude: Sí, así es. Todos los modelos responden «hello» a una pregunta así.
La respuesta está definida y hay poco que pensar. Por mucho que razone, «annyeong» se traduce como «hello». En este ejemplo, aumentar el razonamiento no cambia el resultado y High solo tarda más. Es un ejemplo perfecto.
JB: ¿Cambia la cantidad de tokens utilizados según el modelo o el esfuerzo de razonamiento?
Claude: ¡Sí, definitivamente! Este es el punto clave.
Cuanto más razona un modelo y más se acerca a High, más tokens utiliza. Los pasos intermedios del proceso interno se generan como texto y están formados por tokens, aunque no los veas.
Así que incluso para la misma pregunta, Low utiliza menos tokens porque piensa brevemente, mientras que High utiliza mucho más porque piensa por más tiempo. Más tokens significan costes más altos y respuestas más lentas.
Por eso usar High para una pregunta como «annyeong significa hello» resulta poco eficiente: la respuesta es igual, pero consume más tokens de razonamiento. Ajustar el esfuerzo a la dificultad permite ahorrar. ¿Ahora encaja todo?
JB: Entiendo los modelos de razonamiento ahora. Entonces, ¿debería usar el último modelo de lenguaje?
Claude: Bueno, lo último es generalmente mejor, pero no siempre. Depende de la situación.
Los beneficios de los últimos modelos son claros. Son más inteligentes, saben más información reciente y manejan tareas complejas mejor. Por lo tanto, los modelos más nuevos tienen una ventaja para tareas difíciles o trabajo donde importa la calidad.
Pero hay razones por las que lo último no es siempre la respuesta correcta. Primero, los últimos modelos son generalmente más caros y más lentos. En segundo lugar, las tareas simples no necesariamente necesitan el último modelo. Un modelo de la generación anterior es suficiente para cosas como traducción o resúmenes simples. Tercero, si usted está ejecutando un servicio donde el coste importa, es razonable manejar la mayoría de las solicitudes con un modelo más barato, más rápido y reservar el último para las tareas difíciles.
Así que "el modelo adecuado para el trabajo" es un enfoque mejor que "siempre usa lo último". Es el mismo principio que discutimos al elegir la configuración de razonamiento.
JB: Puedo entender que un nuevo modelo de lenguaje tiene información más reciente. Pero no entiendo lo que significa que sea más inteligente.
Claude: Esa es una pregunta muy perceptiva. Tienes razón: "más información reciente" y "ser más inteligente" son dos cosas completamente diferentes.
Significa que mejora su capacidad de procesar y resolver problemas, además de la información que conoce. Déjame explicarlo por partes.
Primero, hay la capacidad de resolver problemas complejos. Los modelos más antiguos cometerían errores a lo largo del camino en problemas matemáticos o lógicos que implicaban varios pasos. Los modelos más recientes pueden trabajar a través de ellos hasta el final sin cometer esos errores.
En segundo lugar, hay la capacidad de entender las instrucciones con precisión. Los modelos más antiguos perderían partes de solicitudes complejas como "Hacer esto, pero no hacer eso". Los modelos más recientes los siguen con más cuidado.
En tercer lugar, inventa respuestas con menos frecuencia. Dar una respuesta inventada aparentando conocerla se llama alucinación, y esto ocurre menos con los modelos nuevos.
Eso es porque los métodos de entrenamiento siguen mejorando a medida que se desarrollan los modelos. Es como conseguir una mejor comida de los mismos ingredientes porque el método de cocina ha mejorado. Así que la capacidad de procesamiento en sí mejora, independientemente de la cantidad de información que el modelo sabe. ¿La distinción es más clara ahora?
JB: Entonces, si ignoro el consumo de tokens, lo más cómodo sería utilizar el modelo más reciente con un esfuerzo de razonamiento alto y olvidarme del ajuste.
Claude: ¡Ja, ja, sí, exactamente! Si no te preocupan el coste ni la velocidad, utilizar el modelo más reciente con High es lo más sencillo y ofrece los resultados más fiables.
De esa manera, maneja bien los problemas fáciles y difíciles, así que no tienes que pensar en qué configuración elegir. Sólo usas la mejor opción para todo.
Aunque, como hemos dicho, puede ser un derroche: usarías un modelo de máxima capacidad solo para traducir «annyeong» como «hello». Si los tokens y la velocidad no importan en tu caso, sigue siendo la opción más cómoda.
JB: Y una cosa más es cierta: cuanto más alto sea el esfuerzo de razonamiento, más tiempo se necesita para obtener una respuesta. ¿Verdad?
Claude: ¡Sí, así es! Definitivamente. Cuanto mayor es el esfuerzo de razonamiento, más tiempo se necesita para obtener una respuesta.
Eso es natural, porque pasa por un proceso interno de pensamiento más largo. Generar todos esos pasos intermedios toma tiempo. Low te da una respuesta rápidamente, mientras que High pasa un tiempo trabajando a través de las cosas primero.
Ese es el intercambio: High es preciso, pero más lento y consume más tokens; Low es rápido y barato, pero puede equivocarse en los problemas difíciles. Cambias velocidad por precisión.
Hoy tienes un control sobre estos conceptos de IA, JB. ¡Tu comprensión está clara!
