Fatiga d’IA: quan triar models i eines es converteix en una altra feina

Pero pues yo aquí lo que quería contar era yo a modo personal llevo tiempo queriendo quitarme cloud code y probar con modelos open weights porque lo que he dicho antes, yo creo que para la mayoría de tareas que hacemos, por lo menos las que yo hago, con GLM 5.2 se puede hacer de sobra, incluso con modelos menos capaces como Mimo, Dipsic, eh, no me sale ahora otro, bueno, no me otro que quería decir, no me sale. Yo creo que con esos modelos se pueden hacer bastantes cosas y son bastante baratos. Entonces, yo por ejemplo, eh os lo he contado antes de de grabar, yo me eh me estaba planteando cogerme la suscripción de de Codex para probar estos últimos modelos, pero bueno, como la tengo en el trabajo, la la está probando en el trabajo. Yo personalmente tengo la suscripción de Open Code que se llama, creo que tú te lo sabes, Juange, que ahora no me sale. Go. Hay dos, go o Go. Bueno, Go o Zen, no me acuerdo. Go es la de modelos open weight y Zen creo que también te mete la capa de modelos eh americanos, bueno, Estados Unidos. Pues entonces creo que tengo Zen porque creo que tengo 100 a los de Open. A el caso es que estoy he probado OpenC. Ahí el mayor limitante para mí es el poder utilizarlo desde el móvil, porque yo ya soy una persona que programa desde el parque como Antonio, de hecho creo que programo más desde fuera de casa que desde casa, porque al final me he creado una serie de gentes que me hacen las tareas repetitivas que suelo utilizar y entonces desde el móvil le puedo decir, "Haz esto, haz lo otro."

Y es que estamos entrando en una dinámica de modelos, pues eso, GLM 5.2, eh, ahora Composer 2.5 es un modelo bastante bueno y bastante barato. Acaba de salir el nuevo de Grock, que tiene un poco de truco en los benchmark, que luego comento, pero también es un modelo bastante bueno, bastante barato. meta de sacar el suyo que salió ayer y por y está a nivel un poco por entre son y Opus, digamos, y por lo visto es también bastante barato. No mirado los precios, pero por lo que he leído es bastante barato. Entonces, creo que tenemos y y también lo que se comenta mucho que es más importante el harness que el modelo en sí. Entonces, creo que estamos en un momento en el que hay muchos modelos que son lo suficientemente capaces para hacer la mayoría de cosas que hacemos. Creo que hay muchos harness que son bastante buenos. De hecho, cuando tú te metes en BM de harness, Cloud Code casi nunca está arriba. Últimamente he visto a Codex, a Open Code, Depía, eh, Devi, pero CloudC no está muy arriba. Entonces, entre que los módulos de Anthropy gasta muchos tokens con el nuevo tokenizador, que son muy caros por token, o sea, gasta mucho por eh por token y encima gasta muchos token, al final tienes que irte a benchmars de de cuánto cuesta del coste por resolver tareas y ahí son carísimos y por una resolución similar tienes modelos muchísimo 10 100 veces más baratos con harness mejores. Entonces yo a nivel personal eso, llevo tiempo queriéndome cambiar y ya lo he empezado

a hacer y creo que que eso que estamos Anthropic ha tenido una época de reinado porque ha tenido sacaba muchas novedades en su jarnes, aunque no fuera el mejor. tenía un modelo muy bueno, pero creo que que esa barrera, ese foso, como le llaman, defensivo, se le ha caído y o se la ha tatado porque el foso es un hueco y creo que que estamos en un momento, como dices tú, de de difuminar o difusión, de empezar a probar otros modelos y de no centrarse solamente en uno. Y igual que pasaba cuando casi todo el mundo utilizaba, vaya chapao, ¿eh? Vaya, igual que pasaba cuando todo el mundo, la mayoría de gente utilizaba e, ¿cómo se llama? El este, cursor, que ahí podías utilizar un montón de modelos y ahí la gente probaba muchos modelos. Luego mucha gente se fue a a Cloud Code o Codex. Creo que volvemos a la época de probar muchos modelos, por ejemplo, con Open Code o con cosas como Open Router y me gusta este momento de poder probar y no tener un único rey, digamos. No sé qué no os cansa, no os cansa probar cosas porque eso es a mí me genera una una ansiedad ahí de nuevas cosas, nuevas cosas. y que al final si es que para la realidad, bueno, esto va a ir con lo que has dicho antes, ¿no? E que lo que decías tú de la la suscripción de, o sea, la cuota de 5 horas se te queda corta, no es lo que os he dicho yo

muchas veces de eso, de la de 5 horas se me queda cortísima, eh, pero luego la gorda no la, o sea, la semanal no la gasto. Entonces, ¿por qué no la quieres por la noche? El probar. Yo a mí el trabajo me pasa, la de 5 horas no se me gasta, pero la semana se me gasta porque yo el del trabajo lo tengo casi 247 trabajando. Pero eso hay que hacer un looping jening, ¿no? Que Antonio lo ha contado en el canal, en su canal, eh, que es nuevos palabros, nuevos conceptos para que esté todo esto tirando. Pero al final sí que yo lo he notado sobre todo en que en el trabajo yo sí que tengo GLM a través de un proveedor de estos que te venden el hierro y que te lo o sea tenemos tokens infinitos como un poco lo que contábamos la semana pasada con con Cristian y y Borja y al final sí que está muy bien porque yo puedo hacerme loops de que estén revisando eh estoy haciendo una especie de auto wiki como la que dijo Carpaci para el trabajo, simplemente para todos los Ah, pues mira, eh, otra cosa que aprender, pues estos loops al final, claro, creo que son sostenibles si tú tienes un tokens infinitos, porque sí me me ahorran tiempo, pero no como para tener que pagar más, eh, pasar de la de 20 a la de 200 o cosas así, ¿no? Entonces, hay que llegar a una solución de de que yo sí que creo que lo de tokens infinitos y los open weights y tal creo que va a ser como una solución más estándar para el futuro, porque sí que

va va a evolucionar todo esto a lo que de verdad necesitamos en un agente de todo lo que se ve en día en OpenCloud o en o en Hermes, en todos estos que están 247 haciendo cosas, solo tiene sentido si tienes tokens como para pagar Pero claro, depende de si de verdad tienes una tarifa plana, como puede ser esto de alquilando los servidores o pagando la cuota de Nan Builders, por ejemplo, o alguna cosa de estas o tienes que estar manejando el bueno, si lo invierto en esto, no lo invierto luego en crearme el nuevo nueva aplicación de DJ o cosas así, ¿no? Entonces, a mí sí que por un lado está muy bien que salgan cosas y que haya esta pelea. Y creo que al final creo que esto de que salgan eh los modelos chinos y y hay estén presentando batalla hace que se estén controlando, pero no son los chinos, eh, porque composer 2.5 C y Grock también están en esa guerra y ahora meta, o sea, que ya no es cosa de chinos americanos y Mistral también se de meter al final los que los que estaban liderando y de hecho Composer estaba basado en química dos, ¿no? O era o algo así. El primero sí. El segundo yo creo que nunca lo han llegado a decir. Claro, o sea, están como moviendo el mercado para que oye, no puedo subir los precios infinitamente porque eh tengo alternativas, o sea, no me dejas en Bragas ahí, ya me quedo sin hacer

cosas. Entonces creo que por ese lado es bueno, pero lo que decís de voy a probar esto, voy a probar esto, pues es que hay demasiadas cosas por probar y al final probando cosas lo que no haces es cosas, o sea, simplemente pruebas y tienes un montón de pequeños proyectos que salvo que seas Antonio, que se ha empeñado en destruir el el SAS y se está reemplazando todos sus pequeños SAS por aplicaciones propias, pues creo que al final hay muchas cosas incompletas y que no se están sacando. Todo lo que se debería esto. Yo creo, yo creo que ahí hay una parte que estamos empezando a ver y que veremos más adelante, que al final la labor del programador no va a ser programar, va a ser montar el el harness alrededor del sistema y ahí es donde va a entrar va a tener mucho valor el elegir bien los modelos. Si yo estoy haciendo, estoy lanzando código para ejecutarse 247 y estoy tirando de opus para todo, pues reviento la tarifa del de la de la empresa, ¿no?, de gasto de de IA, pero si soy capaz de pues montarme mi sistema para que la parte complicada la hagan los modelos grandes, pero luego delego en modelos baratos o incluso modelos que pueda montarme en local y y ahorrarme toda esa parte de costes, pues yo creo que eso va a ser muy relevante en el en el futuro. Cuanto a más IA utilicemos, más vamos a tener que optimizar los costes de la IA y en ese punto el que se esté dedicando a optimizar ese ese arnet

va a necesitar hacer todo este tipo de pruebas, ¿no? Entonces no quiere decir que todos lo tengamos que hacer hoy. Si estás en una empresa en la que estás trabajando de la manera clásica impulsado por IA, pues igual te compensa más pillarte la suscripción de Codex y tirar de los tres modelos que te da o de cloud. Pero si estás en un punto en el que ya estás montando el sistema para que la ya trabaje sola, yo creo que ahí empieza a ser muy relevante elegir bien los modelos. Sí, es que yo creo que aquí hay varios perfiles. Yo, por ejemplo, a mí me gusta probar porque me gusta todo el tema esto del harness y y el memory contest, todo esto. A lo mejor, bueno, a Juange, pues lo que le interesa es más resolver problemas y no le interesa tanto el tema del harness y por eso no le interesa tanto cambiar. Y esto es el, por ejemplo, también el típico ejemplo de hay gente más eh investigadora o cómo se dice, [ __ ] no me san las palabras más bueno que le gusta más ah exploradora. Hay gente más exploradora y gente menos. Entonces el y está el tema de de los restaurantes. Hay gente que siempre va al mismo restaurante toda la vida porque sé que le gusta y hay gente que lo que le gusta es ir probando nuevos. A mí en este Tepan pues me gusta probar cosas, pero luego también vuelvo al tema de de [ __ ] no me acuerdo. Hoy no me sale nada de Daniel Ávila cuando nos contó que él estaba es que los nombres son muy difíciles entre los nombres, el calor que te está recalentando el cerebro hoy no llegas al final del to. lo que nos contó Daniel Ávila, estamos en un momento en el que a lo mejor aprender ahora a optimizar todo va es muy bueno para

cuando en el futuro los tokens sean más caros, si es que llega ese futuro, no tener una ventaja. Entonces creo que todo lo que podamos investigar ahora va a ser mejor para nuestro futuro. Y ya dejo hablar Antonio nada, nada. Yo solo quería comentar dos detalles que has dicho antes, que yo sí que he mirado el precio de del meta, el de meta, es que no sabía el nombre, ni me acuerdo ni me acuerdo del nombre del modelo, pero miré el precio y está en uno y pico en entrada de millón de tokens y cuatro y pico de salida. Entonces está GLM. Acabas de decir, antes estabas diciendo que 5.6 eran 15 de salida, ¿no? No, 30 de salida. 30 de salida. Sí, 30 de salida. Y el Terra 10, 15 de salida. Y este has dicho cinco de salida. Cuatro y algo. Cuatro. Pues es que es una diferencia enorme. Y con poser 2.5 pues también el Grock que acaba de salir la P también. Bastante GR creo que era Grock creo que eran seis de salida el millón de tokens. El problema de Grock, que yo por lo menos me llegué a bajar el CI de Grock, pero es que te tienes que utilizar una suscripción de ellos que costaba, creo que era la mínima $30 al mes. Y digo, es que para probar Grock, porque el problema de Grock para mí es que Grock en su día, el Grock 4 creo que era o el tres, no me acuerdo el dos, salía unos Betmark que era buenísimo para programación, pero luego nadie lo utilizaba para programación porque no era tan bueno como decían los betmars. Entonces dije, "No, voy a pagar 30 € para probar Grock cuando a lo mejor es otra vez una una

estafa." No quiero decir una estafa, pero bueno. Entonces, pero Grock 4 GR 45 está en en cursor. Eh, claro, por eso lo único que que no está en Europa, eso sí. Ah, entonces pero esa es una de las cosas que me hacía plantearme cogerme cursor y probar composer y Grock. Grock 45 de momento está bloqueado en Europa y esperan sacarlo para mediados de mes, pero no. No sé por qué, porque los modelos al final sí que están saliendo en todos los países a la vez, pero el de Gross por lo que sea, no creo que en su día también pasado peligroso y y yo no tengo acceso a sol y tú sí. O sea, que sí, lo del eso no sé por qué es porque que te hayan dado acceso a unos sí y otros no. principio decían que en las próximas 24 horas iban a dar acceso a todo el mundo, pero a mí me dieron a los tres de golpe. Eso es que eres un son casi al principio. Que sabían que iba a hacer directo y dijeron, "A este hay que darle el acceso que si no no puede probar nada." Entonces, ¿tú Jorge, ¿qué usas? Pues yo eso, yo uso Cloud y lo malo, o sea, porque al final es eso de no me acostumbro a los ritmos estos eh que exigen las las suscridicciones de hoy en día. Y sí que eso, o sea, yo noto la fatiga de de cambiar de cosas y de probar cosas nuevas, porque eso, bueno, mi en el blog este que no lee nadie, yo he hablado varias veces de esto de de de que es que estamos hablando de modelos,

pero es que tienes los IDEs, tienes los harnesses, tienes los ades, tienes los e las webs de estilo lovable y demás para hacer el prototipo web, o sea, tienes infinitas cosas que probar y que la mayoría de esas eh son tienen la caducidad bastante alta. O sea, h hay que elegir muy bien las cosas que pruebas hoy en día, porque igual dentro de 6 meses lo que no está es eso, no los programadores, sino sino las cosas que dicen que es lo último ultimísimo del del mundo. O por ejemplo, eso ya no yéndonos a a las mismas herramientas diferentes, sino cuando, bueno, ya no me acuerdo cuándo fue con lo del tokenizador esto de de cloud, pues dices, "Vale, estoy a tope probando todas las cosas nuevas de de cloud, pero me sacan esto y ya me jode mis métricas monetarias. Entonces como que es todo tan turbulento, tan frágil que que no sé, fatiga. Yo eso te entiendo porque vas a utilizar Codex y ya no es Codex, es CHGPT, pero que en realidad es Codes y luego está Codes CLI, pero luego dices, bueno, pues me paso Antigravity, pero ya no es antigravity, es Gemin Cli. Entonces, la verdad es que es un poco jaleo por por dar por dar unos palos así, aunque Antonio, vete corriendo por la camiseta si quieres, pero el otro día eh le probé una cosa

mínima, minimísima con antigravity y se me acabó la cuota literalmente en 2 minutos. O sea, eh, o sea, intrigar antigravity. Sí, sí. Bueno, claro, también pago para Cloud Co, pero yo que sé, o sea, lo han yo creo que es que está roto porque antes con con el CLI la cuota de Anti, o sea, de Gemini no se me acababa nunca. O sea, bajabas de modelo al flash o algo así, pero pero no se me ha acabado en ningún momento. Y ahora con Antigravity, o sea, es abrirlo y te y te dice, "Bueno, vuelve la semana que viene." O sea, que es como, [ __ ] que como ahora el Flash también es caro, pues ya no vale ninguno para programar cuando se te acaban la la suscripción. Y el Flash es mejor que el Pro, pero depende, depende. Sí, sí, sí. Ahí tienen un lío. Sí, yo quería comentar que que me he acordado ahora que no relajéis tampoco mucho ni con 56 ni con Fable 5 porque ya hay rumores de que Fable 51 está al caer y que GPT6 va a salir en menos de un mes. Así que eh estamos a un ritmo que es verdad que 56 ha tardado muchísimo, entre comillas, para lo que suelen tardar los nuevos modelos. ha estado ha tardado más de 2 meses desde que salió 55, pero por lo visto ya están a las puertas eh los nuevos modelos de estas grandes, así que sí es que es una un cambio constante que además en realidad cuando cambias de modelo cambian cosas que no es que todo te vaya a funcionar a la primera en al

momento. En principio debería funcionar mejor de lo que funcionaba antes, pero a lo mejor cosas a las que estabas acostumbrado antes y que te funcionaban de una forma ahora cambian. Entonces sí que es verdad que el estar probando todo el día es agotador y es inviable en realidad no no es no hay forma de probarlo todo y de estar a la última de todo porque cambia constantemente. Yo ahí quiero decir dos cosas, perdón, aquí ibas a hablar, Jonge, para estar al día con vernos, ¿vale? Y lo segundo, que sí que es verdad que cambia las cosas porque el el de Anthropic, el tío que tiene el Boris Cherning, ¿no? Al otro que ahora no me sale el nombre, eh dijo hace poco ese dijo hace poco que con los nuevos modelos lo que han descubierto es que no hay que darle los proms tan detallados y darle un montón de ejemplos porque al final son tan buenos que le estás quitando creatividad. Entonces sí que es verdad que le cambian a la que sale un modelo nuevo, incluso hasta la manera de de meterle los promps cambian. Entonces, bueno, es normal que la gente Antonio aquí representa esa gente esté esté un poco hasta arriba, digamos, y estresada, pero bueno, es que es la época la la que nos ha tocado vivir. Para a mí me parece una época muy bonita, pero puedo entender que a la gente le hago bien de poder hacer aplicaciones de DJ en dos días. Yo eso eso en el blog este que nadie lee y que deberíais leer saldrá público. ¿Cómo se llama? ¿Dónde lo encontramos? Coding en Substack. No me sigáis mucho porque digo cosas feas. Qué bien te vendes.

No, pero ya daré más bombo, pero en esto, o sea, yo ahora me voy a dedicar a inventarme términos. Entonces, para cuando venga, vamos a dejar el enlace porque lo voy a poner el lunes o el martes, pero he estado dándole vueltas a un concepto nuevo, el que me llama pasando a mí, o sea, que que genera ansiedades y genera cosas de estas alrededor de la guía. Así que dejaremos el link para que para que eso me deis un like, una suscripción y esas cosas para que alguien para que lo lea quien le importe y y eso. Pero es que al final es una época muy bonita porque sí que es verdad que yo que sé con Nico Patarino que le conocemos todos también es una cosa que hemos hablado mucho que es como ahora tienes la posibilidad de hacer muchas cosas, pero pero eso, ¿para qué? O sea, ¿cuánta cuántas cosas de verdad se van a seguir usando? ¿Cuánta basura estamos generando detrás? O sea, al final sí está bien hacer cosas, pero nos estamos llenando de basurilla todo. Ya ya no GitHub, sino todo. Hay 8000 herramientas de lo mismo, hay 80.000 1 frameworks, cosas nuevas, simplemente porque se puede, ¿no? Entonces, no sé hasta qué punto estamos perdiendo un poco la eh el foco de a dónde ten que llegar esto, eh, porque al final no vamos a saber ni cuál es lo correcto para cada cosa por tener tanta disponibilidad de de herramientas en el en el proceso. A ver, yo creo que eso también forma parte

de la diversión, es decir, no yo creo que tampoco tenemos que buscarle eh funcionalidades a todo. Igual antes no hacíamos cosas simplemente porque no podíamos o no teníamos el tiempo. Ahora, ¿por qué no las vamos a hacer? Siempre y cuando no genere una presión el hecho de es que tengo que aprovecharlo, es que tengo que gastar los tokens de la suscripción si no estoy perdiendo dinero. Pues otra forma más de pasar el tiempo. No sé. Yo, por ejemplo, esto, que he estado haciendo todos los días, pues a lo mejor mañana me aburro, pero he aprendido cosas en el camino, me lo he pasado bien, pues ya está. Para mí tiene valor suficiente el tiempo que le he dedicado. ¿Qué has aprendido? Pues pues temas de cómo, por ejemplo, nunca había hecho lo de cómo orquestar fable con con GPT. He aprendido temas de diseño más allá de lo que es diseñar una página web. e temas de ondas, yo que sé, e longitud de ondas, me da miedo hacer cosas que antes me daba miedo a hacer, ahora no. Desbloqueas capacidades que antes no no te ni te habías planteado que podían existir o que o que no no que tengas tú, no, sino que gracias a la IA las puedes desarrollar. Esto y pudiendo haber eh sabido lo que es la derivada, ¿no? La transformada rápida de Furier, ¿no? Alguna cosa de estas eh que te habrá metido el la aplicación de DJ y no la has pedido que te lo explique eso. No, pero bueno, si tú tienes

ilusión, yo se lo pregunto y luego la damos. Volviendo a episodios antiguos, le podías haber dicho que pasase la señal a un espacio la plastano. Entonces ahí lo analizara a espacios no neo. Si es que aquí no solo informamos, también enseñamos. Tiene de todo este podcast. Eso es. ¿Tú qué tú te entretienes entonces con los jarneses y haciendo cosas? mucho. Yo a mí me gusta mucho. Es que es eso, o sea, por ejemplo, aquí tenemos los dos extremos, ¿no? Como Maxi no hace nada, simplemente investiga cosas, pero no te viene con la última aplicación de mira lo que he hecho. Estoy haciendo una aplicación de gimnasio y tengo y tengo mis agentes en casa, tengo gestor económico, tengo el el agente con No hace nada. Sí, madre mía, hoy ya tiene tomada contigo. Claro, pero no lo pones en redes, entonces no es pero porque muchas son muchas son para cosas mías de casa y la mayoría lo que estoy haciendo últimamente y la aplicación de gimnasio es que estoy esperando a que esté una última cosa bien y ya la iba a presentar al público. Va a ser la mejor del mundo. Sí, yo creo que sí. Como los modelos, sinceramente. Yo creo que sí. A ver, a ver si nos hace ricos y por lo menos patrocina el podcast. Así que nada, pues eso.