Claude Mythos 5: prohibició, retorn i risc real

Por primera vez y de verdad, los grandes

gobiernos del mundo se dan cuenta que

ahora en la mesa están sentados otros

que no son ellos. Esto ataca seguridad

nacional, esto ataca ventaja competitiva

a nivel geopolítico, esto ataca las

bases mismas del poder político. ¿Vas a

confiar en una compañía que ha tenido

acceso a mitos o vas a confiar en una

compañía que no ha tenido acceso a

mitos? La respuesta es obvia. No sé si

os dais cuenta, la vulnerabilidad de

ciberseguridad es mucho peor que un

ataque nuclear. es capaz de hacer caer

la red bancaria en un país, perder los

datos de quién tiene cuánto en el banco.

Eso destruye un país de la noche a la

mañana.

Por primera vez, un software que es

utilizado por millones de compañías de

repente desaparece de un día para otro.

que igual que con las armas nucleares no

jugamos porque nos podemos cargar el

mundo. Con la EI tampoco juguemos porque

nos podemos cargar el mundo. Estamos

frenando esto y gracias, como tú bien

dices, a que lo estamos frenando porque

si no esto sería un desmadre absoluto.

Vamos a ser honestos, es decir, Europa

ha perdido la batalla y ya no puede

recuperar una posición de competitiva en

esa batalla

que en los últimos 6 meses esto ha

avanzado más que en los últimos años.

Cada nuevo modelo de inteligencia

artificial que salga al mercado tiene

unas propiedades emergentes que le

permiten una potencia que ya no es

gobernable. Es una herramienta de poder

extraordinario.

No solo tenemos sentados en la mesa a

gente que nadie de nosotros hemos

votado, sino que además son compañías

que están en las manos de muy pocas

personas. Nosotros somos el botleneck

ahora mismo somos el cuello de botella.

No somos capaces de leer todo ese

output.

Ahora hay que cambiar el paradigma. Y la

pregunta no es saber qué me puede hacer

esta tecnología. La pregunta es que

necesito. Es un privilegio para mí lo

que hago y lo disfruto.

Pero tú no trabajas por dinero.

O sea, en esta mesa somos muy

privilegiados y no trabajamos por

dinero. Trabajamos porque nos gusta lo

que hacemos y encima nos da dinero. Que

la generación Z, que es la gente entre

20 y 29 años Estados Unidos, boicotea la

inteligencia artificial en su empresa

porque les da miedo que les quite el

trabajo, que están literalmente en

contra de la inteligencia artificial.

Pero es es el ludismo del siglo XXI,

¿no?

Hola a todos, bienvenidos a este primer

debate. Eh, Pep, bienvenido. ¿Cómo

estás?

Muy bien, muy buenos días. Muy bien,

Luis, bienvenido.

Muy buenos días.

Bueno, os explico un poco porque esto es

algo que no hemos hecho nunca. Eh, la

situación de la inteligencia artificial

está un poquito desmadrada, nos vamos a

engañar. Eh, creo que el lanzamiento de

mitos ha causado un terremoto en el

mundo de la inteligencia artificial y

hemos creído necesario pues traer a dos

de los mayores expertos inteligencia

artificial que conozco y además que son

gente con un criterio muy válido y pues

hablar un poco de todo lo que está

pasando, ¿no? Por poner en contexto,

creo que uno de los puntos más

importantes de lo que ha pasado es que

justamente esta semana el G7 se ha

reunido y no se han reunido solos, sino

que han invitado a cinco, si no me

equivoco, de las personas más relevantes

en el mundo de la inteligencia

artificial, cinco o seis creo que había,

pero principalmente a Demisabis, CEO de

Deepmine, a Samman CEO de Open AI y a

Darío Amodei, CEO de Antropic, ¿no? Todo

esto parece que ha sido algo que ha

venido derivado de la famosa prohibición

de Fable 5, de el modelo derivado de

mitos que Antropic ha presentado y que

el gobierno americano decidió sacar del

mercado porque era un peligro para la

sociedad en temas de ciberseguridad

principalmente.

Está claro que el tema de la

inteligencia artificial PPA ha cambiado,

o sea, estamos en una nueva fase. E,

¿por qué crees que estamos a este nivel?

Yo diría que el elemento fundamental de

cambio de paradigma y lo que mitos un

poco ha significado es que por primera

vez y de verdad los grandes gobiernos

del mundo se dan cuenta que ahora en la

mesa están sentados otros que no son

ellos.

Y todo esto que han desarrollado estas

compañías en el caso de Mitos en

particular, ya no es un impacto en el

comportamiento de la gente, en el día a

día del trabajo, un chat que es muy

simpático, etcétera. Esto ataca

seguridad nacional, esto ataca ventaja

competitiva a nivel geopolítico, esto

ataca las bases mismas del poder

político y en ese momento, yo creo es

cuando deciden, los sentamos en la mesa

para discutir. Y dej hacerte una

precisión que para muy importante, los

que has comentado, Samalmander y Modei,

etcétera, son CEO de sus compañías. y

propietarios.

¿Okay?

Y esto para mí es tremendamente

importante porque no solo es hablar con

altos ejecutivos de una compañía que

está cotizada, que está en manos de

muchos, que hay unos inversores y tal,

esta gente además son propietarios, son

gente que han construido prácticamente

desde cero sus compañías y eso para mí

hace que la discusión con los gobiernos,

además, sea muy distinta. A veces cuando

hay compañías cotizadas en medio del

juego, tú sabes, son compañías son

propiadas de un montón de gente a través

de la bolsa, etcétera, pero aquí estamos

hablando de compañías que todavía no han

salido a mercado.

Bueno, el caso el caso de Google sí,

pero

Google, pero no es Antropic, no es Opene

AI, etcétera. Por tanto, además no solo

tenemos sentados en la mesa a gente que

nadie de nosotros hemos votado, sino que

además son compañías que están en las

manos de momento de muy pocas personas y

para mí esto es muy relevante para toda

la discusión. Luis, eh, mitos sin

ninguna duda es muy superior. Pudiste

probar Fable Five cuando salió esos tres

días que tuvimos de

una noche maravillosa que tuvimos.

Exactamente. Sí, fue como un Fer en

París, ¿no? Una cosa loca. Em, mitos es

otra cosa, o sea, hablamos de un modelo,

se habló mucho de que si historia de

marketing y tal, creo que los, o sea, el

el dato mata el relato, ¿no? Un poco

como que se está viendo claramente que

ha desencadenado una serie de cosas de

seguridad nacional, de reuniones de

Donald Trump con Shjin Ping, del G7,

etcétera. O sea, está claro que hay

algo. ¿Por qué es tan especial este

modelo? Bueno, [resoplido] podemos estar

ante un momento realmente pivotal, el

primer momento donde la inteligencia

artificial llega a un nivel suficiente

como para cambiar el balance de poder.

Precisamente esta reunión de de estos

países eh tiene mucho sentido porque es

que se están dando cuenta de que el

poder está o va a estar cada vez más en

manos de compañías privadas. Como decía

Pep, el hecho de que no estén en bolsa

es un dato tremendamente importante.

Coincido con Pep porque la gobernanza de

la compañía es puramente privada.

Ahora hablaremos de la decisión que ha

tomado Estados Unidos y cómo de fácil o

difícil es parar un modelo. Eh, pero

[resoplido] creo que el momento es

pivotal y de hecho estamos empezando a

ver también que se está empezando a

generar una simetría entre países, eh,

una simetría de output, ¿no? Donde habrá

países ricos en y países pobres en y me

parece que esto va a notarse a un ritmo

mucho más acelerado de lo que estábamos

acostumbrados. De ahí esa reunión de

urgencia y de ahí todo este revuelo que

se ha generado, ¿no?

De hecho, es la primera vez que en el

ámbito del G7 hay países europeos, pero

no olvidemos que sale mizos, se dan

cuenta de la barbaridad que es capaz de

hacer, crean el proyecto, el proyecto

Glasswing, ahí cierran el acceso a mitos

a una docena de compañías básicamente

norteamericanas, la mayoría tecnológicas

y un banco, GP Morgan. Es tremendamente

importante el impacto sobre seguridad en

sistemas de pagos y demás que esto puede

provocar. Y la segunda vuelta del

proyecto Glasswing es una segunda corona

de parners, es una cuarentena de

compañías de ciberseguridad

norteamericanas.

Y esa asimetría que Luis dice entre los

territorios, continentes o países donde

tus compañías de ciberseguridad, por

ejemplo, tienen acceso a esto y aquellos

donde tus compañías de ciberseguridad no

tienen acceso a esto, esto de entrada

provoca una disrupción de mercado

absoluta. Porque tú que eres un banco,

eres una gran compañía, trabajas con

datos tremendamente lo que sea, ¿vas a

confiar en una compañía que ha tenido

acceso a mitos o vas a confiar en una

compañía que no ha tenido acceso a

mitos? La respuesta es obvia. Esta

disrupción de mercado te da una fuerza

política como país tremenda y en parte

por eso también los gobiernos ahora

entran en todo este campo de manera tan

directa. Perdona, de hecho, creo que la

gente no ha acabado de entender en

general lo que ha pasado con la

prohibición de mitos, porque el hecho

final ha sido que nos hemos quedado

todos sin mitos, pero realmente la

demanda por parte de Estados Unidos era

que se prohibiese mitos a extranjeros,

es decir, que lo que son nacionales

americanos sí que pudiesen tener acceso

a mitos, las empresas americanas

pudiesen tener acceso a mitos, pero que

el resto del mundo no. Es decir, era una

decisión absolutamente de ventaja

competitiva que luego Antropic, siendo

una empresa privada, ha decidido, no, no

vamos a crear esta desigualdad, vamos a

cortarlo para todo el mundo hasta que

nos pongamos de acuerdos. Y ahora

parece, porque se ha visto ya se ha

filtrado que Antropic está cambiando sus

términos y condiciones en que está

pareciendo que durante tu uso de cloud

pueden pedirte una verificación por

pasaporte, con lo cual se está viendo

como que quizás están preparando el

terreno para que al menos les dejen

devolver mitos pues a los ciudadanos

americanos si no hay otra solución que

se encuentre. El hecho es que tienes la

semana pasada estaba con una compañía de

ciberseguridad norteamericana y me

decían, "Para nosotros mitos magnífica

noticia." ¿Por qué? Porque tenemos

acceso. Todos nuestros sistemas los

hemos sometido a mitos, hemos sacado un

montón de exploits, los hemos parcheado

absolutamente todos y en unas pocas

semanas nosotros podremos decir que

nuestra ciberidad es resistente a

modelos tipo mitos. La ventaja

competitiva que te da esto respecto al

resto del mundo esamente espectacular.

Bueno, y es que hay que tener en cuenta

que mitos, por supuesto, tiene una

capacidad ofensiva, que es lo que ha

asustado al gobierno americano y por eso

se ha cortado el acceso. Pero nos

olvidamos de que también tiene una

capacidad defensiva a utilizar mitos

precisamente para evitar que tengas

ciberataques y para conocer tus propias

vulnerabilidades, ¿no? Entonces, la

decisión que ha tomado el gobierno

americano, en mi opinión, es

profundamente equivocada por muchos

motivos que seguro que ahora podremos

discutir, pero el primero, desde luego,

es que ha quitado la capacidad a muchas

compañías que necesitan de esa seguridad

el poder comprobar si eh si tienen

vulnerabilidades o no. Es decir, si lo

tiene un lado y no lo tiene el otro, es

profundamente disruptivo este cambio.

Eh,

sí, además en el G7 una de las

discusiones que también ha tenido lugar

ha sido el presidente Macron, eh

presidente de Francia y el presidente

alemán pidiéndole a Trump un pacto para

que los aliados podamos tener acceso a

los modelos de frontera americanos de

inteligencia artificial. Es decir, da la

sensación de que aquí estamos intentando

salvando salvar los barcos, ¿no? En plan

de decir,

bueno, es que piensa piensa lo

siguiente, es decir, porque la gente

dice, "Bueno, ¿cómo de importante es

esto?", ¿no? Y y déjame hacer una

comparación muy bestia, pero estamos

preocupados con la guerra nuclear, ¿no?

¿Qué es lo que puede ocurrir? Si China,

Estados Unidos, Rusia pueden tener un

problema con esto, ¿no? No sé si os dais

cuenta de que la vulnerabilidad de de

ciberseguridad es mucho peor que un

ataque nuclear. Tú suponte que un MITOS

es capaz de eh hacer caer la red

bancaria de un país y perder los datos

de quién tiene cuánto en el banco. Eso

destruye un país de la noche a la

mañana. Es decir, es es un tema

realmente serio el el tema del que

estamos hablando

desde un punto de vista técnico, si me

dejas añadir, a mí me impresionó mucho

cuando contaron por qué Mizos ha

desarrollado esta capacidad, ¿no? Porque

mi idea inicial era, vale, esta gente

han entrenado un nuevo modelo a lo bruto

con datos de ciberseguridad, ejemplos de

exploits, códigos mal hechos, etcétera,

y por tanto le han enseñado cómo

encontrar agujeros de ciberseguridad, lo

han lanzado y funciona bien. y su

documento técnico dice que no, no. Esto

ha sido una propiedad emergente. Hemos

entrenado mitos con lo de siempre, texto

por un tubo básicamente internet más un

montón de código con el objetivo de que

pueda aprender a automejorarse, a

programarse, etcétera. Y como propiedad

emergente, claro, si le enseñas a

alguien mucho código, inmediatamente le

es fácil encontrar agujeros de

ciberseguridad. Con lo cual, volvemos a

esa discusión que tuvimos hace mucho

tiempo de hasta qué punto tiene sentido

ir entrenando modelos de IA. que

desarrollarán propiedades emergentes que

tú no habías predecido en el momento de

entrenarlos y eso es todavía una

dificultad más.

Esto ha pasado también en el famoso

modelo de matemáticas. Bueno,

matemáticas un modelo generalista que se

supone que es GPT 5.6, que aún no está

en el mercado, pero que que es posible

que salga la semana que viene, pero

básicamente el problema de este famoso

ER2 que llevamos 80 años queriendo tener

resuelto, etcétera, cuando se resolvió,

lo primero que dijeron la gente era,

"Oh, a ver qué modelo entrenado en

matemáticas es esto." Y dijeron, "No,

no, es un modelo generalista,

eh, que simplemente, pues tiene

habilidades emergentes, ¿no? y estamos

discutiendo todavía si estamos en AGI o

no y un modelo matemático es capaz de

ganar una melalla de oro en unas

olimpiadas matemáticas, ¿no? Es decir,

yo es que vuelvo a lo que decíamos al

principio, eh es un momento pivotal

porque podemos estar cruzando una línea

por primera vez donde y creo que nos

pasará igual con el con el test de

Turouring, ¿no? De de que de repente

digamos eh

de repente ya estaba hecho, ¿no?

Estaba hecho, pues AGI va a ser lo

mismo. De repente habrá un cierto

consenso de que ya estamos en AGI. Para

mí AGI es tener un colaborador que

digitalmente es capaz de hacer lo mismo

que un ser humano. Para mí esa es la

definición de que coincide con la de

Open AI.

Yo a título personal estuve utilizando

mitos esos días que estuvo disponible.

Eh, bueno, Fable e lo puse en mi openla,

le di barra libre, le puse la tarjeta de

crédito y dije, fúndete lo que haga

falta. Creo que fueron, bueno, bastantes

cientos de de euros eh lo que costó,

pero era increíble que por primera vez,

y llevo probando modelos todos los que

han salido desde 2023, por primera vez

era todo one shot,

no había necesitabas

no había ningún tipo de iteración, era

quiero esto y esto estaba hecho y estaba

bien. O sea, el límite ya no era la

capacidad del modelo no tenías que

decirle esto no porque no sé qué

oa el límite no era la capacidad del

modelo, el límite era mi capacidad de

qué quiero, ¿no? Y esto es muy bestia

porque la sensación para mí, por

ejemplo, con Open Clizado con GPT 5.5,

con los diferentes modelos desde enero,

sobre todo que tengo estos agentes,

yo yo, por ejemplo, creé esa oficina

donde tengo a mis agentes y una de las

cosas que más nos costó era conseguir

que eso funcionase realmente como un

videojuego con asset reales, que tuviese

muebles, que los muebles fuesen una

pared, que no te pudies pasar por encima

de la mesa. O sea, no no lo conseguimos,

pero con decenas decenas de iteraciones

y días de trabajo y no fue capaz GPT

5.5. cinco de hacer eso y a mitos fue

decirle, mira, como estaba en el mismo

Open Club, le dije, revisa el histórico

de lo que te pedí y no fuistes capaz y

me dijo, "Vale, me pongo a ello."

Minutos después estaba hecho, ¿no?

Entonces, claro, el momento era como de

decir,

"Es que deja de ser una herramienta para

pasar a ser un colaborador, un colega."

Entonces, yo yo en mi uso, por ejemplo,

yo yo tengo agentes también y el otro

día me sorprendió por primera vez mi

agente de Open Club diciéndome no

a una cuestión que le pedí. Claro, la

gente tiene por objeto ayudarme a tomar

buenas decisiones. Es lo que tiene en su

Constitución, digamos, en su Soul. MD,

¿no? Que es que es el archivo, digamos,

que gobierna su su lo que tiene que

hacer fundamentalmente. Le pedí una cosa

y me dijo, "No, pero además fue un no

sin cualificar." Digo, "¿Qué quieres

decir?" No. Dice, "Luis, lo que me estás

pidiendo no te va a ayudar a tomar la

decisión que quieres tomar. tendrías que

hacerlo de ese otro modo. Sugrió otra

manera de hacerlo y efectivamente eh

pues tenía razón, ¿no? Por eso digo que

eh claro, es lo que se conoce como

agencia, es que es una palabra que no sé

si está bien traducida, agency, no la

hemos traducido mal, pero realmente son

modelos que que tienen una cierta

incluso personalidad, me atrevo a decir,

eh, y que no sé hasta qué punto

gobernamos esa personalidad. Para mí

aquí hay un cambio de paradigma sobre lo

que decí, sobre todo lo que decías tú,

John, a que a veces cuando trabajo con

empresas en implementación de IA me doy

cuenta que que todavía la gente no está

ahí.

La gente todavía está en la pregunta de

a ver si esto que necesito es posible

que me lo hagam.

Entonces, cuando tú empiezas con esta

limitación mental, lo que vas a

conseguir no es toda la potencia que la

tecnología te da.

Y ahora hay que cambiar el paradigma. Y

la pregunta no es saber qué me puedo

hacer esta tecnología, la pregunta es

simplemente, ¿qué necesito? Y la

probabilidad que la tecnología me lo

haga es altísima y cada vez más. Y para

mí el cambio con Mizos o con Fabel es

este cambio de rasante. Ahora ya no es

cuántas iteraciones voy a necesitar para

educar este filtro, para que mi email no

sé qué, no quiero esto y la probabilidad

es que simplemente pase y ya está. Y

este cambio de paradigma a nivel hasta

laboral, yo creo que nos costará mucho

de [ __ ]

Y psicológicamente, incluso, si me

permites, te enseña tus propias

limitaciones también.

El otro día eh una colaboradora, Laura,

la conoces muy bien, eh hemos entrenado

a nuestro agente para que nos ayude a

buscar compañías en las que invertir,

¿de acuerdo? Y claro, es capaz de buscar

tantas compañías en un plazo de tiempo

tan corto que Laora me decía, "Nosotros

somos el bottleneck ahora mismo, somos

el cuello de botella, es decir, no somos

capaces de leer todo ese output digamos,

¿no? O de utilizaría que casi por suerte

somos el bot, es decir, que a la que la

cosa se va al mundo físico y al mundo

real, ahí los humanos estamos parando la

implementación de todo esto.

No solo en eso, sino en la burocracia

manera general de que oye, para tomar

una decisión, una empresa hay que juntar

un comité directivo, eso tarda días por

agendas. Llegado un punto en que estamos

frenando esto y gracias, como tú bien

dices, a que lo estamos frenando porque

si no esto sería un desmadre absoluto.

Oye, hemos hablado bastante ya de lo que

ha pasado. Creo que está muy bien desde

el punto de vista de poner contexto,

pero ahora quiero entrar ya un poco más

en opiniones. Em, ¿creéis que ha sido

correcto la prohibición de mitos por

parte de Estados Unidos? Bueno, yo creo

que era la el único camino, es decir,

necesario

es que estoy en manos de cualquiera te

hace saltar el sistema de pagos bancario

o te hace saltar cualquier cosa que sea

absolutamente necesaria para nuestra

seguridad como sociedad. A muy largo

plazo, yo creo que una proyección de

este tipo frena el progreso, pero a muy

corto plazo, es decir, oye, vamos a

parar un momento, nos sentamos y

pensamos cómo continuar. Es que para mí

el cambio de rasantes de tal magnitud

que esto hecho público y puesto en manos

de cualquiera te hacía saltar por los

aires cosas que como sociedad no nos

podemos permitir que salten.

En Luis, ¿estás de acuerdo?

Sí, con algún matiz. El problema es que

te paran thropip, que no te para todos

los modelos, porque yo también creo que

es un poco exagerado en el sentido de

que el propio modelo de Open el 5.5,

usas el benchmark, digamos, para saber

en qué capacidad es es posible, digamos,

eh entender la ciberseguridad y es

prácticamente idéntico, quedan muy

poquitos puntos porcentuales por debajo

de mizos. De hecho, ese es el argumento

de Antropic, o sea, la historia de la

prohibición viene de que Antropic

decide, mitos, evidentemente es una

bestia parda, sobre todo en

ciberseguridad. Antropic decide imponer

unos guardarraíes teóricamente más

sólidos que los que teníamos hasta

ahora. Recordemos, y yo creo que es un

factor muy importante que igual aquí se

ha desestimado y es que no ha habido

ningún modelo en la historia de la

inteligencia artificial que no haya sido

sujeto a prompt injection, es decir, que

no haya sido hackeable. Eh, no hemos

tenido ningún modelo seguro hasta ahora.

Eh, y Antropic dice, "No, el mío ahora

es suficientemente seguro." Eh, con

énfasis en la en la palabra

suficientemente, porque no dicen que sea

seguro, pero dicen que es

suficientemente seguro para poder

desplegarlo, ¿no? Y a partir de ahí

resulta que en Amazon consiguen de forma

relativamente sencilla que haga cosas de

las que en teoría no debería poder

hacer.

el

y entonces a partir de ahí se habla de

que reportan eh Jasi, el CEO de Amazon,

reporta sus bueno sus sensaciones con el

gobierno de Trump y a la vez parece que

las últimas informaciones que que yo he

estado leyendo vienen de que al parecer

una empresa coreana de Corea del Sur,

una empresa de memoria RAM o algo así,

eh estaba dentro del proyecto Classwing,

tenía acceso y al parecer el gobierno ha

determinado que esa empresa coreana

tenía lazos con China. Lo cual quería

decir que a través de ello estaban

teniendo en China acceso a mitos, con lo

cual parece que puede ser, hay dos

vertientes, una es que Fable no haya

tenido unas guardas ra suficientemente

potentes, que ahí Antropic difiere.

Antropic dice, "Lo que han conseguido

hacer con Fable es lo mismo que puedes

hacer con GPT 5.5. Nada nuevo. Lo puedes

hacer con Google, que era lo que

decíamos en 2024, ¿no? Decíamos, si yo

soy capaz de hacer una arma biológica

buscando en Google, no es un peligro

superior el que lo pueda hacer con chat

GPT, ¿no? Entonces estamos en el mismo

nivel de peligro. Pues ellos dicen,

"Estamos en el mismo nivel de peligro

que GPT 5.5. no han hecho nada que no

pudiesen hacer los modelos de Yao y ahí

pues podría haber discusión, pero si

realmente el problema no ha venido de

Fable del modelo público, sino que ha

venido de MITOS preview, que era el

modelo de Glasswing, a través de que una

agente al que le hemos dado acceso tenía

vínculos con China, pues ahí tiene mucho

más sentido la prohibición de

exportación. Quiero decir, si el

problema es fable, lo lógico es que tú

digas, "No quiero ni que los ciudadanos

americanos tengan esto." Si el problema

es que China está teniendo acceso a ese

modelo y con lo cual es un tema de

carrera competitiva, tiene mucho más

sentido una prohibición de exportación.

Claro, pero es que el gran ganador de la

decisión de Estados Unidos de cortar

Anzolopic para mí es China, ¿eh? O sea,

que estoy de acuerdo con Pepe en que

había que hacerlo. a corto plazo no

puedes

a corto plazo no puedes hacer otra cosa,

pero es indudable que el mensaje que le

mandas al mercado, especialmente el

americano, es que el estado por primera

vez

es capaz de parar una iniciativa privada

de la noche a la mañana, por no decir en

horas, digamos,

90 minutos les dieron

en 90 minutos capaz de parar y eso

significa que los modelos, o sea, las

compañías americanas pueden tener la

tentación de aflojar en esta carrera

porque no van a poder desplegar esos

modelos y cuesta mucho entrenarlos, ¿no?

De manera que esto es un desincentivo a

la innovación y a la investigación en y

en esta carrera entre bloques, porque

vuelvo a insistir, la es una herramienta

de poder extraordinaria en esta carrera

entre bloques. Pues el mensaje que se le

mandó a las empleadas americanas es que

cuidado, eh, que hacer mucha research,

mucha investigación en

pues no sé si te dejaré sacar el modelo.

Eh, y ya estamos en un umbral donde

cualquier cosa que se haga ya es

superior a lo que tenemos. Y como decía

muy bien Pep, es una propiedad

emergente, no es que hayan entrenado un

modelo de ciberseguridad, es que ha

aflorado por sí mismo esa capacidad,

¿no? Entonces, e

y hay otra derivada que no es positiva

de esta decisión, aunque yo sigo

creyendo que era la única posible a

corto plazo, y es que por primera vez un

software que es utilizado por millones

de compañías de repente desaparece de un

día para otro. Yo soy una empresa, yo

voy desarrollando mis aplicaciones, tiro

por debajo de ciertos modelos, actualizo

todo mi software stack para el nuevo

modelo que me sacan Tropic. Esto es una

inversión tremenda y de un día para

otro, una decisión de un gobierno que

quizás ni tan siquiera es el mío, me

saque ese software y me impide que mi

software está funcione.

¿Hasta qué punto somos dueños de una

herramienta si un gobierno te la pueda

cerrar en 90 minutos? Sí, alguien,

claro, pero técnicamente lo que ha hecho

el gobierno americano lo podría haber

hecho con Windows, es decir, esa

prisión, pero ahí voy, ¿no? Es como si

en algún momento tuvieras el Windows 98

instalado y por y un gobierno decidiera

que lo que tienes que volver al Windows

95, ¿no? Esto en el paradigma anterior

nos parecería algo ridículo, imposible,

sin ningún sentido, ¿no? Y ahora de

repente te das cuenta que lo que está

debajo del software está que gobierna

quizás tu negocio es una pieza de un

juego geopolítico que te puede cambiar

cualquier día en 90 minutos un gobierno.

Claro. Esto esto porque básicamente

estamos en un mundo en que la cosa está

funcionando de una forma muy diferente

de con el software tradicional donde el

software tradicional pasaba todos estos

filtros antes de salir al mercado, luego

salía al mercado. Como a día de hoy si

tú quieres lanzar pues un restaurante

tienes que pasar una serie de controles

de sanidad antes de abrir la puerta

fármaco. Claro. Y en este caso

se ocurre lanzar un fármaco sin hacer

todo el proceso.

Exacto. Pero en este caso la pregunta,

si estáis de acuerdo los dos, eh, yo no

estoy tan seguro que la respuesta, o

sea, creo que sí que era necesario

sacarlo del mercado quizá si realmente

esos indicadores de Amazon, esos

indicadores de China realmente son

reales. Creo que ahí la respuesta es es

óptima por parte del gobierno, pero pero

creo que el problema es haber llegado a

ese punto, haber llegado a que Antropic

haya podido lanzar Fable. Es decir,

quizá lo que debería haber pasado es que

antes de lanzar Fable, Antropic tendría

que haber pasado ciertos controles para

defender lo que están haciendo ahora,

que es es intentar pelearse, que se está

diciendo que los próximos días se

volverá a liberar porque se supone que

Antrópic ha solucionado sus problemas de

seguridad, pero eh no sé si la habrán

quadr

pero no ha solucionado sus problemas de

seguridad. Justamente es este es el

tema. Es decir,

eh a partir de ahora cada nuevo modelo

va a tener exactamente el mismo

problema.

Entonces no es, o sea, no sé cuál es la

solución. Pero aquí hay que ver, Luis,

yo creo si el problema realmente ha sido

que han hecho una rotura de guardar

railes que hace que el modelo se ve se

vuelva peligroso, porque la teoría de

Antropic es buena. Es decir, tú tienes

Fable y dices, "Vale, esta es

superpotente en todo menos en

ciberseguridad, en bioquímica y en

desarrollo de que son los tres pilares

de lo que se puede convertir en

realmente un problema serio para la

sociedad, ¿no? El que sea muy bueno en

hacer contratos legales, pues lo que

hace es quitarle trabajo a un abogado,

pero no es un problema para la sociedad

de forma tan directa a la seguridad

nacional. Em,

pero gestionar esto con guardarrailes no

parece una idea permanente y eterna.

Pero es que podría ser que no sea la

raíz del problema. Es decir, que el

problema no es que hayan roto

guardarraíes, el problema es que unos

chinos accedieron a mitos preview.

Entonces, si el tema eso,

creo que yo creo que el problema no es

el no es acceso, no son los

guardarrailes, el problema es la

capacidad del modelo y además no solo en

ciberseguridad, porque en biología, por

ejemplo, o sea, tú puedes crear eh

nuevos códigos genéticos en un virus,

por ejemplo, que podrían ser

terriblemente peligrosos también. Es

decir, no es no es un tema de si China

tiene acceso a mitos o no. Es un

problema de que a partir de ahora cada

nuevo modelo de inteligencia artificial

que salga al mercado tiene unas

propiedades emergentes que le permiten

una potencia en todos estos temas

peligrosos que estamos hablando que ya

no es gobernable. Entonces, claro, esa

famosa carta hace ya años, que yo la

recuerdo cuando 500 científicos de

primer nivel, incluidos premios Nobel,

pidieron una moratoria de 6 meses que

nadie, por supuesto, aceptó porque solo

que un que uno de los actores se salte

esa moratoria es

ya está

global dominance para ese actor, ¿no?

Ahora tenemos una segunda oportunidad

para decidir, oye, queremos avanzar con

un mapa, parar un momento y es que no lo

sé, pero pero realmente la situación, o

sea, ahora nos vamos a empezar a dar

cuenta del peligro que tiene las

capacidades emergentes de una

inteligencia artificial. Vuelvo a

insistir, ninguna ha sido entrenada para

generar eh problemas de ciberseguridad.

Ninguna ha sido entrenada con el

objetivo de generar códigos eh genéticos

que sean que puedan ser dañinos, pero

sin embargo tienen esa habilidad.

[resoplido]

Pero yo, es decir, si abro un poco la

perspectiva, eh hay una cosa que no

había pasado nunca que son las

propiedades emergentes. Yo entro en un

modelo para hacer ciertas cosas y de

repente sabe hacer otras cosas.

Ha pasado nunca hasta que llegamos a la

IA.

Hasta que llegamos a la IA. Pero antes

de la IA ya había tecnologías en las que

hemos tenido que lidiar con esto, que

son básicamente las tecnologías de uso

dual civil y

militarm

y ya existen unos protocolos bastante

bien testeados. Ninguno de nosotros

tiene acceso a ciertas tecnologías

desarrolladas en nuestro país, en Europa

o en otros sitios, porque alguien ha

decidido legalmente que son tecnologías

que tienen un impacto en seguridad

tremendo y que tienen que pasar unos

filtros, unos protocolos, unos

procedimientos y nos parece normal y

positivo. A mí me parece normal que tú

no puedas tener acceso a ciertos, yo que

sé, explosivos, a ciertos lo que sea,

porque es tecnología que se desarrolla

solo para cierto uso bajo ciertas

limitaciones.

Tendremos que pensar en algo similar.

Entonces, estamos ante el límite del

acceso público a la IA, es decir, a

partir de ahora todos los modelos a los

modelos de frontera,

es decir, a partir de ahora GPT 5.5, por

poner un ejemplo, o GPT 5.6 o lo que sea

donde nos plantemos, es lo mejor que

vamos a poder usar los ciudadanos. A

partir de ahí todo lo demás va a estar

reservado.

No creo. Yo creo, a ver,

¿qué es lo que podría ayudar a esta

situación? El encontrar guardarrailes

que de verdad sean efectivos. El

problema es que no somos capaces de

encontrar, claro, la propia el propio

hecho de que el modelo de es estocástico

hace muy difícil, es decir, te permite

persuadirle igual que una persona puede

persuadir a otra.

Sí, esto esto salía en un artículo creo

que del Wall Street Journal que decía,

"El gobierno americano le dice a

Antropic que va a poder volver a lanzar

fable cuando no sea hackeable y los

técnicos dicen que eso es imposible."

Claro, es que es que esto lo hemos

visto, o sea,

no sé si la palabra imposible aplica,

pero desde luego es muy difícil porque

lo está intentando mucha gente y no

somos capaces. Lo hemos visto también,

por ejemplo, en la Unión Europea. Es

decir, Pedro Sánchez hace poco eh motivó

una medida en la que cualquier modelo

que pudiese hacer un tema de desnudos,

etcétera, estuviese prohibido. Claro, mi

primera reacción fue esto quiere decir

prohibir toda la guía.

Pero esto esto viene de gente que con

muy buena intención piensa en esta

tecnología como una tecnología

determinista. Correcto.

Esta tecnología no es determinista, es

estocástica y por tanto

probabilísticamente siempre habrá una

opción de romper un guardar raí, de

hacer un mal uso.

Y entonces ahí donde voy e ¿Crees que

Trump cree que esto es, o sea, ¿crees

que no entienden bien en la

administración Trump lo que es esta

tecnología y por eso están intentando

quitar FA? Yo yo creo que ellos sí que

lo entienden bien. Y yo creo que se han

dado cuenta que la la la teoría de los

guardarrailes para proteger malos usos

de ciertas no es eterna ni permanente y

que la única solución real será retirar

del uso público modelos a partir de

ciertas capacidades.

Pero ahora mismo la sensación, las

noticias, veremos lo que pasa en los

próximos días, pero la sensación es que

se ha dicho que las negociaciones con el

trobic van bien y que Fable volverá a

estar disponible en cuestión de días.

Lo que pasa que es que

no tengo una idea para decir que esto es

una solución perfecta. Es decir, si

alguien en 4 horas hackeado un guarda

rail, pues tardará 40 para el siguiente.

Pero esto no es una solución permanente.

Lo que ocurre que yo creo que en mi

experiencia, al menos esto es un nuevo

paradigma y nadie tenemos experiencia en

esto específicamente, eh, pero es muy

difícil ponerle una barrera a un

desarrollo científico. Los científicos

siguen investigando, los modelos van a

seguir entrenando, ¿no? Entonces,

me preocupa

encontrar una solución a esto, porque si

no podemos estar en el escenario que

decías precisamente tú de que a partir

de ahora la investigación, te lo voy a

poner de otro modo, puede ser una

oportunidad magnífica para que los

modelos eh open source precisamente

empiecen a florecer mucho más que los

privados, porque los modelos open

source, por definición, no pueden ser

gobernados y no pueden ser cerrados por

un gobierno. El gobierno americano puede

decirle antropic, cerramos esto, pero un

modelo open source es mucho más difícil

que se cierre, ¿no? Entonces,

yo aquí pongo en duda, Luis, que un que

alguien tenga la capacidad tecnológica

para hacer

sí y no es que no lo sé, es un miedo que

tengo y no sé si es posible o no, pero

igual que hay swarms, que hay enjambres,

digamos, los modelos open source se

pueden entrenar utilizando el poder de

computación que está no siendo utilizado

en un momento, distribuido por millones

de ordenadores en el mundo que tendrán

sus GPUs y podrán entrenar modelos, No,

claro, hasta qué punto eso es factible o

no. Claro, si tienes en cuenta que ya

partimos de modelos que ya existen, no

es tan difícil lo que yo estoy diciendo.

Esto hablé en múltiples múltiples

derivadas tremendamente interesantes

como posibles, bueno, no sé si

soluciones, pero posibles tratamientos a

la situación. Si hay un modelo open

source con las capacidades de Fable, no

tiene sentido prohibir Fable, con lo

cual a partir de ahí se acaba el

problema para Antropic. Entonces, eh

esto puede llevar a que Antropic pueda

decidir que para quitarse el problema de

encima eh ayude al open source a que se

desarrolle más, porque si el open source

está en frontera, entonces no tiene

ningún sentido prohibir frontera, ¿no? A

mí me interesa mucho más también otra

derivada que surgió y que levantó uno de

los trabajadores de de Open AI e que

básicamente decía, "Vale, o sea, ahora

mismo lo que ha pasado con el gobierno

de Estados Unidos ha prohibido mitos en

todas sus características, mitos

preview, mitos y fable 5, ¿no? tod todas

las versiones y lo ha prohibido a todos

aquellos que sean extranjeros. Antropic

de forma unilateral decide prohibirlo a

todo el mundo, ¿no? Pero claro, todo el

mundo fuera de su oficina. Lo que pasa

que la prohibición del gobierno sí que

afecta a su oficina y tenemos casos como

por ejemplo el de Andrés Carpazy, que

muy hace muy poquito ha fichado por

Antropic, uno de los mayores científicos

de inteligencia artificial más

reconocidos, que resulta que no es

americano. ¿Y qué pasa? Que la la

directiva de Trump prohíbe que Antropic

que Carpazi utilice mitos. Eso, ¿qué

quiere decir? Que Antropic se encuentra

en una situación que por haber sacado el

modelo al mercado, sus propios

desarrolladores pierden competitividad y

no pueden seguir trabajando con el

modelo para desarrollar sus futuros

modelos. Entonces, claro, ahí de repente

te encuentras una dicotomía muy

interesante de decir, "Oye, si no saco

igual no levanto la liebre, con lo cual

Open AI igual se está replanteando,

igual no saco mi próximo modelo, porque

como me lo capen de mis 4,000

trabajadores, 2000 son son extranjeros."

freno al a la investigación y al

desarrollo en estos. Sin duda es un

freno tal y como está planteado, pero si

tú no sacas al mercado, puedes tener

ventaja competitiva en seguir

desarrollando, lo cual puede hacer que

lleguen menos mercados, menos modelos al

mercado, porque la empresa no quiera

sacar hasta que diga, "Bueno, yo que

quiero poder seguir trabajando."

Todo, todo esto es válido. Mientras

estas empresas sean totalmente libres y

no intervenidas de ninguna manera por el

gobierno. Mi opinión es que a la que la

tecnología que desarrolla una empresa

tiene un impacto profundo en seguridad

nacional, esta empresa a corto medio

plazo acabará teniendo una cierta

intervención gubernamental porque tú no

puedes tener por ahí compañías que están

desarrollando cosas que pueden afectar a

la seguridad nacional y que además hay

tan siquiera los

lógico. Pero fíjate además en cómo el

gobierno americano ha reaccionado

diciendo, "No quiero que lo use nadie

que no sea un ciudadano estadounidense."

Fijaos en lo que significa esto.

Claro, te está diciendo, "Lo que no

quiero es que me ataquen, pero atacar yo

sí, pero a la vez a veces es un poco una

gilipollez, ¿no? Porque entiendo que que

o sea hay terrorismo nacional, hay un

montón de cosas en las que un ciudadano

americano la lía parda." Quiere decir

que no entiendo tampoco

yo creo que esto es el ruido propio del

corto plazo de que nadie sabe muy bien

qué hacer. Pues

que esto es lo que lo que se puede

hacer.

Ííbelo y ya veremos cómo lo hacemos. Si

ese fuera el problema que ciudadanos no,

o sea, si tienen que usarlo sol

ciudadanos americanos, entonces el

pasaporte digital eh podría tener y y y

no olvidemos que no sé si la gente lo

sabe, pero Sam Alman es accionista muy

relevante en un proyecto que se llama

Worldcoin, que es un que es un pasaporte

digital que a través del escaneo de

retina él ya invirtió que tiene una

criptomoneda Wld, etcétera, ¿no? que

realmente podría ser una respuesta esto,

pero es que la respuesta no es que

puedan utilizar los ciudadanos solo

americanos. Si es peligroso es peligroso

porque los propios ciudadanos americanos

pueden usarlo contra el propio país. A

eso iba yo, ¿no? Pero pero al final es

cierto que se percibe y puede ser que

haya sido una solución parche en plan,

¿qué podemos hacer que nos quite esto de

la mesa esta noche? Una hora y media.

Claro. Exacto. Entonces, igual otro tipo

de medidas para para sacarlo del mercado

llevaban más tiempo, llevaban un proceso

y bueno, en esto los burócratas pues son

muy inteligentes y dijeron, "Oye, pues

este es el camino, pues lo utilizamos

esto aunque no sea para lo que Pero la

percepción pública es competitividad.

es, me lo quiero quedar para mí, no

quiero compartirlo con el resto. Y de

hecho, yo creo que ese hecho de que esto

sea una medida temporal no hubiese

desatado que el gobierno francés y el

alemán estuviesen negociando con Estados

Unidos un acceso de aliados, con lo cual

me da la sensación de que es más

intencional de lo que parece. Pero

dejarme irme a China. Fíjate un un

apunte porque fíjate hasta qué punto es

cierto que es un tema de competitividad

que la herramienta que hemos utilizado

para pararlo es control de

exportaciones, que es la primera vez que

se utiliza esta herramienta por un

estado para parar una inteligencia

artificial, ¿no?

Y también una de las cosas que el

gobierno de Trump más domina tema de

tarifas, etcétera, es uno de los campos

en los que creo que Trump está más

educado, ¿no?, en el tema de de

exportación y controles. Dejarme irme a

China, ¿no? que ha pasado una cosa muy

interesante ayer mismo y es que alguien

comentó que cuánto en Twitter lo típico,

¿no? ¿Cuánto vamos a tardar en que China

tenga un modelo del nivel de mitos, ¿no?

Y Elon Musk contestó Q1 de 2027, ¿no? Él

dijo en Q1 de 2027 lo tienen. Y a eso le

responde eh el CEO, creo que era el

fundador de ZI, una empresa la que corre

mi modelo, mi agente Charvis e que por

cierto acaba de presentar GLM, creo que

se llama 5.2, dos, que brutal modelo de

código, supera eh a Opus 4.8 muchas

cosas e y él ha contestado, va a ser

antes que eso. O sea, el nivel es eh

Elon Musk, uno de los tíos que más sabe

todo este tinglado que le está

alquilando los servidores Antropic, que

ha visto el modelo por dentro, que está

últimamente hablando muy bien de lo que

ha conseguido mitos, etcétera, dice, eh,

preparaos, preparaos, porque esto es Q1

2027 en plan haciendo sonar todas las

campanas y viene el chino y dice,

"Aguántame el cubata". No, o sea, eh,

parece que esto podría venir antes

incluso de apenas se meses.

Yo creo que lo tienen ya claro. ¿Cuál es

la definición de que lo tengan? Que

saque exactamente el mismo benchmark.

probablemente pues será unas décimas

menor el benchmark, pero las capacidades

de de hacer daño eh existen y cada vez

son mayores. Si lo unes a la irrupción

de los agentes en el mercado y de los

enjambres de agentes, que es lo que

realmente va a cambiar muchas cosas,

agentes que pueden dedicarse a ir

haciendo daño, creo que creo que el

momento realmente creo que es muy buena

iniciativa que convoques lo que has

llamado, me parece, debate de emergencia

porque estamos en un momento muy

particular, eh,

muy [ __ ] Claro, la gente no es

consciente. El otro día estab lo sabe

estas cosas. El otro día voy a dar fui a

dar una charla a un evento y había gente

en plan de jaja jiji que esto de mitos.

Digo, hostiao yo no me río, tío. Yo de

verdad estoy preocupado.

Los bancos centrales, perdona, están con

susto en el cuerpo que no se aguantan.

El otro día tuve la oportunidad de de

estar en un evento donde estaba el uno

de los antiguos secretarios de defensa

norteamericanos, que por cierto lo echó

Trump en el mercado, en el despacho

Bali, explicó la anécdota de cómo lo

echó. Yo me quedé fascinado, pero están

muy muy preocupados con esto, no solo

por la guerra de bloques entre China y

Estados Unidos, porque esto realmente

puede desbalancear un poco todos los

equilibrios geopolíticos, eh, pero están

preocupados por el, déjame que lo

descienda a un nivel que lo entiende

todo el mundo, por el dinero de la gente

y por la la digamos la accountability,

la localización de ese dinero, en el

sentido de que la economía puede sufrir

muchísimo. Hay un ataque de

ciberseguridad enorme. Insisto, los

bancos centrales. El otro día, me

parece, me contabas la anécdota de que

habías escuchado, o sea, el Banco

Central francés había parado.

Sí, hay hay volver con lo que dices de

Franc un momento a Europa, ¿no? Tú dices

Estados Unidos saca Tropic sacan mizos,

mizos perdidos, etcétera. Eso les da un

cierto liderazgo. ¿Cómo está China? Sean

9 meses, sean 6 meses, sean 3 meses,

está un poquito atrás. un poquito atrás

en ciberseguridad te da una ventaja

brutal porque si tú sacas un modelo el

primero, con esto parcheas todo lo tuyo,

luego viene el siguiente, el siguiente

si no con este sentido, pero te obliga a

mantener siempre los tr meses de

ventaja, ¿no? Y qué hacemos en Europa

con todo esto?

[resoplido]

Ah,

tuvimos hablado varias veces y con

también aquí en este estudio. Yo hace

dos años era mucho más optimista que lo

que soy hoy, mucho más respecto al papel

de Europa. Hoy caben de estar más

convencido de que la exponencialidad que

estamos viendo impide a un nuevo

incumbente aparecer, impide a que nadie,

ya no es un tema de meter dinero, de

meter rapidez, es que ya no puedes

llegar a ese nivel.

[grito ahogado][suspiro]

Y a mí me parece que Europa tiene que

escoger muy finamente los temas en que

todavía poder ser soberana y en los

otros, y estamos hablando de uno en el

que Europa ya no llega a tiempo, solo

hay dos alianzas para hacer y las

estamos poniendo encima de la mesa. Y

otra de las cosas que no se está

hablando de manera clara y pública es

Europa como player mundial. ¿Cuál va a

ser su alianza geoestratégica de futuro?

El discurso público de apostar por la

soberanía europea está bien, hay que

hacerse. En algunos temas será posible,

pero en aquellos temas que no será

posible. Tenemos claro como europeos que

hay dos únicos bandos y que escoger uno

implica inmediatamente no escoger el

otro porque son totalmente

incompatibles. En temas que hablábamos

de sistemas de pagos bancarios, de

ciberseguridad, de seguridad nacional,

Europa tiene que escoger algo antes de

simplemente quedarse en el medio sin

tecnología. que Glasswing se cierre solo

a compañías norteamericanas y no se abra

nadie más, te pone en una segunda

división inmediata a menos que hagas una

alianza explícita.

Y aquí y aquí hay un tema tremendamente

preocupante y es que Europa no es un

país.

Claro, son 27.

Claro, porque estamos viendo como Pedro

Sánchez se ha posicionado como el

archienemigo de Trump. O sea, estamos

ahí en un punto, bueno, a nivel que que

Trump lo quiera ver, pero en cualquier

caso, Trump ha hablado públicamente del

Gobierno de España, eh, mientras que

Macron y Alemania están intentando estar

más aliados de Trump. Entonces, claro,

si Europa se divide, ahí sí que creo que

podía ser el mayor error. Es decir, no

tienes capacidad entonces absolutamente

de nada. Es que es que creo que Europa,

vamos a ser honestos, es decir, Europa

ha perdido la batalla y ya no puede

recuperar una posición de competitiva en

esa batalla. Pero es que no sé si nos

damos cuenta, hay dos batallas

simultáneas aquí. Hay dos escenarios de

concentración de poder. Uno es la

concentración de poder en países. De

momento cada vez hay más concentración

ahora en Estados Unidos y China que van

a tener el peso mayor y la y el peligro

es que la concentración de poder sea

total en un país, porque las

concentraciones de poder no son buenas.

Esa es un escenario de batalla. Pero hay

otro sonario de batalla que es la

concentración de poder en las empresas

privadas versus lo público. Porque

claro, las empresas privadas ahora mismo

ya no es solo que tengan un GDP eh

superior al de un país,

es que tienen más poder porque tienen

esas eh ¿Por qué? ¿Quién es el dueño de

los modelos más importantes del mundo? O

sea, está Google, está Amazon, está Open

AI, está Microsoft y tal, pero todos

tienen detrás una de las grandes. ¿Por

qué? Porque es un una herramienta de

poder extraordinario y esto desbalancea.

Entonces, me preocupa también esta lucha

públicoprivada porque ahora el gobierno

americano, yo creo que parte de esa de

ese de esa acción de parar Anthropic es

decir, "Oye, sigo mandando yo." Pero es

un sigo mandando yo que es muy relativo,

¿eh? Eh, es un sigo mandando yo, donde

las empresas privadas cada vez tienen

más poder sobre lo público y también

tendríamos que estar preguntando.

Y os traigo otra otro punto de debate

muy interesante. Em, Curswell en su

momento ya habló, por cierto, hace poco

hizo un podcast con con un tipo

americano y aún el tío está muy fino,

¿eh? Mira que está mayor, pero está muy

fino. Pero Curs en su momento habló de

que hay un punto donde esto se dispara,

¿no? Un punto donde esto entra en una

curva su exponencial, donde cruzas la

línea y esa línea se dispara. Muchas

veces hemos hablado de que esa línea es

el recording, el self recording

improvement, o sea, el que la IA se

mejore a sí mismo, que Antropic, por

cierto, ha hablado de ello, de que está

empezando a detectar. Pero lo que está

claro es que hay un punto en que si tú

cruzas la línea antes, la ventaja que

coges

es demasiada para que cuando este de

aquí cruce la línea te pueda pillar,

¿no? Entonces, ¿creéis que Antropic

puede haber hecho eso? Porque se está

rumoreando que hemos visto el fail de

Gemini 3.5 Flash. Veremos qué pasa con

Gemini 4. Eh, hemos visto que Mitos

salió creo que el preview en abril, si

no recuerdo mal. Eh, nadie ha sido capaz

de sacar. Eh, Open reaccionó con su

propio proyecto de ciberseguridad. Nada

que ver. Esta otra escala completamente

no ha hecho ningún ruido. Es posible que

Antróic haya cruzado esa línea y que

esté avanzando a un por 10 de velocidad

ahora respecto al resto que están apenas

a unos metros de esa línea, pero que

recorrer esos metros va a hacer que

cuando la cruzantropic esté en la

siguiente línea. Ya.

Y yo te acepto esa tesis, pero incluiría

también a Open AI en la ecuación. Es

decir, yo creo que Open y Antropic los

las dos compañías están liderando,

digamos, la frontera de la

investigación. ¿Crees

es que la diferencia es que Antropic lo

ha sacado y Openi? Exacto. Yo creo que,

vuelvo a insistir, porque yo he probado

los mismas cuestiones de ciberseguridad

con Open AI, con los modelos con el 5.5

y te digo, es capaz de encontrar

vulnerabilidades a un nivel, pero es que

incluso el propio benchmark, hay un

benchmark hecho que te permite ver

cuáles son las capacidades de actuación

en ciberseguridad, ¿no? Y Open AI,

cuando estás, si uno puntúa 93 y el otro

92, ya entenderás que sí puede que haya

un líder, pero no creo que haya cruzado

la frontera, ¿no? Pero si creo que estos

dos modelos están por delante de otros

modelos, Gemini, etcétera, en el

mercado, ¿no? Y la batalla, vuelvo a

insistir, o sea, vamos a una

concentración y la velocidad a la que

avanzamos es tan acelerada que pronto

habrá un solo ganador, como dices tú.

No, creo que hoy el ganador no es

Antropic, en mi opinión. Creo que hoy

todavía no, pero creo que veremos un

ganador porque esto es un escenario

donde The Winner takes all, es lo que

estamos hablando básicamente.

¿Crees que Entropic no está por delante

de Open AI aún como Luis? No, tengo que

ser honestamente tengo que decir que no

lo sé porque podría ser que simplemente

Antropic haya sido más transparente que

Open AI en hacer el release de ciertos

modelos, pero me gustaría comentar

técnicamente una cosa, este tema del

self improvement, de la automejora

también porque hay mucha gente que te

sigue que sabe mucho, pero hay otra

gente que te sigue está aprendiendo.

Para mí es importante que la gente

entienda cómo estamos automatizando el

entrenamiento de la IA. Venga.

El primer elemento que para mí fue muy

importante el salto masivo de datos

reales a datos sintéticos. Es decir,

como el GPT5

en buena parte ha sido entrenado con

datos no humanos, sino datos generados

por el O3.

Esto fue hace un año o hace medio, no me

acuerdo.

Sí, agosto del 25. Pero esta ahora ya es

una commodity, es decir, ya hemos

conseguido saltar una barrera que es que

los datos para entrenar los modelos no

solo son humanos, sino que son generados

por la propia.

El último modelo entrena el siguiente.

Claro. Entonces, y lo siguiente es lo

que dice Luis. Además, ahora lo

conseguimos en el código. Conseguimos

hacer modelos tan potentes que les

puedes pedir que se mejoren y ellos

mismos son capaces de de rehacer

arquitecturas internas, etcétera, es

para hacer mejor el self improvement,

¿no?

Esto me vuelve a poner el elemento en el

control.

¿Cuán posible es controlar una

tecnología? Uno, que está en manos

privadas. Dos, que estas compañías no

están cotizadas y están en manos de unos

pocos. Tres, que gestionan tecnología

que se automejora. Empezamos a estar en

una barrera, en un límite que yo no sé

si lo van a cruzar o no y van a dejar

los demás atrás, pero que es obvio que

los gobiernos se preocupen, intenten

entrar ahí porque estamos cerca de un

límite detrás del cual ya no hay control

posible. tiene control, además, por un

factor extra, que es que, ¿qué hacemos

cuando no entendamos cómo se están

mejorando esos modelos? Porque claro,

llega un momento donde el ser humano no

entiende exactamente por qué está

mejorando este modelo, ¿no? Ah, y esta

este Black Box, ahora sí,

incomprensible,

eh, pues qué tienes que hacer, ¿no? O

sea, hay que dejarles que sigan

mejorando ellos solos porque ahí sí que

estoy de acuerdo que es el último

threshold, eh, es decir, a partir de ahí

ya no hay control posible. muy de

acuerdo con la afirmación que acabas,

o sea, en el momento que la IA se mejora

a sí misma, eh, perdemos el control, por

decir alguna forma, ya que a partir de

ahí depende absolutamente

Claro. Pero pero Carswale, que tú lo

mencionabas antes, eh, hablaba de una

curva exponencial que da la sensación de

que son días, ¿no? O horas o segundos,

no lo sé. Creo que hay que bajar un poco

la intensidad. Es decir, no es un tema

de horas o de días o de semanas, es un

tema de meses o de años, pero

indudablemente una vez una es capaz de

reentrenarse a sí misma y definir su

arquitectura para ser mejor, no es que

en 2 horas tenga la dominación mundial,

pero pero empieza una deriva donde

dejamos de controlar esa mejora y donde

si no hay un kill switch que dices,

"Oye, podemos detenerlo en cualquier

momento, que es una de las grandes

preguntas, ¿no? que pues estamos

entrando una zona que el tema está en

que si yo rebobino a 2023, no sé cuando

nos conocimos tú y yo, pero debía ser

más o menos por ahí. Em, yo recuerdo que

en ese momento teníamos sensación de que

todo iba muy deprisa, pero las cosas

llevaban meses, ¿no? Y entonces ahora

han empezado a llevar semanas, ¿no? O

sea, es que si vemos, y esto es algo que

no me canso de repetir, que en los

últimos 6 meses esto ha avanzado más que

en los últimos años.

Ya, pero es que estás definiendo

exactamente el comportamiento de un

exponencial. Exacto. Pero entonces digo,

no no es descabellado que esto pasa

y el cerebro humano no está entrenado

para entender exponencias.

Pero esto esto demuestra que no es

descabellado pensar que lo que llevaba

años ha pasado a llevar meses, llevará

semanas, llevará días, llevará horas. Es

decir, si la exponencial se mantiene,

creo, pero yo creo que aquí nos salvará

en cierta manera la limitación

estrictamente física de la tecnología.

Claro,

llega un momento al final, final al

final, todo esto no olvidamos son GPUs y

meggawatios

y ahí por mucho self improvement y por

mucho dato sintético, por mucho, tienes

que entrenarla. Entonces eso pueden ser

meses o semanas. Claro. Me preocuparía

más. Bueno, claro, si la convergencia es

que Nvidia y otros desarrolladores de

GPUs son capaces de acelerar también

eso, pues sí vamos convergiendo a esto

que hablas tú, John, de que, bueno,

meses, semanas, días, ¿no? Pero claro,

todavía hay este límite físico que hace

difícil

un takeof. Exacto. Un takeof como el que

decía Curso, pero esto precisamente es

eh la razón detrás de esa teoría de que

Antropic ya no le pueden pillar, ¿no?

Porque lo que a ti te lleva semanas

llegar a esa línea, Antropic en esas

semanas ha conseguido llegar a la

siguiente y a partir de ahí, como

Antropic cada vez va más deprisa y tú

vas en el siguiente nivel, pero el otro

ya ha saltado al siguiente,

la Francia crece en lugar de

Claro, pero si el gobierno americano lo

para, pues a lo mejor Anzolopic es el es

el es el primero que ha llegado, pero no

va a ganar el premio. Hay un dicho en

economía o en el mundo del

emprendimiento, ¿no?, que dice que a

veces el segundo ratón que va a la

trampa es quien se come el queso, ¿eh?

Porque el primero trampa

se ha decapitado, ¿no? Entonces puede

haberle pasado antiqu con la gente que

ha trabajado en Google con la que yo he

hablado como Chavi, etcétera, siempre

nos han dicho que Google está dejando

terreno a Open AI para que él queme los

bosques, se lleve la imagen negativa y

luego construyan las casas, ¿no?

Interesante.

Caso y el caso límite que yo sigo tengo

muchas ganas de ver, ¿qué pasa? Es el

caso de Apple,

es decir, todo el mundo está quemando

las naves, construyendo grandes data

centers, metiendo una de capex y de

inversión brutal. todo el mundo menos

Apple y Apple tiene explícitamente esta

actitud que es decir, este es un terreno

inexplorado, desconocido.

El retorno empresarial estricto de

explorar cosas desconocidas no es muy

positivo muchas veces la probidad que

encuentren algo que no pueda ser luego

una commodities muy baja. Por tanto, yo,

¿qué hago? Wait en sí, me espero. Tiene

las inversiones en en capex, en data

centers, al mínimo histórico

prácticamente. Cuando tú ves las

gráficas, todo el mundo sube, sube, sube

y Apple sigue exactamente igual. Y su

teoría es cuando todo esto esté resuelto

o capado o limitado y al final lleguemos

a unos modelos que son el estándar,

entonces vendré yo con mis productos,

con mi diseño, incorporaré la tecnología

y ya está. De hecho, lo acaban de hacer

con Siri. Yo tengo acceso ya a la beta

de Siri, eh, y funciona.

Va sobre tecnología de Google. sobre

Google, pero realmente han dicho que no

es que tenga Gemini a través de una API,

sino que ellos Gemini les ha dado la

base, el chasis, ellos han hecho un fine

tuning sobre eso y lo corren en sus

propios servidores, es decir, no corren

en servidores de de Google, pero pero el

tema es que funciona y es el primer a

pesar de lo detrás que iba Apple, es el

primer asistente personal que sale el

mercado que funciona, porque Gemini es

absoluta basura comparado con lo que

hace Siri ahora mismo. Es decir, tú

puedes hablar con Siri, pedirle que

mande un correo, que te lea el correo.

Bueno, es como una especie de mini open

clow limitado a estas aplicaciones de

preliminar

y es relativamente lento, pero [ __ ] que

es mejor que nada de lo que ha sacado

Google con toda la ventaja que Google le

saca a Apple en este

sería una metáfora muy divertida que el

contrarian fuera el que al final acaba

ganando.

Claro, correcto. Porque en este caso

Apple le ha costado un pilón al año.

este año se va a estar 190

y pero esa dependencia en mi opinión esa

dependencia juega juega en negativo. No,

no lo sé. Es un debate es un cuestión

marca.

La apuesta de Apple nunca habrá un no

solo posible proveedor,

¿correcto? y que mientras haya

multiplicidad de proveedores, cerrar el

grifo no es una alternativa y con lo

cual esta opción contraria de que los

otros desarrollen, yo integro y

implemento que tengo el mercado es la

ganadora a nivel económico.

Yo yo creo que Amazon está cerca de esa

línea. También me da la sensación de que

Amazon no ha metido Ol in, ha sido como

a medio gas, apostado mucha pasta por

Antropic, etcétera, pero parece que

Amazon con, creo que se llama Olympus,

su su modelo, no ha hecho un Olin

tampoco y no se pegar y era uno de los

grandes players. Pero fíjate qué buena

la metáfora, ¿no? Que en este caso

estamos viendo como quizá en positivo lo

que ha hecho Apple, veremos si acaba

saliendo en positivo aquí hasta que no

se acaba la carrera no sabes si te ha

salido bien la estrategia de neumáticos

o no. No, pero en este caso eh parece

que podría ser buena, pero en cambio

podríamos decir que la misma estrategia

la ha podido considerar Europa que ha

dicho, "Bueno, aquí no hay problema,

siempre tendré Estados Unidos o China,

no me van a cerrar grifo los dos y con

lo cual no hace falta que yo haga todo

ese capex, toda esa inversión y me puedo

aprovechar de lo que desarrollen estos

tontos que se están gastando la pasta."

Esa es una visión tremendamente

optimista y me temo que tremendamente

equivocado.

Sí, sí, absolutamente. Lo que pasa que

la

Apple basa su idea en que forma parte de

un ecosistema que es el norteamericano,

donde siempre habla multiplicidad de

players alineados con una manera de

pensar

y la geopolítica nos lo

claro jugar a la geopolítica de que o

uno u otro me dará acceso está algo

tremendamente arriesgado.

Oye, em Bernie Sanders, Bernie Sanders,

senador de Estados Unidos, para quien no

lo conozca, es lo más cercano a un

socialista que existe en Estados Unidos.

Lo más de izquierda es que se puede

saber.

Exacto. Que que eso más o menos está

como a la derecha en otros países, pero

en cualquier caso eh es un tío de

izquierdas y es un tío que el primer

político americano que se tomó en serio

inteligencia artificial a pesar de tener

casi 97 años. No sé cuánto tiene este

hombre, pero es más es muy muy mayor.

Em, y ha hecho muchas varias cosas. Ha

hecho varios intentos fallidos, ¿no? De

de

Pero acaba de proponer algo que ha sido

aplaudido.

Exacto. Y entonces acaba de proponer

hace muy poquito después de intentar

proponer que eh se bloqueasen los data

centers desp, o sea, decir su primera

propuesta para parar la IA fue, como no

vamos a parar a esta panda de de locos

ceos, etcétera, vamos a cortarles la

gasolina, ¿no? Entonces dijo, vamos a

prohibir la construcción de data

centers. Lo cual es una estupidez para

el progreso, pero en cualquier caso,

desde luego, sería un mecanismo para

frenar los laboratóricos. hubiese sido

suficiente, no hay duda, ¿no?

con lo cual ya no te puedes ir, pero en

lugar de pararte el coche. Pero en

cualquier caso, esto no le salió bien,

obviamente. Y ahora ha propuesto una

cosa interesante cuanto poco, que dice,

"Vamos a nacionalizar el 50% de las

acciones de las empresas de IA y a crear

un fondo soberano como el que tiene,

creo que es Noruega con el petróleo, en

que los dividendos se repartan entre la

ciudadanía, creando una pseudorrenta

básica universal a través de el

ownership de las empresas de

inteligencia artificial, pero con un

matiz muy importante que creo que la

gente que lo ha oído no se ha dado

cuenta. Él habla del 50% de las

acciones, es decir, de tener una

posición prácticamente dominante en los

consejos directivos, lo cual quiere

decir que pasa de simplemente

beneficiarse de los beneficios de estas

empresas

a controlarlas.

A controlarlas.

Sí, pero pero vamos a ver, eh aquí la

propuesta de Bern Sanders a mí no me

gusta, pero eh en cualquier caso

resuelve una parte del problema, pero no

el problema su globalidad. Una cosa es

el reparto de la riqueza entre todos. En

ese sentido sería interesante, pero otra

otro problema es el control. El control

no está resuelto. Es decir, aunque tú

tengas el 50% de las acciones de una

compañía, veremos, porque claro, tendrás

algunas compañías, pero hay muchas

compañías que están compitiendo en el

mercado y es imposible tener el 50% de

todas las compañías, ¿no? De hecho, hay

un movimiento superinesante,

pero aquí sí que es cierto que tenemos

unas compañías que entre un grupito

tienen el 90% de intervienes, porque

esto es una intervención, si tú

intervienes a Google, a Open AI, a

Antropic y a Microsoft y a Metas,

pero date cuenta de un detalle que no sé

si la gente es muy consciente. Esto

sucede esta primera prohibición en un

contexto de salida a bolsa de las

grandes compañías, ¿vale? Entonces,

claro, las grandes compañías salen a

bolsa, en cuanto salen a bolsa es el

mercado quien decide. Entonces, puede

ser puede estar un poco relacionado, por

ejemplo, eh, y sé que hay que tratar de

esto del mercado laborar y tal, ahora de

repente Samal Manropic, todo el mundo

dice que no va a haber un problema con

el mercado laboral. Qué casualidad que

lo están diciendo semanas o meses muy

pocos antes de su salida a bolsa. No

tiene un c

No solo eso, semanas o días después de

que a Samman le disparasen y tirasen un

cock del motof en su casa. Sabes que

igual también tiene algo que ver que que

igual de hecho el otro día Darío Amodei

salió en una entrevista con Bloomberg

creo que era, diciendo, porque

precisamente preguntaron, "Oye, ¿por qué

has cambiado de guion?" No, ¿por qué

ahora dices que el trabajo dice que yo

no he dicho eso, o sea, que yo sigo

pensando que se va a llevar muchos

trabajos por delante. Estoy harto de que

me cojan clips de 3 segundos en Twitter

diciendo algún comentario y que digan,

"Darío ha dicho que lo que diga la gente

es irrelevante". Este caso, Darío

defiende, Darío defiende que que sigue

afectando al trabajo. Samalman tiene

todas las implicaciones de salir a

bolsa, pero también todas las

implicaciones personales que han

supuesto un peaje muy importante, tiene

un crío de menos de un año y todo esto

ha supuesto un drama familiar

importante. Eh, con lo cual, bueno,

podemos asumir que que como poco están

condicionados para ese cambio de guion,

¿no? Han visto que no funciona la idea.

Antes de seguir el tema laboral,

dejadmo, veranders, porque para mí es

muy importante, primero políticamente

que alguien de este extremo salga con

esta opinión y que salga luego alguien

del otro extremo, JD Vans, etcétera,

diciendo que igual no es mala idea, que

es lo que está pasando últimamente.

Para mí la pregunta correcta es, ¿qué le

interesa a Vernis Anders o qué le

preocupa? ¿Le preocupa el reparto de la

riqueza o le preocupa el control de la

tecnología?

Son dos problemas distintos,

muy distintos. Entonces, personalmente,

si la preocupación es el control de la

tecnología, creo que compartimos todos

la preocupación. Yo no sé si la

participación en accionar y control de

las compañías es la solución, porque

esto sería tanto como decir que todos

los gobiernos tienen que ser

propietarios de las compañías que

desarrollan tecnología armamentística,

que no pasa. Quizás hay otras maneras de

solucionarlo más simples, regulación,

etcétera, como se hace en esta otra

tecnología.

Si le preocupa el reparto de los

beneficios,

nacionalizar los beneficios

históricamente se ha demostrado que es

una idea un poco

de de que funciona bastante mal.

Y sobre el papel suena bien, pero luego

super guay, pero luego no consigue un

ejemplo real que esto haya funcionado de

verdad, ¿no? Utilizar el ejemplo de

Noruega está bien, pero Noruega nutre el

fondo soberano a partir de la tasación y

de los impuestos sobre las compañías que

extraen petróleo, etcétera, etcétera.

Hay otras maneras. Entonces, yo diría,

me gustaría entender cuál es la idea de

fondo que tiene Bernander, si es

beneficiémonos todos de estos increíbles

beneficios de una tecnología que todos

acabaremos utilizando, bien, pero hay

otras maneras más simples y más

eficientes que tomar el control de las

compas. Sanders, sin ninguna duda por su

historia, por su histórico. Eh, Sanders

principalmente creo que se preocupa por

el tema de la distribución de riqueza, o

sea, se preocupa de que esto va a hacer

millonarios a unos pocos y muy pobres al

resto porque van a perder su empleo. Y

de hecho ha defendido mucho el hecho de

que la IA va a quitar muchísimos

trabajos, con lo cual la motivación de

Sanders creo que está clara. El la

propuesta no sé si tiene pues razones

secundarias, ¿no? Porque podía haberlo

propuesto de muchas maneras y y lo

propone con un 50% porque igual además

de eso le da el control. para evitar

eso. Yo creo que el mayor problema que

tiene esto es que si el gobierno tiene

el 50% pues pasa como con Telefónica,

que se convierte o como con Correos, que

se convierte una empresa absolutamente

no competitiva con la que hasta que se

privatiza no empieza a jugar otra vez en

la liga, ¿no? Por no hablar de

cuestiones puramente formales y legales,

tomar el 50% de una compañía cotizada es

algo que se no se puede hacer. En

Estados Unidos es una puñetera locura,

pero bueno, él habla del mecanismo es

una tasa del 50% de tus acciones.

Pero creo que juega su papel, John, eh,

y o sea, creo que Bern Sández está

jugando su papel y creo que los extremos

son malos y converger en algún punto

intermedio siempre es positivo, ¿no? Lo

que pasa que sus soluciones son, creo

que impracticables desde un punto de

vista práctico y desincentivan

enormemente el progreso, que no estoy

diciendo que el progreso sea el rey

yquir solo por el progreso. Creo que en

el equilibrio está la virtud, ¿no? Pero

claro, si tú haces que los incentivos

sean compartidos por todos, pues no hay

incentivos para progresar porque ya todo

el mundo tiene lo mismo, ¿no? Y la gente

no quiere seguir investigando. Entonces,

me parece una posición peligrosa, pero

insisto, no es descabellado que de algún

modo haya un equilibrio en el centro,

¿no?

Y ojo que Bernie Sanders, que tiene unas

ideas un poco exóticas para la lógica

norteamericana política,

mal olfato no tiene.

Y cuando este tipo de gente saca estas

ideas, quiere decir que las veremos en

el debate público pronto. Y a mí no me

preocupa tanto que Bernie Sanders hable

de nacionalizar estas compañías. Me

preocupa lo que puede pasar en la

ciudadanía en general, sitios como

Estados Unidos, si hay un cierto

movimiento social de empezar a