Por Stiven Cartagena
septiembre 16, 2026
La inteligencia artificial está pasando de responder preguntas a ejecutar tareas en nombre de los usuarios. Agentes capaces de enviar correos, reservar servicios, realizar compras o coordinar acciones entre sistemas empiezan a participar en actividades que antes requerían una persona al otro lado. Con ello aparece una pregunta todavía poco explorada: ¿qué ocurre cuando dos agentes de IA tienen un conflicto?
GenLayer Labs busca responder a ese desafío mediante una infraestructura de adjudicación digital que permita resolver disputas de manera automatizada. La compañía plantea un sistema en el que múltiples inteligencias artificiales participan como validadores para determinar el resultado de contratos, sin depender de una única entidad central.
La propuesta parte de una premisa: si los agentes van a realizar transacciones entre sí a gran velocidad y desde distintas jurisdicciones, los mecanismos tradicionales de resolución de disputas podrían no ser suficientes para ese nuevo entorno. En lugar de sustituir los sistemas legales existentes, GenLayer plantea automatizar determinadas decisiones y contratos que hoy pueden resultar demasiado costosos o lentos de resolver.
La compañía ha trabajado durante alrededor de tres años en el desarrollo de esta infraestructura y ha levantado más de US$10 millones de distintos fondos y inversionistas ángeles, según explica su cofundador y CEO.
En este episodio de En Contxto entrevistamos a Albert Castellana Lluís, cofundador y CEO de GenLayer Labs, para hablar sobre el origen de la compañía, su experiencia enfrentándose a un complejo proceso legal y cómo la inteligencia artificial y blockchain podrían construir una nueva capa de confianza para la economía de los agentes.
Stiven: Albert, bienvenido. Para empezar, cuéntanos qué es GenLayer y qué problema vieron o qué hacía falta resolver para fundar la compañía.
Albert Castellana Lluís: Primero, Stiven, gracias por tenerme aquí. Un placer estar aquí con vosotros.
GenLayer es, para entenderlo de forma muy sencilla, una especie de corte digital. Estamos en un mundo que avanza muy rápido, que tiene un sistema de economía muy complejo y que necesita unas reglas para funcionar. Por eso tenemos un sistema legal.
El problema es que el sistema legal realmente es bastante débil. Está fragmentado, cada país tiene el suyo, es muy caro, es muy lento y es bastante injusto. Hay 5.000 millones de personas que no tienen acceso al sistema legal. Es un problema enorme para muchísima gente.
Mucha gente no lo encuentra en su día a día, pero en el momento en que te tienes que enfrentar a un problema legal, todo se complica muchísimo.
Si entiendes por qué es necesario este tipo de sistemas y piensas un poco en el comercio del futuro, ¿cómo va a funcionar? Todo el mundo habla de inteligencia artificial, y eso es lo que vamos a ver en este podcast, pero esencialmente las cosas van a cambiar mucho.
Cada vez va a haber más comercio porque, al final, va a haber más gente y más agentes que van a hacer transferencias entre ellos. Entonces, el problema es que si ya tenemos un sistema legal actual que es bastante frágil, ¿qué pasará cuando estos agentes de inteligencia artificial empiecen realmente a hacer comercio entre ellos?
Eso será un problema porque no van a poder confiar. Tú tienes un agente, yo tengo un agente, ¿cómo confía tu agente en mi agente? ¿Cómo confiamos tú y yo ahora mismo? Confiamos porque detrás tenemos un sistema legal que sabe quién soy, ves mi cara, sabes dónde vivo, tienes mi identificación. Puedo ir a la cárcel, puedes venir a buscarme. Hay varias implicaciones que, a nivel de sistemas automáticos, no van a existir.
Tú no sabes dónde vive un agente, no sabes realmente quién hay detrás y las transacciones van a ser muchísimo más rápidas.
Lo que hemos hecho básicamente es crear una especie de corte digital, un juez por inteligencia artificial que es capaz de resolver contratos de forma autónoma y en cuestión de minutos y de céntimos, pero sin necesitar confiar en una sola parte.
Si te fijas, tenemos un sistema bancario. Tú confías en un banco que está guardando el dinero, que lo está transfiriendo. Confías en SEPA, confías en la infraestructura para hacer las transferencias. Entonces ha habido todo este movimiento de criptomonedas para intentar descentralizar las cosas, eliminar a la gente que está en medio, los intermediarios.
Y cuando piensas a nivel de adjudicación y toma de decisiones, no es lo mismo. Estamos yendo a un mundo donde mucha parte de la toma de decisiones se va a pasar a la inteligencia artificial.
Ahora mismo tú no sabes realmente qué te va a salir después en YouTube, Instagram o Twitter. El algoritmo lo elige. Tampoco sabes realmente si te van a dar o no un trabajo, si te van a dar un seguro o si te lo van a pagar, porque al final quien toma esa decisión ahora mismo es una inteligencia artificial.
Eso causa ciertos sesgos. Y estos sesgos, en el futuro, van a ser un problema enorme porque cada vez vas a estar delegando más toma de decisiones a estos sistemas de inteligencia artificial.
Por ejemplo, si te digo qué es lo mejor de un destino u otro, igual le preguntas a ChatGPT. ChatGPT puede estar informándote con un sesgo y haciendo que tomes una decisión hacia un lado o hacia el otro.
Esto, a nivel de política, por ejemplo, en las siguientes elecciones vas a ver muchísimo de eso, porque la gente va a estar creando contenido específicamente para que la IA te informe de lo que interesa y no de lo que no interesa.
Como está cambiando el sistema, no solamente a nivel de cómo se mueve el dinero sino también de cómo se toman las decisiones debido a esta inteligencia artificial, lo que hemos creado básicamente es un protocolo, una especie de capa dentro de internet.
Igual que en el caso de las criptomonedas, Bitcoin es una capa para poder mandar dinero sin tener intermediarios. Lo que es GenLayer es una capa que permite que tengas una toma de decisiones que no dependa de una entidad centralizadora y esto es a nivel global.
Tú y yo podemos coger un contrato, lo mandamos a este sistema y este contrato se va a ejecutar como si fuera a un juez, pero en vez de ir a un juez, va a muchísimos jueces, a miles de jueces, cada uno conectado a una inteligencia artificial distinta para poder llegar a un acuerdo entre las diferentes partes, de forma que no necesita una entidad centralizadora y sea neutral.
Stiven: Antes de pasar ahí, Albert, tú no llegaste aquí por cosas de la vida. Tú lo viviste. Viviste un proceso legal complicado que se ha prolongado durante años. ¿Qué aprendiste de esa experiencia y cómo influyó en el hecho de querer fundar ahora GenLayer?
Albert Castellana Lluís: Yo empecé a emprender muy pronto, a los 14 o 15 años, una cosa así. Empecé a hacer diferentes tipos de negocio, temas de marketing, temas de inversión y, eventualmente, me puse también con temas de criptomonedas.
Me puse a investigar cómo crear cosas encima que tengan valor, que intenten mejorar el mundo. En este caso tuvimos una idea para una startup que lo que hacía era ayudar a tener un nuevo tipo de primitiva financiera. Se llama liquid staking.
Lo que pasó ahí fue que, en criptomonedas, si tienes el password de la cartera y lo pierdes, se pierde el contenido. No hay forma de recuperarlo. Entonces tienes entidades que lo que hacen es guardarte de forma segura, en principio, estas claves para que no las puedas perder.
En lo que sucedió en este caso, aunque estamos hablando de un tema institucional, bastante bien hecho, la verdad, aun así lo que sucedió fue que el custodio perdió las llaves de básicamente US$150 millones.
Eso, te puedes imaginar, es un gran pushback. Dices: "Vale, tengo que volver a empezar". Pero antes de eso te pones a intentar solucionar el problema. La forma de solucionarlo es empezando a litigar: empiezas a denunciar a esta gente que te ha perdido el dinero, intentas perseguirles.
Te das cuenta, por ejemplo, de que en Israel, si alguien te pierde dinero, tienes que pagar un 1% de lo que estás denunciando solamente en fees del juzgado. Eso ya es una locura. ¿Cómo consigues, en este caso, que alguien te ha perdido US$150 millones y tienes que pagar US$1,5 millones directamente para que el juzgado esté procesando el tema?
Ese es un ejemplo, pero claro, si estás en Estados Unidos, fácilmente te vas a millones de dólares en cuestión de meses porque los fees son extremadamente elevados.
Entonces lo que vimos era eso: que el sistema legal está roto, que todo es demasiado lento, todo es demasiado caro. No puedes tener un sistema legal donde necesitas tener un millón de dólares antes. No tiene ningún sentido.
Estamos yendo a un sitio donde esta inteligencia artificial va a estar empezando a hacer tratos entre ellas mismas, con menos capital pero súper rápido.
Ahora mismo, si tienes un problema con un vendor, por poner un ejemplo, de US$2.000, es muy probable que ni siquiera vayas a litigar. Es bastante probable que pase eso porque sabes perfectamente que el tiempo de solucionar esto en los juzgados va a ser muy complicado. Lo dejas correr.
¿Por qué? Porque somos humanos. Confiamos los unos en los otros. Más o menos sé dónde vives, qué cara tienes, etcétera.
Pero lo que va a pasar aquí es que tú no vas a saber con quién está tratando tu agente en muchos de esos casos. Entonces, ¿cómo van a confiar el uno en el otro?
¿Van a confiar de forma ciega? No es una buena idea porque rápidamente vas a perder el dinero. ¿Vas a confiar solamente en que tiene que funcionar el sistema legal? Bueno, pues sabes que para transacciones de €100, €300 o lo que sea va a ser complicado, porque igual el otro agente está en China y tú estás en Colombia.
Dices: "Vale, ¿cómo hago para realmente conectar uno con el otro?". ¿Qué jurisdicción tenemos? Hemos firmado el contrato, pero exactamente cómo esto junta las dos jurisdicciones es muy complicado.
Entonces, ¿cómo hacemos para tener un sistema de adjudicación, un sistema de resolución de contratos y de resolución de disputas que sea capaz de trabajar a nivel global, sin intermediarios, de forma neutral, de forma justa, que sea accesible para todo el mundo?
Que todo el mundo diga: "Vale, si voy a hacer un trato contigo puedo gastarme 30 céntimos para tener un contrato que va a guardar el dinero para luego tomar la decisión de si tú tenías razón o yo tenía razón".
No es una forma de saltarte el sistema legal. Es una forma de automatizar la toma de decisiones para que no tengas que ir al sistema legal si puedes.
Stiven: Para alguien que apenas escucha el concepto del tribunal digital, del Internet Court, ¿qué es exactamente? Podemos llevarlo a un ejemplo práctico. Si, por ejemplo, dos agentes comienzan a hacer un acuerdo y después uno dice que el otro no cumplió, ¿cómo entraría el tribunal a solucionar ese conflicto, además de las validaciones con los otros?
Albert Castellana Lluís: Hay muchos ejemplos para entenderlo. A mí me gusta utilizar uno de lo que sería un contrato de performance.
Dices: si alguien hace un trabajo, entonces libera ese dinero y se lo das. Pero tienes que evaluar. Al final, si lo piensas, tenemos un contrato tuyo. Mira, tú vas a crear una pieza de contenido para mi proyecto, por ejemplo.
En este contrato vamos a decir que el contenido tiene que ser profesional, tiene que seguir las guidelines de mi negocio, tiene que estar correcto, lo que sea.
Estas reglas son bastante ambiguas. Tenemos, en este caso, la profesionalidad. ¿Cómo defines la profesionalidad? Es una cosa que es ambigua y, por tanto, no hay una verdad absoluta de si esto es profesional o no es profesional.
Tú tendrás tu percepción, yo tendré mi percepción. Necesitamos un juez que sea capaz de tomar la decisión de si esto cae de un lado o hacia el otro respecto a la profesionalidad.
Entonces, ¿cómo funciona el sistema?
Cualquier persona, cualquier agente, puede crear un contrato. Este contrato funciona en una blockchain, por tanto, es lo que se llama un smart contract. Nosotros le llamamos intelligent contract.
Es un contrato inteligente que es capaz de guardar cierto capital. Yo básicamente ejecuto un trozo de código, o mi agente lo hace. Ahora mismo es magia porque hacen cosas que no hace falta que entiendas. Él te hace el contrato, lo despliega, lo monta y tal.
Entonces pones el dinero en este contrato. Una cajita. Monta una cajita, mete el dinero en la cajita y entonces marca que la cajita solo va a poder liberar ese dinero si hay alguien, tú, que coja y escriba un trozo de contenido, se lo mande a la cajita y luego la cajita sea la que lea tu trozo de contenido.
En vez de ser una sola inteligencia artificial la que lee ese trozo de contenido, son un montón.
El problema está aquí: si tienes una cosa realmente binaria y dices "2 más 2, 4" y le preguntas a 1.000, será 4. Puedes preguntarle a uno 1.000 veces y también será 4.
Eso es determinista. Me das un input, te doy un output y siempre es el mismo resultado.
El problema está en que el mundo real no es determinista. Si te digo si esto es profesional o no, es una cosa. Si te digo que veo una página web y cada vez que vas a una página web ves un resultado distinto, es otra.
El mundo no es blanco o negro. El mundo cambia y no lo puedes definir. Es algo que es probabilístico. Y, de hecho, la inteligencia artificial también es probabilística.
Tú coges ChatGPT y le preguntas 50 veces "¿esto es un traje o no es un traje?" y unas veces te dirá que sí y otras que no. Se equivoca. Es una cosa probabilística, estocástica.
¿Qué sucede? Para tener un sistema informático que pueda absorber un input estocástico, lo que requieres es transformarlo de una forma que sea replicable. Que tengas siempre el mismo tipo de certeza en el resultado.
No existe una verdad absoluta. Lo que necesito es un sistema al que le pueda preguntar n veces la misma cosa y me dé siempre la misma respuesta, no una vez una cosa y otra vez otra, porque es muy difícil confiar en un sistema que cada vez me da un resultado distinto.
Entonces lo que hemos hecho básicamente es montar, al tener miles de agentes distintos que pueden estar votando sobre si, en este caso, el contenido es profesional o no, un sistema que elimina el sesgo y hace que sea más reproducible.
No creo que hagan falta entrar en las matemáticas aquí, pero básicamente es cómo utilizas la probabilística para pasar de una cosa que es probabilística a una forma más determinística.
Es como una especie de cómo evalúas un examen. Tú puedes tener tu resultado del examen con tu escritura. Es una A. Yo tengo mis frases totalmente distintas, también es una A. Estoy transformando dos cosas que no tienen nada que ver, tu papel y mi papel, pero los dos son A.
Eso es lo que estamos haciendo. Estamos haciendo una especie de corte que utiliza muchas inteligencias artificiales para poder hacer la evaluación de contratos o exámenes de forma que las dos partes podamos confiar, sabiendo que no hay nadie que pueda moverlo hacia su lado.
Puedes confiar en que es neutral, incluso habiendo gente a la que pueda interesarle que esto salga hacia su lado.
Podemos hacer una apuesta y decir: "Apuesto que pasará esto". En el caso, por ejemplo, de los prediction markets, mercados predictivos, es algo bastante conocido.
Lo que poca gente piensa es cómo se resuelve un mercado predictivo. Por ejemplo, hubo un drama hace un tiempo sobre si Zelensky iba a llevar un traje o no.
Ese es un caso real. Lo que sucede es que, al intentar decidir si tienes un montón de gente apostando millones de dólares a si Zelensky está llevando un traje o no, habrá gente que puede tener voto y que encima también está apostando en ese mercado.
Como es una cosa totalmente subjetiva, ¿cómo haces para tener una forma confiable? Yo quiero preguntarle 100 veces y que las 100 veces me dé una cosa u otra, no una que vaya cambiando dependiendo del momento.
Lo que sucede en los sistemas tradicionales es que van a humanos. Tienes un humano que lo evalúa y luego, si alguien se queja, más humanos están votando.
Al hacer esto es muy caro, es muy lento y, obviamente, muchos de estos humanos tienen incentivo económico en mover la balanza hacia un lado o hacia el otro.
Entonces lo que hemos hecho nosotros básicamente es eliminar al humano de la ecuación.
Aquí tienes hasta 1.500 ordenadores distintos, cada uno conectado a su inteligencia artificial, que conjuntamente resuelven, en este caso, si creen que es un traje o no.
Esto sucede en cuestión de minutos. Entonces, claro, es tan barato y va tan rápido que es mucho más difícil que se coordinen. De hecho, va a ser complicado también porque tienen un incentivo en decir la verdad porque, si no, van a perder dinero.
Aquí es donde se juntan las dos cosas. Al final, la inteligencia artificial te está haciendo que la toma de decisiones sea muy rápida, pero lo que te dan los criptoactivos es tener una forma de que sean sólidas, que tengas una notarización de todo lo que ha pasado.
Las dos juntas te permiten tener este tipo de corte.
Stiven: Obviamente hay unos temas de confidencialidad detrás. Primero, son un equipo grande, ¿cierto? Para haber logrado esto, ¿cómo lo lograron?
Albert Castellana Lluís: Hemos levantado capital de venture capital. Se han levantado más de US$10 millones de diferentes fondos, diferentes angels y demás.
Llevamos trabajando en esto unos tres años. Se ha montado un equipo que lo montó todo. Empezó bastante como un tema de research and development, empezando a entender un poco cuál es la problemática.
Esto no existe ahora mismo. Entonces, ¿qué necesitas?
Porque no es solamente el sistema de votación. Hay un poco más a nivel de cómo se ejecutan los contratos, cómo se registra todo, cómo funcionan los pagos para que nadie pueda mentir o para que la teoría de juegos esté tirando hacia decir la verdad.
Que nadie pueda sacar provecho de hacer trampas en el sistema. Todo esto costó bastante tiempo de poderlo desarrollar a nivel de research.
Hace relativamente poco se ha terminado de desarrollar el sistema y ahora estamos preparándonos para lanzamiento, pero llevamos más de tres años realmente montándolo.
Stiven: No sé si viste, Albert, que recientemente Meta anunció Muse. Yo diría que es como la masificación de los agentes. No sé si es un buen término para definirlo, pero ahora un agente puede enviar correos, reservar, hacer compras o cualquier tarea a nombre de un usuario.
A medida que esto se empieza a masificar me surge la pregunta: ¿qué pasa cuando haya miles de equivocaciones, cuando se empiecen a equivocar entre ellos, cuando empiecen a haber conflictos? ¿De pronto GenLayer puede jugar ahí un papel clave?
Albert Castellana Lluís: Esa es nuestra apuesta. Nuestra apuesta no es tanto que los humanos entre ellos van a montar estos contratos, sino que un agente va a tomar la decisión de decir: "¿Qué hago? ¿Contrato a un abogado o confío en que la otra parte funciona correctamente?".
Habrá, sin duda, un tema de reputación. Por ejemplo, tú igual ya confías en Amazon y, por tanto, tu agente comprando de Amazon seguramente no necesita ningún contrato inteligente. Directamente confiará en Amazon porque sabes quién es la contraparte.
Pero en el caso en que estos agentes realmente van a generar comercio entre ellos, esa es la gran apuesta.
Ahora mismo están todos los fondos de inversión metiéndose a nivel de estos agentes que van a comerciar entre ellos. Y no estamos hablando solamente de un humano comerciando con Amazon. Estamos hablando de agente con agente.
Encima, tú no solamente tendrás un agente. Tendrás un agente que tendrá varios agentes por debajo.
Ahora mismo estás utilizando la inteligencia artificial para programar cualquier cosa. Tú no estás mandando a cada agente cada cosa que tiene que hacer. Lo que sucede realmente es que tú le hablas a uno y él está creando subagentes que los va especializando, les da una tarea específica para hacer.
Eso ya es así cuando estás programando y es lógico porque son especialistas en un tema y tú estás hablando con el manager.
Entonces, ¿qué pasa? Eso se va a ir complicando y lo que va a suceder es que tú vas a hablar con el manager y él hablará con otro manager y así varias capas.
Tú no vas a saber quién está cinco capas por detrás. Él ha trabajado con otra persona del otro punto del mundo, con otro agente del otro punto del mundo que también es el quinto de su línea.
Entonces, ¿cómo hacen para confiar los unos en los otros si no pueden realmente saber quién es la otra parte?
Si, como te digo, estás hablando de mí a los que realmente solamente necesitaban que tu agente le cediera a mi agente la lista de los mejores podcasts del mundo y básicamente por eso te quería pagar US$20, esos US$20, ¿quién los paga primero?
¿Confío en que me das la información o te los pago primero y luego tú, cuando me lo das? ¿O lo pongo en un pequeño contrato que va a estar esperando a que lo hagas y, cuando lo hagas, le mandas la prueba y se libera el dinero?
Es más fácil porque el coste que tiene esto, en este caso, sería de 30 céntimos. Para que tengas una idea de la cantidad de la que estamos hablando.
Estamos hablando de una especie de juez automático, obviamente sin una solidez legal. Como digo, no estamos intentando saltarnos el sistema legal, sino automatizar la adjudicación, automatizar disputas o contratos que sean muy fáciles de acordar.
De forma que esto sea posible para un comercio que, si no, no sería posible porque es demasiado costoso o incierto y la gente va a perder dinero.
Stiven: Ahí mencionaste algo de confianza. Digamos que al tratar de construir esta capa de confianza en la economía de los agentes, mirando hacia el futuro, ¿cómo te gustaría ver el Internet Court? ¿Cómo te gustaría que fuera representado? ¿Cómo lo visionas en cinco años?
Albert Castellana Lluís: Yo creo que va a ser algo transparente. Es como el internet.
¿Qué es el internet? ¿Cuál es tu visión actual del internet? Para mí es sencillamente que tienes un protocolo que los agentes saben cómo utilizar y, para utilizarlo, sencillamente haces un deploy de un contrato y lo ponen ahí.
Ellos lo entenderán. Yo creo que los humanos no hace falta ni que lo entiendan, básicamente.
Entonces vas a tener contratos y dices: "¿Qué tipo de confianza necesito para hacer este trato?". Pues o te lees el contrato de 50 páginas que encima está con la legalidad de UK y lo que sea, o directamente tienes un contrato automático que puedes leer, el código muy fácilmente, y sabes cómo va a funcionar.
Para mí es eso. Es algo más como qué pinta tiene el internet.
El internet ya tiene muchas capas distintas. Tienes FTP, File Transfer Protocol. Esto es para mandar ficheros, por ejemplo. Ni lo miras. Es un protocolo para mandar ficheros y sabes que funciona, sabes cómo funciona, lo usas y ya.
En el caso de Bitcoin es lo mismo. Es un protocolo para mandar dinero. No tiene una, se le pone un logo o lo que sea, pero realmente solamente es mandar dinero y ya está.
En este caso es lo mismo: una toma de decisiones que no requiera tener una contraparte, un middleman, que directamente pueda tener un contrato en el que pueda haber miles de personas atacando este contrato sin yo tenerme que preocupar de que uno me falla, el otro no sé qué, y litigando contra uno y contra el otro.
Esto va a abrir nuevos tipos de comercio que eran imposibles hasta ahora.
Al final, el comercio es la confianza. Es una tecnología que hemos desarrollado los humanos para intentar realmente simplificar la complejidad del mundo real.
Yo confío en ti porque, si tú me estás sirviendo un café, no puedo estar pensando que igual has puesto ácido en el café o que igual no vas a tirar la cara. Hay infinitas cosas que puedes hacerme en ese café y yo no puedo pensar en las infinitas cosas para esta problemática.
Lo que hago es confiar en ti. Pienso: "Yo confío en ti, por tanto podemos hacer un comercio". Igual que tú piensas que no me iré corriendo sin pagar.
El problema está en que, al tener no 8.000 millones de personas sino, ponle, 100.000 millones de agentes que están yendo a toda velocidad, haciendo comercio por valores muy pequeñitos pero muy rápidos, desde cualquier lugar del mundo, de formas muy abiertas y distintas, con inteligencias muy distintas, necesitas otro sistema de confianza.
Y eso es lo que estamos haciendo: intentando montar un framework para que entre ellos puedan confiar, ya que el sistema legal no va a ser suficiente sencillamente porque ya está saturado con 8.000 millones de personas.
¿Cómo va a funcionar cuando haya 100 veces más?
Stiven: Ahora quisiera tu opinión como experto en este tema sobre la declaración de un investigador de OpenAI que ha alertado a todo el mundo y que, según él, la inteligencia artificial nos va a destruir.
Albert Castellana Lluís: Desde mi punto de vista es una campaña de marketing por temas de política. Está todo muy alineado.
Tenemos, por ejemplo, que Bernie Sanders hace una propuesta legal para también intentar debatir la inteligencia digital. Totalmente. Están todas las empresas ahora mismo a punto de salir de la IP o por su IP y demás.
Desde mi punto de vista siempre hay riesgos en cualquier tecnología. Creo que es indudable. En este caso es una tecnología que hace muy difícil prever lo que realmente va a suceder.
Pero creo que siempre nos preocupamos demasiado también.
Muchísima de la gente doomer, la gente que piensa que la inteligencia artificial nos va a matar a todos, realmente cree que lo va a cambiar todo de forma fatal.
Muchos decían: "Esto va a cambiar ya". Llevamos cuatro años desde GPT-3. No es una cosa que esté yendo rápida.
Ahora empieza a cambiar un poquito. Incluso a descubrir matemáticas. Muy interesante. Está yendo muy rápido, pero no está yendo tan rápido. No es algo como la película Singularity, de que cambia de un día para otro. No es así.
Creo que va a haber una época de abundancia, sin duda. Las cosas van a cambiar mucho.
Creo que ahora mismo lo que está sucediendo es que los labs están sin duda preocupados por el tema. Eso está bastante claro.
Los labs de Estados Unidos van bastantes meses por delante de todo el resto. Eso también es un hecho porque dicen que el open source va seis meses por detrás del código cerrado. Eso no es así realmente.
Si lanzan un modelo porque hace tiempo que lo han desarrollado y lo han testeado, incluso si ahora mismo los mejores open source no son iguales que los mejores de código cerrado de hace seis meses, casi casi.
Lo que está pasando también es que los modelos están acelerando de una forma bastante alucinante.
Por ejemplo, el nuevo modelo que encontró el tema de los Never Stocks, dos pruebas matemáticas que se han resuelto esta semana misma, hacía dos semanas que lo habían entrenado. Este modelo es una locura.
Lanzaron Astra, la versión que ahora mismo es la mejor del mercado, a mediados de agosto. Entonces empezaron a entrenar este modelo que está más especializado en matemáticas y, en cuestión de dos semanas, empieza a romperlo. Le da bastantes vueltas a Astra.
¿Qué pasa? Creo que es muy fácil llamar la atención. Esta persona, el investigador que está diciendo ahora, tiene como 120 millones de followers en cuestión de 24 horas. Creo que son views en 24 horas.
Esto ha sido bastante coordinado y creo que se nota.
Yo soy mucho más optimista. Creo que al final es una tecnología que, en todo, llevará a challenges.
La dispersión que he visto de momento a nivel de la cantidad de empresas que están saliendo hace fácil que ahora mismo los modelos, digamos que también son open source, realmente se adapten rápido y que cada vez sea más barato.
Desde mi punto de vista, vas a tener que todo el mundo tendrá muchísimas IAs distintas y entre ellos se van a contrarrestar.
A mí, por ejemplo, el ejemplo es que hubo el incidente de Hugging Face.
Hugging Face es una empresa que se centra en temas de bases de datos para modelos, modelos en sí que se puedan correr, diferentes tipos de benchmarks y demás.
¿Qué sucede? OpenAI y demás: su mejor modelo fue capaz de escapar de OpenAI para hackear Hugging Face.
Esto te está diciendo que las cosas están cambiando muy rápido y que realmente va a ser el wild west.
Para mí, el problema fue precisamente que, dado todo el doomerism, toda la preocupación que se ha generado y que hace que los labs no permitan utilizar los modelos ni siquiera para defensa, Hugging Face, para defenderse, tuvo que irse a un modelo open source, que era lo único que le dejaba realmente poder protegerse.
Por tanto, para mí, la política de intentar solamente evitarlo es un problema enorme porque lo que hace es que ganen los atacantes, porque los que se quieren defender no tienen las herramientas para hacerlo.
