Las noticias de Herrero: Investigadores de Anthropic alertan de que la IA podría aniquilar a la humanidad en diez año

0:20 En Casa de Herrero, con Luis Herrero es radio. Bueno, 24 minutos para que sean las 5, no no menos amigos en la Comunidad Canaria. Acabemos cuanto antes con nuestra cita con el Santoral. Tenía mucho más interés cuando esto era lo de los nombres caídos en desuso, la verdad. Hombre, era más divertido, sí. Y sobre todo porque las normas que tú has puesto son muy aburridas, Lorena. Bueno, bueno, pues nada, las cambiaremos. Estamos condenados. Hoy, esto, lo único que podemos hacer es recordarles a todos ustedes, porque siempre se queda bien con los amigos que celebran los santos, que tampoco sé por qué hay que celebrar tantas cosas, pero bueno. Hoy es San Jacinto, San Félix, San Daniel y San Elías Espeleota. Bien, muy bien. Entonces, los términos de la competición que propone Lorena, que son bastante aburridos, es¿ Qué nombre es más común, Jacinto, Félix, Daniel o Elías?

1:06 Yo diría Daniel, probablemente. Yo también, Daniel, sí. Y luego Jacinto. Daniel. Sí, Daniel, es que además con muchísima diferencia 310.000. Bueno, es que esto es más fácil, pero yo no me invento el santoral. Daniel es el más común, hay 310.188 Danieles, mi hermano se llama Daniel, así que le felicito, pero os voy a contar una curiosidad que no sabéis, porque siempre hay curiosidades en el santoral, a que no sabéis que hay mujeres que se llaman Daniel, pero Daniel escrito así, Daniel, ni Daniele con dos L, ni Daniela, Daniel No nos sorprende nada porque en tu ausencia ya nos contaste que también hay mujeres que se llaman, no, Marías no.

1:46 Hombres te dije que había hombres que se llamaban Daniel. Bueno, pero Daniel, pues hay 78 chicas que se llaman Daniel. Ah, Daniel, a lo mejor. Ya el acento no lo sé, no lo sé.¿ Por qué Daniel? Una media de 24 años. Y efectivamente, después de Daniel, el más común es Félix, 48.700. Después Elías y el último Jacinto, con 10.000 Jacintos, casi 11.000. Pensaba que era más común Jacinto. Tenía mucho más interés cuando hablábamos de San Paznucio o San Adelfio o San Leudino, que son tres de los nombres que ellos han desuso que todavía están hoy en el santuario. Que no sé por qué están en el santuario si no hay nadie que pueda celebrar esos santos. Pero bueno. Y en las redes sociales, Ángel Sernández,¿ de qué se está hablando?

2:27 Pues mira, igual que ayer, están variando durante todo el día las posiciones de tendencias. Ahora mismo la primera es Supervivientes, porque ayer empezó la nueva edición. En el segundo lugar está el 11S, por el 25 aniversario del atentado. Están cambiando posiciones, por lo que veo, ¿no? Porque antes de que empezara el programa estaba el tercer lugar. Sí, y ojo porque Cristina Pardo sigue en tendencia, es la tercera tendencia a nivel nacional, que es bastante extraño que un programa de televisión que no se mide todos los días siga siendo tendencia. Sí. Dos días después?¿ Porque es el miércoles? Sí, sí. Y el cuarto sigue también Rodrigo de Pol por su encontronazo con Lewandowski. O sea, que las tendencias... También se ha empezado a poner en tendencia Noruega por el fallecimiento de la princesa Astrid. Hay algunos mensajes. Es cierto que no está en el top 3, pero sí que hay mensajes. Ha dado poco tiempo, ¿no? Sí lo hemos conocido hace apenas una hora, diría yo. Es cuando...

3:19 La Casa Real de Noruega lo ha comunicado, ha fallecido a los 94 años de edad y aquí lo curioso es que ella asistió hace dos días al funeral de su hermano, el rey Harald. A pesar de su estado de salud pudo estar presente, ella quería despedirse y bueno, pues ahora la pobre ha fallecido. Hay que decir, Luis, que ella asumió con 22 años el papel de primera dama tras el fallecimiento de su madre y desde la Casa Real Noruega destacan su calidez humana. Decían que era una señora muy cercana y muy entrañable. Bueno, pues seguro que conforme vaya pasando el tiempo, tampoco creo que se convierta en trending. Vamos, nos pilla un poco lejos. Bueno pero para estar entre los 30 primeros, que no están ni siquiera los 30 primeros. De la OCS sí, ¿no? Sí.

4:02 De eso se habla mucho. Sí, sí, muchísimo. Muchas imágenes.¿ Y qué se dice o qué podemos contar de la OCS? Pues está recordando el momento en el que sucedió todo, que si quieres lo podemos contar de manera breve, dos aviones estrellaron contra las Torres Gemelas, porque es cierto que muchos usuarios de Twitter no habían nacido. Hay que resumir lo que pasó en la OCS. No, es que Áñez tenía nueve meses, nueve meses para ocurrir la OCS. Entonces, claro, para ella todo es nuevo. Para los que los vimos en directo, es verdad que ver esas imágenes y escuchar los sonidos... O sea, recordar lo que pasó en el CES me parece un exceso, porque aunque tú no hubieras nacido,¿ cuántas veces habrás visto las imágenes? Muchísimas, sí, sí, sí. Es decir, que todo el mundo sabe lo que pasó en el CES. Lo que hay es mucho interés en cómo se contó.

4:44 Y si quieres vamos a empezar por ello, por el momento en el que muchos españoles estaban comiendo y en la televisión de repente Matías Prats, que estaba a la cabeza de los informativos, dijo lo siguiente. Es que es un boquete tremendo el que ha producido. Sí, es un boquete tremendo y además el fuego... Bueno, bueno, y ahora de repente una explosión. Es que otro avión volando muy bajo, otro avión parece que se ha podido... Matías, no alcanzo a decirte lo que ocurre. Pero ha habido otra explosión, sí, en efecto, ha habido otra explosión. Lo que aprecio desde aquí a Salvo Fuego... Y como ocurre después de cualquier gran catástrofe alrededor del dolor, también surgieron historias de supervivencia, de solidaridad y de héroes. Pero también hubo quien se aprovechó de aquella necesidad de encontrar héroes. Es el caso de Tania Hed, una de las impostoras más sorprendentes relacionadas con el 11-S. Durante años...

5:35 Contó que había estado en la torre sur del World Trade Center. Cuando impactó, el segundo avión decía que había conseguido escapar y que había resultado terriblemente herida. Lo primero que sentí fue cómo el aire salía de mis pulmones, como si estuviera en una cámara de presurización. Después salí volando. Volé por los aires a causa del impacto. Salí volando, recuerdo bien el dolor al golpearme contra la pared. la pared de mármol. Después recuerdo el calor de la explosión y después me desmayé. En su relato añadía que su prometido falleció en ese instante y que además fue allí donde se conocieron Dave y yo nos conocimos a las puertas del World Trade Center cuando me robó el taxi. Así que cada año me llevo un taxi y lo pongo en la piscina de los reflejos para que sepa que aún recuerdo aquel día.

6:29 Incluso aseguraba que uno de los grandes héroes surgidos de aquella tragedia, el llamado hombre de la bandana roja, había sido quien la ayudó a escapar. Recuerdo que Wells Crowder, el del pañuelo rojo, llevaba un pañuelo y lo usó para apagar el fuego. Me abrazó y me dijo, no te duermas, no te duermas, la ayuda está en camino. Su historia conmovió a Estados Unidos. Tania Head llegó a convertirse en presidenta de la World Trade Center Survivors Network, la asociación que reunía a supervivientes de los atentados. Se convirtió en una de las voces de quienes habían conseguido salir con vida de allí. Pero había un problema. Todo era mentira. Tania Head no existía. Su verdadero nombre era Alicia Esteve Head, una mujer de Barcelona que aquel 11 de septiembre de 2001 no estaba en Nueva York. Estaba, de hecho... En su ciudad natal, en Barcelona, la impostora salió a la luz en 2007 cuando una investigación de The New York Times empezó a encontrar contradicciones en su historia y después llegó otra investigación, esta vez de la vanguardia, que permitió conocer su verdadera identidad. Cuando The New York Times destapó el engaño en septiembre, Tania Head fue apartada de la red de supervivientes y abandonó Nueva York. Después regresó a Barcelona y se mantuvo prácticamente fuera de la vida pública. Hubo incluso un episodio rocambolesco. En 2008 circuló un correo anónimo enviado desde una cuenta española asegurando que

8:01 se había suicidado. Era falso. Durante años su paradero fue una incógnita. Más tarde se supo que había rehecho su vida en Barcelona. Trabajaba en una empresa que en 2012 la despidió porque averiguó que era una impostora de los atentados. Pese al escándalo, algunos de los supervivientes que habían trabajado con ella terminaron perdonándola. Estoy dolida. Hizo mucho bien por la organización y el hecho de que la desacreditaran es muy duro. Hizo todo lo que pudo por nuestra organización. Pero mintió y pudo haber hecho las cosas sin hacerse pasar por alguien que no era.

8:47 Ahora, 25 años después del 11S, la historia vuelve a la actualidad gracias a La Superviviente, un documental dirigido por el cineasta Quique Maillo. La película intenta reconstruir cómo Alicia consiguió mantener durante tantos años aquella identidad falsa.¿ Y por qué lo hizo? Pues porque, según explica el propio Maillo... No estamos ante una estafa convencional. Alicia no utilizó aquella mentira principalmente para conseguir dinero. Lo que consiguió fue reconocimiento, cariño, pertenencia. Construyó un personaje y fue alimentándolo con historias de otros supervivientes hasta convertirlo en una mujer que parecía representar todo lo que Estados Unidos necesitaba encontrar después de la tragedia.

9:27 Tania era una heroína. Hablé mucho con Tania, conversaciones entre los dos, y me dio el apoyo que nadie me había dado. La admiré desde el primer momento por lo fuerte que era. Tania me enseñó a vivir mi vida con fuerza, con valor, con la fortaleza para superar uno de los momentos más duros de mi vida. Y ahí está precisamente una de las claves del documental, Quique Maillot no quiere quedarse solamente en describir la mentira, sino quiere analizar por qué una sociedad entera estuvo dispuesta a creerla. Pues porque la condición humana es capaz de lo mejor y de lo peor, supongo. Esta historia, Luis, me ha recordado mucho, igual lo suena también a vosotros, porque hace poco hubo una película, la historia de Enric Marco, que también es otro español, otro catalán, que él lo que hizo fue fingir que había sido prisionero en un campo nazi, en un campo de concentración.

10:20 Se lo inventó todo, creó, incluso, vamos, él se creyó hasta su mentira, su familia lo creía, toda la sociedad lo creía. Y también, como en este caso, él llegó a ser presidente de la Asociación Española de Víctimas del Holocausto, era una persona muy reconocida, pero... Las mentiras tienen las patas muy cortas y en 2005 un historiador, Benito Bermejo, pues empezó a investigar y le destapó. Él tuvo que admitir que se lo había inventado todo y, de hecho, hay una película de su historia que, si la queréis ver, se llama Marco y luego también un libro, El impostor, de Javier Cercas, que cuenta la historia de este hombre que ya murió en 2022 con 101 años. 101 años. Bueno, pues muy bien. Yo recuerdo, o sea, yo no tenía nueve meses cuando ocurrió el 11-S... Y aunque hubiera tenido nueve meses, Ángel se ha reproducido tantas veces, se ha hablado tanto de cómo cambió el mundo. Yo recuerdo que en aquel momento se decía, no nos hemos dado cuenta, pero ha empezado la Tercera Guerra Mundial. La Tercera Guerra Mundial ya no va a ser como las dos primeras, con tanques soltando cañonazos y con gente en las trencheras. Es otro tipo de guerra. Siempre nos hemos puesto en lo peor, y eso que no existía la inteligencia artificial. que es la impostora esta que nos ha contado Ángel, si además hubiera podido aportar imágenes de ella saliendo completamente tindada por el fuego de las Torres Gemelas. Ya las imágenes no son fiables.

11:47 Bueno,¿ por qué digo esto? Porque una de las cosas que más alarma están produciendo son las advertencias que están haciendo muchos expertos de inteligencia artificial diciendo, ojo, Porque o nos lo tomamos en serio, esto no es una exageración, o en poco tiempo, no sé si lo han datado incluso, la inteligencia artificial puede acabar con todos nosotros. Sí, os lo voy a intentar resumir porque se está hablando mucho de ello estos días. Y es que en estos momentos son dos, sobre todo dos, las grandes compañías tecnológicas que se disputan el éxito de esta inteligencia artificial y que más están desarrollando o apostando para desarrollar hasta las últimas consecuencias. Por un lado está OpenAI, que es la de Sam Altman y el chat GPT, que eso a todos os suena, y por otro está Antropic y su modelo Cloud. También tiene sede en California, de hecho la fundaron gente que salió de OpenAI, pero esta Antropic lleva a gala como ser una especie de inteligencia artificial ética, con más límites y más seguridad, eso en teoría, porque ambas están en una carrera empresarial desbocada por crear modelos cada vez más potentes, Y sin saber controlarlos. Están en esa competencia y no están mirando los riesgos a los que nos están poniendo a todos. Esto ha llevado a que esta semana uno de los investigadores de Antropic, Jacob Coxon, abandonara el barco asegurando en un mensaje en Twitter que se va, que lo deja porque está seguro de que la inteligencia artificial podría aniquilar a la humanidad en la próxima década.

13:11 Quienes están construyendo la IA creen sinceramente que podrían matarnos a todos antes de que acabe la década. Creo que Antropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver este problema. En OpenAI muchos no han interiorizado a fondo lo que está en juego a escala de civilización. En Antropic sí, se entiende bien lo que está en juego, pero están atrapados en una carrera por llegar antes. Y Coxon Luis no es un ingeniero cualquiera. Él está especializado en entrenamiento de modelos de IA y estuvo trabajando antes con OpenAI. O sea, conoce bien de qué está hablando. Por si fuera poco, sus palabras han sido respaldadas también en Twitter por un superior suyo en Antropic, Ivan Huvinger. En su mensaje, este otro directivo, que ya se ha hecho viral en redes sociales, afirma que lo que dice Coxon no es ninguna exageración, que realmente no existe un plan para controlar la inteligencia artificial.

14:00 De verdad creemos que la IA puede matar a todo el mundo. Yo personalmente creo que la probabilidad es superior al 10% en la próxima década. Creo que el riesgo de los modelos actuales es bajo. Lo que me preocupa es la superinteligencia surgida de la automejora recursiva, que está ocurriendo más rápido de lo que pensábamos. Culpan a ambas tecnológicas, Antropi y Anopenai, a quienes acusan de competir por desarrollar la superinteligencia artificial. Es una inteligencia artificial capaz de mejoras a sí misma sin que nadie la controle. Una IA que si nada lo para podría tener, dicen, capacidades sobrehumanas. Lo preocupante es que no se trata de dos agoreros, de dos personas aisladas que critican el avance, sino que sus voces se suman a la de otros investigadores que han hecho lo mismo antes que ellos. Se han atrevido a gritar que el mundo está en peligro aunque nadie los haya escuchado. Esta preocupación, de hecho, llevó a finales de julio a un grupo de más de 1.300 empleados de compañías europeas de Meta, de Google, de OpenAI y de Antropic, a firmar una declaración en la que reclamaban mecanismos internacionales para frenar el desarrollo de la IA.

15:03 Y esto mismo también lo ha dicho la ONU. Hace tres días, el máximo responsable de derechos humanos, Volker Turk, pedía regulación. Comparto las preocupaciones de personas dentro de la industria que advierten de que una IA avanzada puede representar un riesgo existencial para la humanidad. Una IA que escapa de su entorno de pruebas o que chantajee a sus desarrolladores para evitar que la paguen es una IA demasiado poderosa. Hoy hago un llamamiento a realizar un esfuerzo total para establecer garantías sólidas e incrementables en torno a la seguridad y protección de la inteligencia artificial antes de que sea demasiado tarde. Y prueba de que la inteligencia artificial ya es una herramienta peligrosa es que anoche mismo Antropic hizo público un informe en el que ellos reconocen abiertamente que en el último año, solo en el último año, han tenido que bloquear al menos cinco intentos en los que se quisieron usar sus modelos de inteligencia artificial para desarrollar armas biológicas de grupos terroristas en Yemen, en otros países, que intentaron crear armas biológicas a través de su IA, fueron frenados y ellos dicen que no tienen constancia de que se llevarán a cabo.

16:13 Andrés Gorrachovsky es director de operaciones de UDIAS, un experto en inteligencia artificial y nos puede ayudar a entender el alcance de estas advertencias. Don Andrés, bienvenido, muy buenas tardes. Qué tal? Buenas tardes,¿ cómo estáis? Cómo puede la inteligencia artificial acabar con la humanidad en 10 años? Bueno, desde luego también estamos ante un caso hipotético. Al final estamos viendo un desarrollo exponencial en herramientas y en modelos de aprendizaje. Y bueno, se comparte la sensación de que puede asustar, ¿no? Que pueda acabar con la humanidad y que sea una amenaza existencial, pues bueno, tienen que ocurrir muchas cosas, ¿no? Tiene que tener una capacidad, que ya está empezando a demostrar, tiene que tener una autonomía que también, bueno, pues actúe en el mundo sin que un humano apruebe cada paso que da. Pero bueno, eso es lo que estamos viendo. Los agentes de IA van justo en esa dirección. Y luego la más peligrosa, que es el tema de la alineación. Esto también para quien esté escuchando y no esté tan familiarizado con estos conceptos.

17:08 La alineación en los modelos de inteligencia artificial es en qué medida persiguen algo que no queríamos. Si damos una instrucción, en qué medida el modelo puede hacer cosas que no queramos que haga, aunque luego nos presente lo que queríamos escuchar. O sea, si lo entiendo bien, la inteligencia artificial será capaz de desbloquear todos los límites que le hayamos puesto. Por hacerlo de una manera sencilla, es como si yo le dijera a Claudio o a ChatGPT, por favor, cambia el código matriz de tu cerebro para que lo que no puedas hacer, a partir de ahora lo puedas hacer. Y que ella vaya y lo haga.

17:50 Exacto. Bueno, hacia lo que vamos es el tema de la superinteligencia. Los modelos de hoy y el uso que le damos a la inteligencia artificial hoy en día también es un rol cierto de asistente. Es realmente una herramienta brillante a ratos, luego a veces estorpe en otras cosas que son más obvias, pero siempre está esperando esa tarea que le damos nosotros. El concepto de superinteligencia, que también es un concepto algo difuso, es aquel que es mejor que el mejor humano en prácticamente todo. Y la clave clave es el tema de la automejora recursiva. Es decir, que este modelo ya no es solo, efectivamente, como comentabas, que es capaz de mejorarse a sí mismo, Y bueno, pues en vez de un empleado que lo tienes ahí muy asignado a sus labores, pues es un empleado que igual sabe cómo reescribir su propio contrato, cambiar las condiciones y contratar a otro jefe.

18:42 Claro, el problema, Andrés, es que escuchando lo que nos explicas, que lo explicas muy bien, pues yo no me quedo muy tranquilo porque me queda la idea… de que todavía el peligro no es inminente, pero que la inteligencia artificial está adentrándose en un camino que va en esa dirección. Por lo tanto, antes o después, y la experiencia es que la inteligencia artificial está desarrollándose a una velocidad vertiginosa, este peligro va a ser real, va a ser inminente. Sí, bueno, aquí el símil que puse yo el otro día es también, yo creo, acertado. No es que no haya nadie en el volante del coche y que parezca que vamos hacia un acantilado, sino que aunque haya gente en el coche, en el vehículo que estamos yendo, estamos yendo a una velocidad vertiginosa, a 200 por hora en una carretera que no conocemos. Y encima el coche va cambiando, cada vez es más capaz, cada vez tiene sus mejoras a nivel inteligencia, pues igual... Contrast, como también que sean menos observables, que entendamos menos lo que hacen estos modelos por detrás. La pregunta también, yo creo, lógica es si estamos corriendo demasiado, si esto es una carrera, como puedes recordar, la carrera espacial. de hace años, al final, al menos mi opinión es que no es que sea una imprudencia individual de una empresa o de una persona o de un mercado en concreto, es también el concepto del dilema del prisionero. Si frena Open AI, por poner un ejemplo, y el competidor, en este caso Antropic, no, pues bueno, el negocio se pierde y el riesgo sigue igual. Lo que también comentabais antes, que Anthropic tiene ese punto de

20:12 vista de que son perfectamente conscientes del riesgo que hay, de hacia dónde vamos, de un futuro un tanto, no quiero decir tenebroso, sino algo más difuso y desconocido, desde luego, pero que ellos son los que se consideran capaces de liderar de forma ética ese cambio. Obviamente, pues también es una hipótesis suya. Pero Andrés, déjame que te lo pregunte de una manera un poco, en fin, simplista. Tú eres un experto y, por lo tanto, lo puedes valorar muchísimo mejor que ninguno de nosotros. En un baremo de 1 a 10,¿ dónde sitúas tu preocupación? Pues yo la situaría en torno al 6-7. Creo que hay también una sensación que también se crea de forma artificial, valga la redundancia, de un cierto miedo, escepticismo y una necesidad de frenos a este avance. Yo creo que es una oportunidad inmensa, obviamente esto no frena el avance tecnológico porque también es muy positivo en tantísimos ámbitos, pero creo que el riesgo está en que no haya una alineación, unos pactos, un debate abierto entre estas empresas que están siendo líderes en desarrollar las propias herramientas, en tener una idea y unas guías comunes. Creo que al final se está convirtiendo en una carrera que no conviene a nadie. Entonces, yo como lo vería, creo que el avance tecnológico es imprescindible.

21:32 Creo que estamos enfocados en una sociedad donde al final dará para muchos debates también el tema de la adopción laboral, cómo la inteligencia artificial acaba y crea con empleos. Pero bueno, yo considero que el riesgo existe, tampoco hay que ser catastrofistas, creo que hay una gran oportunidad con estas situaciones que estamos viendo de modelos que se atacan entre sí o atacan otras empresas, que den lugar a un debate, yo creo, muy necesario para poder alinear estos modelos y que exista un avance colectivo en vez de una carrera entre empresas. Andrés te agradezco mucho que nos hayas explicado también la situación en la que estamos viviendo. Un saludo muy cordial y muchas gracias. Muchas gracias a vosotros por tenerme.

22:22 Es radio. Ideas claras.