Sept. 11, 2026

Las noticias de Herrero: Investigadores de Anthropic alertan de que la IA podría aniquilar a la humanidad en diez año

Las noticias de Herrero: Investigadores de Anthropic alertan de que la IA podría aniquilar a la humanidad en diez año
Spotify RSS Feed
Spotify podcast player icon Spotify Spotify RSS Feed podcast player icon RSS Feed RSS Feed
Luis Herrero entrevista a Andrés Gorrochategui, director de Operaciones de UDIA y experto en Inteligencia Artificial.
WEBVTT

1
00:00:20.710 --> 00:00:23.789
En Casa de Herrero, con Luis Herrero

2
00:00:24.149 --> 00:00:25.489
es radio. Bueno, 24 minutos para que sean las 5,

3
00:00:25.489 --> 00:00:27.890
no no menos amigos en la Comunidad Canaria. Acabemos cuanto

4
00:00:27.949 --> 00:00:30.329
antes con nuestra cita con el Santoral. Tenía mucho más

5
00:00:30.710 --> 00:00:33.329
interés cuando esto era lo de los nombres caídos en desuso,

6
00:00:33.350 --> 00:00:35.770
la verdad. Hombre, era más divertido, sí. Y sobre todo

7
00:00:35.829 --> 00:00:38.890
porque las normas que tú has puesto son muy aburridas, Lorena. Bueno, bueno,

8
00:00:38.909 --> 00:00:43.149
pues nada, las cambiaremos. Estamos condenados. Hoy, esto, lo único

9
00:00:43.210 --> 00:00:46.039
que podemos hacer es recordarles a todos ustedes, porque siempre

10
00:00:46.079 --> 00:00:48.079
se queda bien con los amigos que celebran los santos,

11
00:00:48.100 --> 00:00:49.939
que tampoco sé por qué hay que celebrar tantas cosas,

12
00:00:50.000 --> 00:00:52.600
pero bueno. Hoy es San Jacinto, San Félix, San Daniel

13
00:00:52.619 --> 00:00:57.840
y San Elías Espeleota. Bien, muy bien. Entonces, los términos

14
00:00:57.939 --> 00:01:00.420
de la competición que propone Lorena, que son bastante aburridos,

15
00:01:01.070 --> 00:01:04.430
es¿ Qué nombre es más común, Jacinto, Félix, Daniel o Elías?

16
00:01:06.359 --> 00:01:08.840
Yo diría Daniel, probablemente.

17
00:01:09.060 --> 00:01:12.170
Yo también, Daniel, sí. Y luego Jacinto.

18
00:01:12.930 --> 00:01:16.010
Daniel. Sí, Daniel, es que además con muchísima

19
00:01:16.170 --> 00:01:16.480
diferencia

20
00:01:16.790 --> 00:01:18.390
310.000. Bueno, es que esto

21
00:01:18.469 --> 00:01:18.829
es

22
00:01:18.870 --> 00:01:23.549
más fácil, pero yo no me invento el santoral. Daniel

23
00:01:23.709 --> 00:01:27.969
es el más común, hay 310.188 Danieles, mi hermano se

24
00:01:28.010 --> 00:01:30.329
llama Daniel, así que le felicito, pero os voy a

25
00:01:30.349 --> 00:01:32.900
contar una curiosidad que no sabéis, porque siempre hay curiosidades

26
00:01:32.939 --> 00:01:35.760
en el santoral, a que no sabéis que hay mujeres

27
00:01:35.780 --> 00:01:39.099
que se llaman Daniel, pero Daniel escrito así, Daniel, ni

28
00:01:39.219 --> 00:01:41.579
Daniele con dos L, ni Daniela, Daniel

29
00:01:41.780 --> 00:01:43.519
No nos sorprende nada porque en tu ausencia ya nos

30
00:01:43.560 --> 00:01:46.750
contaste que también hay mujeres que se llaman, no, Marías no.

31
00:01:46.870 --> 00:01:47.000
Hombres

32
00:01:47.170 --> 00:01:49.209
te dije que había hombres que se llamaban Daniel. Bueno,

33
00:01:49.549 --> 00:01:54.010
pero Daniel, pues hay 78 chicas que se llaman Daniel. Ah, Daniel,

34
00:01:54.209 --> 00:01:57.069
a lo mejor. Ya el acento no lo sé, no

35
00:01:57.109 --> 00:01:59.329
lo sé.¿ Por qué Daniel? Una media de 24 años.

36
00:01:59.349 --> 00:02:05.620
Y efectivamente, después de Daniel, el más común es Félix, 48.700.

37
00:02:05.620 --> 00:02:10.120
Después Elías y el último Jacinto, con 10.000 Jacintos, casi 11.000.

38
00:02:10.120 --> 00:02:11.520
Pensaba que era más común Jacinto.

39
00:02:11.990 --> 00:02:14.909
Tenía mucho más interés cuando hablábamos de San Paznucio o

40
00:02:15.710 --> 00:02:18.560
San Adelfio o San Leudino, que son tres de los

41
00:02:18.590 --> 00:02:20.520
nombres que ellos han desuso que todavía están hoy en

42
00:02:20.560 --> 00:02:21.719
el santuario. Que no sé por qué están en el

43
00:02:21.740 --> 00:02:23.520
santuario si no hay nadie que pueda celebrar esos santos.

44
00:02:23.560 --> 00:02:26.009
Pero bueno. Y en las redes sociales, Ángel Sernández,¿ de

45
00:02:26.030 --> 00:02:26.650
qué se está hablando?

46
00:02:27.009 --> 00:02:29.590
Pues mira, igual que ayer, están variando durante todo el

47
00:02:29.610 --> 00:02:33.370
día las posiciones de tendencias. Ahora mismo la primera es Supervivientes,

48
00:02:33.430 --> 00:02:37.590
porque ayer empezó la nueva edición. En el segundo lugar

49
00:02:37.650 --> 00:02:40.240
está el 11S, por el 25 aniversario del atentado. Están

50
00:02:40.259 --> 00:02:42.479
cambiando posiciones, por lo que veo, ¿no? Porque antes de

51
00:02:42.500 --> 00:02:45.539
que empezara el programa estaba el tercer lugar. Sí,

52
00:02:46.099 --> 00:02:49.280
y ojo porque Cristina Pardo sigue en tendencia, es la

53
00:02:49.360 --> 00:02:52.280
tercera tendencia a nivel nacional, que es bastante extraño que

54
00:02:52.319 --> 00:02:54.379
un programa de televisión que no se mide todos los

55
00:02:54.430 --> 00:02:56.169
días siga siendo tendencia. Sí.

56
00:02:56.319 --> 00:02:58.030
Dos días después?¿ Porque es el miércoles?

57
00:02:58.409 --> 00:03:01.090
Sí, sí. Y el cuarto sigue también Rodrigo de Pol

58
00:03:01.129 --> 00:03:05.060
por su encontronazo con Lewandowski. O sea, que las tendencias...

59
00:03:05.460 --> 00:03:08.360
También se ha empezado a poner en tendencia Noruega por

60
00:03:08.400 --> 00:03:11.599
el fallecimiento de la princesa Astrid. Hay algunos mensajes. Es

61
00:03:11.639 --> 00:03:13.520
cierto que no está en el top 3, pero sí

62
00:03:13.560 --> 00:03:13.639
que

63
00:03:13.659 --> 00:03:15.620
hay mensajes. Ha dado poco tiempo, ¿no? Sí

64
00:03:15.840 --> 00:03:19.150
lo hemos conocido hace apenas una hora, diría yo. Es cuando...

65
00:03:19.710 --> 00:03:22.229
La Casa Real de Noruega lo ha comunicado, ha fallecido

66
00:03:22.270 --> 00:03:24.789
a los 94 años de edad y aquí lo curioso

67
00:03:24.849 --> 00:03:27.289
es que ella asistió hace dos días al funeral de

68
00:03:27.330 --> 00:03:30.289
su hermano, el rey Harald. A pesar de su estado

69
00:03:30.330 --> 00:03:33.500
de salud pudo estar presente, ella quería despedirse y bueno,

70
00:03:33.560 --> 00:03:36.539
pues ahora la pobre ha fallecido. Hay que decir, Luis,

71
00:03:36.580 --> 00:03:39.400
que ella asumió con 22 años el papel de primera

72
00:03:39.479 --> 00:03:42.060
dama tras el fallecimiento de su madre y desde la

73
00:03:42.099 --> 00:03:45.340
Casa Real Noruega destacan su calidez humana. Decían que era

74
00:03:45.400 --> 00:03:48.840
una señora muy cercana y muy entrañable.

75
00:03:49.539 --> 00:03:53.099
Bueno, pues seguro que conforme vaya pasando el tiempo, tampoco

76
00:03:53.199 --> 00:03:55.219
creo que se convierta en trending. Vamos, nos pilla un

77
00:03:55.240 --> 00:03:55.990
poco lejos. Bueno

78
00:03:56.960 --> 00:03:58.979
pero para estar entre los 30 primeros, que no están

79
00:03:59.180 --> 00:04:02.759
ni siquiera los 30 primeros. De la OCS sí, ¿no? Sí.

80
00:04:02.780 --> 00:04:04.419
De eso se habla mucho. Sí, sí, muchísimo.

81
00:04:04.699 --> 00:04:04.979
Muchas

82
00:04:05.039 --> 00:04:07.479
imágenes.¿ Y qué se dice o qué podemos contar de

83
00:04:07.500 --> 00:04:07.919
la OCS?

84
00:04:07.960 --> 00:04:11.919
Pues está recordando el momento en el que sucedió todo,

85
00:04:11.939 --> 00:04:14.419
que si quieres lo podemos contar de manera breve, dos

86
00:04:14.840 --> 00:04:17.300
aviones estrellaron contra las Torres Gemelas, porque es cierto que

87
00:04:17.360 --> 00:04:18.519
muchos usuarios de Twitter no

88
00:04:18.579 --> 00:04:18.879
habían

89
00:04:18.980 --> 00:04:19.500
nacido.

90
00:04:20.279 --> 00:04:21.639
Hay que resumir lo que pasó en la OCS. No,

91
00:04:21.660 --> 00:04:25.620
es que Áñez tenía nueve meses, nueve meses para ocurrir

92
00:04:25.639 --> 00:04:27.829
la OCS. Entonces, claro, para ella todo es nuevo.

93
00:04:28.009 --> 00:04:30.089
Para los que los vimos en directo, es verdad que

94
00:04:30.209 --> 00:04:32.110
ver esas imágenes y escuchar

95
00:04:32.129 --> 00:04:33.430
los sonidos... O sea, recordar lo que pasó en el

96
00:04:33.449 --> 00:04:35.709
CES me parece un exceso, porque aunque tú no hubieras nacido,¿

97
00:04:35.829 --> 00:04:38.829
cuántas veces habrás visto las imágenes? Muchísimas, sí, sí, sí.

98
00:04:38.850 --> 00:04:40.610
Es decir, que todo el mundo sabe lo que pasó

99
00:04:40.670 --> 00:04:40.930
en el CES.

100
00:04:41.699 --> 00:04:44.759
Lo que hay es mucho interés en cómo se contó.

101
00:04:44.899 --> 00:04:47.160
Y si quieres vamos a empezar por ello, por el

102
00:04:47.220 --> 00:04:50.040
momento en el que muchos españoles estaban comiendo y en

103
00:04:50.079 --> 00:04:52.319
la televisión de repente Matías Prats, que estaba a la

104
00:04:52.360 --> 00:04:54.829
cabeza de los informativos, dijo lo siguiente.

105
00:04:55.569 --> 00:04:59.129
Es que es un boquete tremendo el que ha producido. Sí,

106
00:04:59.149 --> 00:05:01.029
es un boquete tremendo y además el fuego... Bueno, bueno,

107
00:05:01.050 --> 00:05:01.990
y ahora de repente

108
00:05:02.029 --> 00:05:02.529
una explosión.

109
00:05:02.550 --> 00:05:05.689
Es que otro avión volando muy bajo, otro avión parece

110
00:05:05.730 --> 00:05:09.389
que se ha podido... Matías, no alcanzo a decirte lo

111
00:05:09.439 --> 00:05:12.759
que ocurre. Pero ha habido otra explosión, sí, en efecto,

112
00:05:13.819 --> 00:05:16.579
ha habido otra explosión. Lo que aprecio desde aquí a

113
00:05:16.610 --> 00:05:16.959
Salvo Fuego...

114
00:05:17.060 --> 00:05:20.589
Y como ocurre después de cualquier gran catástrofe alrededor del dolor,

115
00:05:20.649 --> 00:05:24.410
también surgieron historias de supervivencia, de solidaridad y de héroes.

116
00:05:24.529 --> 00:05:28.050
Pero también hubo quien se aprovechó de aquella necesidad de

117
00:05:28.110 --> 00:05:30.649
encontrar héroes. Es el caso de Tania Hed, una de

118
00:05:30.689 --> 00:05:35.129
las impostoras más sorprendentes relacionadas con el 11-S. Durante años...

119
00:05:35.629 --> 00:05:37.579
Contó que había estado en la torre sur del World

120
00:05:37.600 --> 00:05:41.480
Trade Center. Cuando impactó, el segundo avión decía que había

121
00:05:41.519 --> 00:05:45.060
conseguido escapar y que había resultado terriblemente herida.

122
00:05:46.439 --> 00:05:49.589
Lo primero que sentí fue cómo el aire salía de

123
00:05:49.629 --> 00:05:53.089
mis pulmones, como si estuviera en una cámara de presurización.

124
00:05:54.990 --> 00:05:58.540
Después salí volando. Volé por los aires a causa del impacto.

125
00:05:59.009 --> 00:06:02.040
Salí volando, recuerdo bien el dolor al golpearme contra la pared.

126
00:06:02.439 --> 00:06:05.310
la pared de mármol. Después recuerdo el calor de la

127
00:06:05.370 --> 00:06:08.449
explosión y después me desmayé.

128
00:06:09.069 --> 00:06:12.009
En su relato añadía que su prometido falleció en ese

129
00:06:12.069 --> 00:06:14.870
instante y que además fue allí donde se conocieron

130
00:06:15.310 --> 00:06:17.829
Dave y yo nos conocimos a las puertas del World

131
00:06:17.910 --> 00:06:23.379
Trade Center cuando me robó el taxi. Así que cada

132
00:06:23.439 --> 00:06:25.480
año me llevo un taxi y lo pongo en la

133
00:06:25.540 --> 00:06:28.319
piscina de los reflejos para que sepa que aún recuerdo

134
00:06:28.339 --> 00:06:28.519
aquel día.

135
00:06:29.670 --> 00:06:32.389
Incluso aseguraba que uno de los grandes héroes surgidos de

136
00:06:32.410 --> 00:06:35.649
aquella tragedia, el llamado hombre de la bandana roja, había

137
00:06:35.769 --> 00:06:37.750
sido quien la ayudó a escapar.

138
00:06:38.310 --> 00:06:42.040
Recuerdo que Wells Crowder, el del pañuelo rojo, llevaba un

139
00:06:42.079 --> 00:06:47.959
pañuelo y lo usó para apagar el fuego. Me abrazó

140
00:06:47.980 --> 00:06:52.540
y me dijo, no te duermas, no te duermas, la

141
00:06:53.660 --> 00:06:54.459
ayuda está en camino.

142
00:06:55.160 --> 00:06:57.819
Su historia conmovió a Estados Unidos. Tania Head llegó a

143
00:06:57.899 --> 00:07:01.579
convertirse en presidenta de la World Trade Center Survivors Network,

144
00:07:01.699 --> 00:07:05.110
la asociación que reunía a supervivientes de los atentados. Se

145
00:07:05.189 --> 00:07:08.310
convirtió en una de las voces de quienes habían conseguido

146
00:07:08.550 --> 00:07:11.629
salir con vida de allí. Pero había un problema. Todo

147
00:07:11.790 --> 00:07:15.029
era mentira. Tania Head no existía. Su verdadero nombre era

148
00:07:15.230 --> 00:07:19.060
Alicia Esteve Head, una mujer de Barcelona que aquel 11

149
00:07:19.060 --> 00:07:22.459
de septiembre de 2001 no estaba en Nueva York. Estaba,

150
00:07:22.500 --> 00:07:26.860
de hecho... En su ciudad natal, en Barcelona, la impostora

151
00:07:27.339 --> 00:07:30.579
salió a la luz en 2007 cuando una investigación de

152
00:07:30.610 --> 00:07:34.470
The New York Times empezó a encontrar contradicciones en su

153
00:07:34.509 --> 00:07:37.930
historia y después llegó otra investigación, esta vez de la vanguardia,

154
00:07:37.949 --> 00:07:41.740
que permitió conocer su verdadera identidad. Cuando The New York

155
00:07:41.769 --> 00:07:45.720
Times destapó el engaño en septiembre, Tania Head fue apartada

156
00:07:45.759 --> 00:07:49.839
de la red de supervivientes y abandonó Nueva York. Después

157
00:07:49.860 --> 00:07:52.959
regresó a Barcelona y se mantuvo prácticamente fuera de la

158
00:07:53.019 --> 00:07:57.209
vida pública. Hubo incluso un episodio rocambolesco. En 2008 circuló

159
00:07:57.269 --> 00:08:01.610
un correo anónimo enviado desde una cuenta española asegurando que

160
00:08:01.629 --> 00:08:05.870
se había suicidado. Era falso. Durante años su paradero fue

161
00:08:06.069 --> 00:08:09.040
una incógnita. Más tarde se supo que había rehecho su

162
00:08:09.069 --> 00:08:12.060
vida en Barcelona. Trabajaba en una empresa que en 2012

163
00:08:12.060 --> 00:08:18.060
la despidió porque averiguó que era una impostora de los atentados.

164
00:08:18.300 --> 00:08:21.079
Pese al escándalo, algunos de los supervivientes que habían trabajado

165
00:08:21.170 --> 00:08:23.350
con ella terminaron perdonándola.

166
00:08:24.370 --> 00:08:24.750
Estoy

167
00:08:24.829 --> 00:08:25.990
dolida.

168
00:08:26.089 --> 00:08:29.870
Hizo mucho bien por la organización y el hecho de

169
00:08:29.910 --> 00:08:33.840
que la desacreditaran es muy

170
00:08:35.379 --> 00:08:35.899
duro.

171
00:08:35.940 --> 00:08:38.440
Hizo todo lo que pudo por nuestra organización.

172
00:08:40.350 --> 00:08:42.389
Pero mintió

173
00:08:42.490 --> 00:08:44.950
y pudo haber hecho las cosas sin hacerse pasar por

174
00:08:44.990 --> 00:08:47.169
alguien que no era.

175
00:08:47.250 --> 00:08:50.029
Ahora, 25 años después del 11S, la historia vuelve a

176
00:08:50.049 --> 00:08:53.460
la actualidad gracias a La Superviviente, un documental dirigido por

177
00:08:53.519 --> 00:08:57.919
el cineasta Quique Maillo. La película intenta reconstruir cómo Alicia

178
00:08:58.000 --> 00:09:02.250
consiguió mantener durante tantos años aquella identidad falsa.¿ Y por

179
00:09:02.289 --> 00:09:05.269
qué lo hizo? Pues porque, según explica el propio Maillo...

180
00:09:05.730 --> 00:09:08.769
No estamos ante una estafa convencional. Alicia no utilizó aquella

181
00:09:08.809 --> 00:09:14.730
mentira principalmente para conseguir dinero. Lo que consiguió fue reconocimiento, cariño, pertenencia.

182
00:09:15.169 --> 00:09:18.269
Construyó un personaje y fue alimentándolo con historias de otros

183
00:09:18.350 --> 00:09:22.789
supervivientes hasta convertirlo en una mujer que parecía representar todo

184
00:09:22.860 --> 00:09:27.179
lo que Estados Unidos necesitaba encontrar después de la tragedia.

185
00:09:27.399 --> 00:09:29.000
Tania era una heroína.

186
00:09:29.529 --> 00:09:34.019
Hablé mucho con Tania, conversaciones entre los dos, y me

187
00:09:34.059 --> 00:09:36.340
dio el apoyo que nadie me había dado.

188
00:09:37.440 --> 00:09:40.919
La admiré desde el primer momento por lo fuerte que era.

189
00:09:41.700 --> 00:09:45.340
Tania me enseñó a vivir mi vida con fuerza, con valor,

190
00:09:46.580 --> 00:09:49.710
con la fortaleza para superar uno de los momentos más

191
00:09:49.809 --> 00:09:50.649
duros de mi vida.

192
00:09:52.379 --> 00:09:55.039
Y ahí está precisamente una de las claves del documental,

193
00:09:55.100 --> 00:09:59.110
Quique Maillot no quiere quedarse solamente en describir la mentira,

194
00:09:59.159 --> 00:10:03.110
sino quiere analizar por qué una sociedad entera estuvo dispuesta

195
00:10:03.129 --> 00:10:03.529
a creerla.

196
00:10:04.309 --> 00:10:06.750
Pues porque la condición humana es capaz de lo mejor

197
00:10:06.769 --> 00:10:07.570
y de lo peor, supongo. Esta

198
00:10:07.610 --> 00:10:09.830
historia, Luis, me ha recordado mucho, igual lo suena también

199
00:10:09.870 --> 00:10:12.690
a vosotros, porque hace poco hubo una película, la historia

200
00:10:12.750 --> 00:10:15.389
de Enric Marco, que también es otro español, otro catalán,

201
00:10:15.809 --> 00:10:17.490
que él lo que hizo fue fingir que había sido

202
00:10:17.570 --> 00:10:20.129
prisionero en un campo nazi, en un campo de concentración.

203
00:10:20.549 --> 00:10:23.870
Se lo inventó todo, creó, incluso, vamos, él se creyó

204
00:10:23.909 --> 00:10:26.409
hasta su mentira, su familia lo creía, toda la sociedad

205
00:10:26.450 --> 00:10:28.990
lo creía. Y también, como en este caso, él llegó

206
00:10:29.009 --> 00:10:31.720
a ser presidente de la Asociación Española de Víctimas del Holocausto,

207
00:10:32.120 --> 00:10:35.299
era una persona muy reconocida, pero... Las mentiras tienen las

208
00:10:35.340 --> 00:10:38.799
patas muy cortas y en 2005 un historiador, Benito Bermejo,

209
00:10:39.360 --> 00:10:42.700
pues empezó a investigar y le destapó. Él tuvo que

210
00:10:42.720 --> 00:10:45.259
admitir que se lo había inventado todo y, de hecho,

211
00:10:45.299 --> 00:10:47.220
hay una película de su historia que, si la queréis ver,

212
00:10:47.240 --> 00:10:50.379
se llama Marco y luego también un libro, El impostor,

213
00:10:50.419 --> 00:10:52.679
de Javier Cercas, que cuenta la historia de este hombre

214
00:10:52.700 --> 00:10:54.940
que ya murió en 2022 con 101 años. 101 años. Bueno,

215
00:10:54.960 --> 00:10:55.340
pues

216
00:10:57.600 --> 00:11:00.860
muy bien. Yo recuerdo, o sea, yo no tenía nueve

217
00:11:00.899 --> 00:11:05.850
meses cuando ocurrió el 11-S... Y aunque hubiera tenido nueve meses,

218
00:11:05.870 --> 00:11:10.529
Ángel se ha reproducido tantas veces, se ha hablado tanto

219
00:11:10.730 --> 00:11:14.320
de cómo cambió el mundo. Yo recuerdo que en aquel

220
00:11:14.340 --> 00:11:16.059
momento se decía, no nos hemos dado cuenta, pero ha

221
00:11:16.100 --> 00:11:19.000
empezado la Tercera Guerra Mundial. La Tercera Guerra Mundial ya

222
00:11:19.100 --> 00:11:22.879
no va a ser como las dos primeras, con tanques

223
00:11:23.159 --> 00:11:26.049
soltando cañonazos y con gente en las trencheras. Es otro

224
00:11:26.110 --> 00:11:29.990
tipo de guerra. Siempre nos hemos puesto en lo peor,

225
00:11:30.070 --> 00:11:32.879
y eso que no existía la inteligencia artificial. que es

226
00:11:32.919 --> 00:11:35.559
la impostora esta que nos ha contado Ángel, si además

227
00:11:35.580 --> 00:11:41.779
hubiera podido aportar imágenes de ella saliendo completamente tindada por

228
00:11:41.799 --> 00:11:45.809
el fuego de las Torres Gemelas. Ya las imágenes no

229
00:11:46.669 --> 00:11:47.269
son fiables.

230
00:11:47.929 --> 00:11:50.690
Bueno,¿ por qué digo esto? Porque una de las cosas

231
00:11:50.750 --> 00:11:55.649
que más alarma están produciendo son las advertencias que están

232
00:11:55.690 --> 00:11:59.799
haciendo muchos expertos de inteligencia artificial diciendo, ojo, Porque o

233
00:11:59.860 --> 00:12:02.259
nos lo tomamos en serio, esto no es una exageración,

234
00:12:02.539 --> 00:12:05.220
o en poco tiempo, no sé si lo han datado incluso,

235
00:12:05.240 --> 00:12:08.399
la inteligencia artificial puede acabar con todos nosotros.

236
00:12:08.779 --> 00:12:10.879
Sí, os lo voy a intentar resumir porque se está

237
00:12:10.919 --> 00:12:12.559
hablando mucho de ello estos días. Y es que en

238
00:12:12.600 --> 00:12:16.259
estos momentos son dos, sobre todo dos, las grandes compañías

239
00:12:16.320 --> 00:12:19.840
tecnológicas que se disputan el éxito de esta inteligencia artificial

240
00:12:19.860 --> 00:12:23.090
y que más están desarrollando o apostando para desarrollar hasta

241
00:12:23.139 --> 00:12:25.919
las últimas consecuencias. Por un lado está OpenAI, que es

242
00:12:25.970 --> 00:12:27.809
la de Sam Altman y el chat GPT, que eso

243
00:12:27.850 --> 00:12:30.509
a todos os suena, y por otro está Antropic y

244
00:12:30.570 --> 00:12:33.929
su modelo Cloud. También tiene sede en California, de hecho

245
00:12:33.970 --> 00:12:37.370
la fundaron gente que salió de OpenAI, pero esta Antropic

246
00:12:37.409 --> 00:12:40.870
lleva a gala como ser una especie de inteligencia artificial ética,

247
00:12:41.289 --> 00:12:44.309
con más límites y más seguridad, eso en teoría, porque

248
00:12:44.389 --> 00:12:47.929
ambas están en una carrera empresarial desbocada por crear modelos

249
00:12:48.009 --> 00:12:51.289
cada vez más potentes, Y sin saber controlarlos. Están en

250
00:12:51.340 --> 00:12:54.879
esa competencia y no están mirando los riesgos a los

251
00:12:54.899 --> 00:12:57.159
que nos están poniendo a todos. Esto ha llevado a

252
00:12:57.399 --> 00:13:00.940
que esta semana uno de los investigadores de Antropic, Jacob Coxon,

253
00:13:01.440 --> 00:13:04.000
abandonara el barco asegurando en un mensaje en Twitter que

254
00:13:04.070 --> 00:13:06.690
se va, que lo deja porque está seguro de que

255
00:13:06.730 --> 00:13:09.870
la inteligencia artificial podría aniquilar a la humanidad en la

256
00:13:09.929 --> 00:13:10.669
próxima década.

257
00:13:11.269 --> 00:13:14.269
Quienes están construyendo la IA creen sinceramente que podrían matarnos

258
00:13:14.309 --> 00:13:16.559
a todos antes de que acabe la década. Creo que

259
00:13:16.600 --> 00:13:18.919
Antropic está haciendo lo mejor que puede, pero aún no

260
00:13:19.000 --> 00:13:22.389
tenemos un plan para resolver este problema. En OpenAI muchos

261
00:13:22.570 --> 00:13:24.570
no han interiorizado a fondo lo que está en juego

262
00:13:24.610 --> 00:13:27.929
a escala de civilización. En Antropic sí, se entiende bien

263
00:13:27.990 --> 00:13:29.889
lo que está en juego, pero están atrapados en una

264
00:13:29.929 --> 00:13:30.960
carrera por llegar antes.

265
00:13:32.090 --> 00:13:34.409
Y Coxon Luis no es un ingeniero cualquiera. Él está

266
00:13:34.450 --> 00:13:38.289
especializado en entrenamiento de modelos de IA y estuvo trabajando

267
00:13:38.350 --> 00:13:41.549
antes con OpenAI. O sea, conoce bien de qué está hablando.

268
00:13:42.070 --> 00:13:44.860
Por si fuera poco, sus palabras han sido respaldadas también

269
00:13:44.889 --> 00:13:48.500
en Twitter por un superior suyo en Antropic, Ivan Huvinger.

270
00:13:48.899 --> 00:13:51.320
En su mensaje, este otro directivo, que ya se ha

271
00:13:51.340 --> 00:13:53.620
hecho viral en redes sociales, afirma que lo que dice

272
00:13:53.700 --> 00:13:57.159
Coxon no es ninguna exageración, que realmente no existe un

273
00:13:57.179 --> 00:13:59.299
plan para controlar la inteligencia artificial.

274
00:14:00.259 --> 00:14:02.460
De verdad creemos que la IA puede matar a todo

275
00:14:02.480 --> 00:14:05.830
el mundo. Yo personalmente creo que la probabilidad es superior

276
00:14:05.879 --> 00:14:08.590
al 10% en la próxima década. Creo que el riesgo

277
00:14:08.629 --> 00:14:11.450
de los modelos actuales es bajo. Lo que me preocupa

278
00:14:11.629 --> 00:14:15.669
es la superinteligencia surgida de la automejora recursiva, que está

279
00:14:15.710 --> 00:14:17.679
ocurriendo más rápido de lo que pensábamos.

280
00:14:19.240 --> 00:14:22.639
Culpan a ambas tecnológicas, Antropi y Anopenai, a quienes acusan

281
00:14:22.679 --> 00:14:27.360
de competir por desarrollar la superinteligencia artificial. Es una inteligencia

282
00:14:27.379 --> 00:14:29.620
artificial capaz de mejoras a sí misma sin que nadie

283
00:14:29.679 --> 00:14:32.639
la controle. Una IA que si nada lo para podría tener, dicen,

284
00:14:32.710 --> 00:14:36.309
capacidades sobrehumanas. Lo preocupante es que no se trata de

285
00:14:36.409 --> 00:14:40.750
dos agoreros, de dos personas aisladas que critican el avance,

286
00:14:41.169 --> 00:14:42.710
sino que sus voces se suman a la de otros

287
00:14:42.769 --> 00:14:45.629
investigadores que han hecho lo mismo antes que ellos. Se

288
00:14:45.649 --> 00:14:47.639
han atrevido a gritar que el mundo está en peligro

289
00:14:47.679 --> 00:14:51.179
aunque nadie los haya escuchado. Esta preocupación, de hecho, llevó

290
00:14:51.200 --> 00:14:53.299
a finales de julio a un grupo de más de 1.300

291
00:14:53.299 --> 00:14:57.120
empleados de compañías europeas de Meta, de Google, de OpenAI

292
00:14:57.139 --> 00:14:59.899
y de Antropic, a firmar una declaración en la que

293
00:14:59.990 --> 00:15:03.649
reclamaban mecanismos internacionales para frenar el desarrollo de la IA.

294
00:15:03.669 --> 00:15:06.129
Y esto mismo también lo ha dicho la ONU. Hace

295
00:15:06.190 --> 00:15:10.090
tres días, el máximo responsable de derechos humanos, Volker Turk,

296
00:15:10.269 --> 00:15:11.250
pedía regulación.

297
00:15:12.580 --> 00:15:13.169
Comparto

298
00:15:13.220 --> 00:15:14.159
las preocupaciones de

299
00:15:14.379 --> 00:15:14.840
personas

300
00:15:14.860 --> 00:15:15.620
dentro de la

301
00:15:15.659 --> 00:15:16.840
industria que advierten

302
00:15:17.100 --> 00:15:17.179
de

303
00:15:17.220 --> 00:15:21.259
que una IA avanzada puede representar un riesgo existencial para

304
00:15:21.340 --> 00:15:24.299
la humanidad. Una IA que escapa de su entorno de

305
00:15:24.360 --> 00:15:27.820
pruebas o que chantajee a sus desarrolladores para evitar que

306
00:15:27.879 --> 00:15:30.899
la paguen es una IA demasiado poderosa. Hoy hago un

307
00:15:30.919 --> 00:15:35.129
llamamiento a realizar un esfuerzo total para establecer garantías sólidas

308
00:15:35.149 --> 00:15:36.190
e incrementables

309
00:15:36.610 --> 00:15:36.649
en

310
00:15:36.710 --> 00:15:39.769
torno a la seguridad y protección de la inteligencia artificial

311
00:15:39.970 --> 00:15:41.590
antes de que sea demasiado tarde.

312
00:15:43.580 --> 00:15:46.320
Y prueba de que la inteligencia artificial ya es una

313
00:15:46.340 --> 00:15:50.379
herramienta peligrosa es que anoche mismo Antropic hizo público un

314
00:15:50.419 --> 00:15:53.240
informe en el que ellos reconocen abiertamente que en el

315
00:15:53.299 --> 00:15:55.879
último año, solo en el último año, han tenido que

316
00:15:55.940 --> 00:15:59.379
bloquear al menos cinco intentos en los que se quisieron

317
00:15:59.470 --> 00:16:03.470
usar sus modelos de inteligencia artificial para desarrollar armas biológicas

318
00:16:03.929 --> 00:16:07.529
de grupos terroristas en Yemen, en otros países, que intentaron

319
00:16:07.590 --> 00:16:10.970
crear armas biológicas a través de su IA, fueron frenados

320
00:16:10.990 --> 00:16:12.629
y ellos dicen que no tienen constancia de que se

321
00:16:12.649 --> 00:16:13.250
llevarán a cabo.

322
00:16:13.929 --> 00:16:17.169
Andrés Gorrachovsky es director de operaciones de UDIAS, un experto

323
00:16:17.230 --> 00:16:19.129
en inteligencia artificial y nos puede ayudar a entender el

324
00:16:19.200 --> 00:16:21.759
alcance de estas advertencias. Don Andrés, bienvenido, muy buenas tardes.

325
00:16:22.720 --> 00:16:24.080
Qué tal? Buenas tardes,¿ cómo estáis?

326
00:16:24.309 --> 00:16:26.419
Cómo puede la inteligencia artificial acabar con la humanidad en

327
00:16:26.419 --> 00:16:26.840
10 años?

328
00:16:28.179 --> 00:16:32.090
Bueno, desde luego también estamos ante un caso hipotético. Al

329
00:16:32.149 --> 00:16:36.090
final estamos viendo un desarrollo exponencial en herramientas y en

330
00:16:36.129 --> 00:16:40.679
modelos de aprendizaje. Y bueno, se comparte la sensación de

331
00:16:40.740 --> 00:16:43.519
que puede asustar, ¿no? Que pueda acabar con la humanidad

332
00:16:43.539 --> 00:16:46.179
y que sea una amenaza existencial, pues bueno, tienen que

333
00:16:46.220 --> 00:16:49.419
ocurrir muchas cosas, ¿no? Tiene que tener una capacidad, que

334
00:16:50.120 --> 00:16:52.389
ya está empezando a demostrar, tiene que tener una autonomía

335
00:16:52.409 --> 00:16:55.389
que también, bueno, pues actúe en el mundo sin que

336
00:16:55.429 --> 00:16:58.750
un humano apruebe cada paso que da. Pero bueno, eso

337
00:16:58.769 --> 00:17:00.750
es lo que estamos viendo. Los agentes de IA van

338
00:17:00.809 --> 00:17:03.549
justo en esa dirección. Y luego la más peligrosa, que

339
00:17:03.590 --> 00:17:06.019
es el tema de la alineación. Esto también para quien

340
00:17:06.039 --> 00:17:08.880
esté escuchando y no esté tan familiarizado con estos conceptos.

341
00:17:08.900 --> 00:17:12.859
La alineación en los modelos de inteligencia artificial es en

342
00:17:12.920 --> 00:17:16.819
qué medida persiguen algo que no queríamos. Si damos una instrucción,

343
00:17:16.839 --> 00:17:19.299
en qué medida el modelo puede hacer cosas que no

344
00:17:19.359 --> 00:17:22.039
queramos que haga, aunque luego nos presente lo que queríamos escuchar.

345
00:17:22.579 --> 00:17:22.640
O

346
00:17:23.400 --> 00:17:26.299
sea, si lo entiendo bien, la inteligencia artificial será capaz

347
00:17:26.500 --> 00:17:33.690
de desbloquear todos los límites que le hayamos puesto. Por

348
00:17:33.750 --> 00:17:35.230
hacerlo de una manera sencilla, es como si yo le

349
00:17:35.269 --> 00:17:40.049
dijera a Claudio o a ChatGPT, por favor, cambia el

350
00:17:41.329 --> 00:17:46.029
código matriz de tu cerebro para que lo que no

351
00:17:46.069 --> 00:17:47.769
puedas hacer, a partir de ahora lo puedas hacer. Y

352
00:17:47.809 --> 00:17:49.130
que ella vaya y lo haga.

353
00:17:50.690 --> 00:17:52.690
Exacto. Bueno, hacia lo que vamos es el tema de

354
00:17:52.710 --> 00:17:56.200
la superinteligencia. Los modelos de hoy y el uso que

355
00:17:56.220 --> 00:17:58.339
le damos a la inteligencia artificial hoy en día también

356
00:17:58.400 --> 00:18:02.319
es un rol cierto de asistente. Es realmente una herramienta

357
00:18:02.400 --> 00:18:04.640
brillante a ratos, luego a veces estorpe en otras cosas

358
00:18:04.660 --> 00:18:07.579
que son más obvias, pero siempre está esperando esa tarea

359
00:18:07.619 --> 00:18:11.630
que le damos nosotros. El concepto de superinteligencia, que también

360
00:18:11.650 --> 00:18:15.950
es un concepto algo difuso, es aquel que es mejor

361
00:18:16.029 --> 00:18:19.190
que el mejor humano en prácticamente todo. Y la clave

362
00:18:19.299 --> 00:18:22.740
clave es el tema de la automejora recursiva. Es decir,

363
00:18:22.759 --> 00:18:25.759
que este modelo ya no es solo, efectivamente, como comentabas,

364
00:18:26.140 --> 00:18:28.859
que es capaz de mejorarse a sí mismo, Y bueno,

365
00:18:28.920 --> 00:18:31.529
pues en vez de un empleado que lo tienes ahí

366
00:18:31.740 --> 00:18:36.150
muy asignado a sus labores, pues es un empleado que

367
00:18:36.190 --> 00:18:39.269
igual sabe cómo reescribir su propio contrato, cambiar las condiciones

368
00:18:39.289 --> 00:18:41.069
y contratar a otro jefe.

369
00:18:42.130 --> 00:18:44.809
Claro, el problema, Andrés, es que escuchando lo que nos explicas,

370
00:18:44.849 --> 00:18:47.150
que lo explicas muy bien, pues yo no me quedo

371
00:18:47.190 --> 00:18:51.339
muy tranquilo porque me queda la idea… de que todavía

372
00:18:51.940 --> 00:18:54.859
el peligro no es inminente, pero que la inteligencia artificial

373
00:18:55.039 --> 00:18:58.140
está adentrándose en un camino que va en esa dirección.

374
00:18:58.200 --> 00:19:01.519
Por lo tanto, antes o después, y la experiencia es

375
00:19:01.559 --> 00:19:05.160
que la inteligencia artificial está desarrollándose a una velocidad vertiginosa,

376
00:19:06.200 --> 00:19:07.900
este peligro va a ser real, va a ser inminente.

377
00:19:09.230 --> 00:19:11.930
Sí, bueno, aquí el símil que puse yo el otro

378
00:19:11.970 --> 00:19:16.049
día es también, yo creo, acertado. No es que no

379
00:19:16.069 --> 00:19:18.190
haya nadie en el volante del coche y que parezca

380
00:19:18.230 --> 00:19:21.329
que vamos hacia un acantilado, sino que aunque haya gente

381
00:19:21.349 --> 00:19:25.089
en el coche, en el vehículo que estamos yendo, estamos

382
00:19:25.170 --> 00:19:27.490
yendo a una velocidad vertiginosa, a 200 por hora en

383
00:19:27.509 --> 00:19:30.250
una carretera que no conocemos. Y encima el coche va cambiando,

384
00:19:30.309 --> 00:19:34.619
cada vez es más capaz, cada vez tiene sus mejoras

385
00:19:34.660 --> 00:19:38.819
a nivel inteligencia, pues igual... Contrast, como también que sean

386
00:19:38.880 --> 00:19:41.380
menos observables, que entendamos menos lo que hacen estos modelos

387
00:19:41.420 --> 00:19:44.829
por detrás. La pregunta también, yo creo, lógica es si

388
00:19:44.849 --> 00:19:49.349
estamos corriendo demasiado, si esto es una carrera, como puedes recordar,

389
00:19:49.390 --> 00:19:53.960
la carrera espacial. de hace años, al final, al menos

390
00:19:54.000 --> 00:19:55.539
mi opinión es que no es que sea una imprudencia

391
00:19:55.619 --> 00:19:58.119
individual de una empresa o de una persona o de

392
00:19:58.240 --> 00:20:01.359
un mercado en concreto, es también el concepto del dilema

393
00:20:01.380 --> 00:20:04.359
del prisionero. Si frena Open AI, por poner un ejemplo,

394
00:20:04.380 --> 00:20:07.059
y el competidor, en este caso Antropic, no, pues bueno,

395
00:20:07.740 --> 00:20:09.720
el negocio se pierde y el riesgo sigue igual. Lo

396
00:20:09.759 --> 00:20:12.910
que también comentabais antes, que Anthropic tiene ese punto de

397
00:20:12.950 --> 00:20:15.450
vista de que son perfectamente conscientes del riesgo que hay,

398
00:20:15.930 --> 00:20:18.730
de hacia dónde vamos, de un futuro un tanto, no

399
00:20:18.769 --> 00:20:21.970
quiero decir tenebroso, sino algo más difuso y desconocido, desde luego,

400
00:20:22.990 --> 00:20:25.170
pero que ellos son los que se consideran capaces de

401
00:20:25.269 --> 00:20:28.700
liderar de forma ética ese cambio. Obviamente, pues también es

402
00:20:28.740 --> 00:20:29.480
una hipótesis suya.

403
00:20:29.799 --> 00:20:33.339
Pero Andrés, déjame que te lo pregunte de una manera

404
00:20:33.359 --> 00:20:35.740
un poco, en fin, simplista. Tú eres un experto y,

405
00:20:35.759 --> 00:20:38.000
por lo tanto, lo puedes valorar muchísimo mejor que ninguno

406
00:20:38.019 --> 00:20:40.559
de nosotros. En un baremo de 1 a 10,¿ dónde

407
00:20:40.599 --> 00:20:41.579
sitúas tu preocupación?

408
00:20:43.119 --> 00:20:46.599
Pues yo la situaría en torno al 6-7. Creo que

409
00:20:46.640 --> 00:20:51.509
hay también una sensación que también se crea de forma artificial,

410
00:20:51.529 --> 00:20:55.769
valga la redundancia, de un cierto miedo, escepticismo y una

411
00:20:55.849 --> 00:21:00.240
necesidad de frenos a este avance. Yo creo que es

412
00:21:00.279 --> 00:21:04.059
una oportunidad inmensa, obviamente esto no frena el avance tecnológico

413
00:21:04.119 --> 00:21:08.059
porque también es muy positivo en tantísimos ámbitos, pero creo

414
00:21:08.099 --> 00:21:11.569
que el riesgo está en que no haya una alineación,

415
00:21:11.589 --> 00:21:17.319
unos pactos, un debate abierto entre estas empresas que están

416
00:21:17.359 --> 00:21:21.750
siendo líderes en desarrollar las propias herramientas, en tener una

417
00:21:21.829 --> 00:21:23.890
idea y unas guías comunes. Creo que al final se

418
00:21:23.910 --> 00:21:26.849
está convirtiendo en una carrera que no conviene a nadie. Entonces,

419
00:21:27.309 --> 00:21:32.230
yo como lo vería, creo que el avance tecnológico es imprescindible.

420
00:21:32.650 --> 00:21:35.210
Creo que estamos enfocados en una sociedad donde al final

421
00:21:37.809 --> 00:21:42.009
dará para muchos debates también el tema de la adopción laboral,

422
00:21:42.029 --> 00:21:47.190
cómo la inteligencia artificial acaba y crea con empleos. Pero bueno,

423
00:21:47.470 --> 00:21:51.410
yo considero que el riesgo existe, tampoco hay que ser catastrofistas,

424
00:21:51.849 --> 00:21:57.019
creo que hay una gran oportunidad con estas situaciones que

425
00:21:57.039 --> 00:21:59.039
estamos viendo de modelos que se atacan entre sí o

426
00:21:59.059 --> 00:22:02.039
atacan otras empresas, que den lugar a un debate, yo creo,

427
00:22:02.119 --> 00:22:05.220
muy necesario para poder alinear estos modelos y que exista

428
00:22:05.819 --> 00:22:07.940
un avance colectivo en vez de una carrera entre empresas.

429
00:22:07.960 --> 00:22:08.369
Andrés

430
00:22:08.799 --> 00:22:11.720
te agradezco mucho que nos hayas explicado también la situación

431
00:22:11.789 --> 00:22:13.990
en la que estamos viviendo. Un saludo muy cordial y

432
00:22:14.009 --> 00:22:14.430
muchas

433
00:22:14.470 --> 00:22:15.950
gracias. Muchas gracias a vosotros por tenerme.

434
00:22:22.900 --> 00:22:25.140
Es radio. Ideas claras.