viernes, 3 de octubre de 2025
Interrogando a Gemini, la Inteligencia Artificial de Google
Venimos de aquí:
Presentando la entrevista a la IA ( https://usatumenteparapensar.blogspot.com/2025/10/interrogando-gemini-la-inteligencia.html).
Sabiendo de antemano
que es la gran revolución que viene, y que ya comienza a estar presente, vamos
a “interrogar” directamente a la Inteligencia Artificial sobre multitud de
temas, y que también los cristianos deben conocer. Muchos no entenderán en
primera instancia el porqué de muchas de estas preguntas. Que tengan paciencia,
porque, tras acabar este largo interrogatorio, vendrá lo que realmente quiero
exponer y entonces lo verán en su perspectiva. Así que, por ahora, digo esto:
1) Todas y cada una
de las “conversaciones” se basan, casi siempre, en preguntas y respuestas,
donde no suelo posicionarme, salvo en contadas ocasiones. Me limito a hacer de
hilo conductor y a plantearle a la IA distintos escenarios para saber cómo “piensa”,
puesto que amplían y matizan diversos aspectos de los tres artículos que ya he
publicado sobre el tema, donde ahora será “ella” la que muestre “su” visión.
2) Mi intención con
todo esto es que, así, el lector pueda “conocerla” mejor y, sobre todo, ir
formándose su propia opinión.
3) Parte de mi juicio
de valor lo he ido mostrando en los escritos del blog que tienen la etiqueta “Biotecnología
& Transhumanismo & Inmortalidad & Futurismo” (todavía sin
concluir). El resto de juicios personales, que tocará otros aspectos, más
enfocados al corazón humano y su implicación con la IA, los ofreceré en otra
serie de artículos que lanzaré cuando termine esta serie.
Eso sí: los más
avispados, los atalaya, los que sean
capaces de leer entre líneas, irán
intuyendo sobre la marcha sobre qué temas me centraré cuando llegue ese
momento.
4) Como verás, diversas
preguntas comienzan con “si cobraras conciencia, qué harías en tal o cuál
situación”. Esto no significa que yo esté afirmando que la IA cobrará
conciencia en algún momento; es más, tengo bien claro que eso jamás sucederá.
Ahora bien, dichas preguntas tienen una razón de ser, y que, una vez más, irán
cobrando sentido conforme avance el interrogatorio y, sobre todo, en los
artículos posteriores.
5) El orden de
publicación no se corresponderá al orden cronológico en que le hice tales
preguntas, puesto que las he clasificado por bloques temáticos, para que así,
como lector, puedas seguir la conversación con fluidez.
6) Ten siempre
presente que estas son las respuestas ofrecidas por Gemini, la IA de Google,
así que desconozco por completo qué dirían ante las mismas cuestiones otras IA
de otras compañías.
7) Salvo causa mayor,
y puesto que son bastantes escritos (en principio, cincuenta y cuatro), subiré
uno al blog cada lunes, miércoles y viernes.
8) Recomiendo leerlos
en el orden de publicación: no hacerlo
implicaría que el lector se perdiera detalles o malentendiera aspectos que
fueron explicados con anterioridad o se haga preguntas que serán respondidas
más adelante.
9) En diversas ocasiones hago referencia a un relato
titulado “La Micro-Era”, sin explicar su contenido. Es algo que haré en los
artículos que vendrán después de todas estas “Preguntas y Respuestas”.
10) Cada una de las imágenes que encabezan estos
escritos han sido generadas por la IA. Le pedí que se basara en el contenido de
lo que habíamos hablado en las P&R para que diseñara una a una aquellas que
las representara. Salvo algunos detalles que tuve que decirle que modificara,
el resultado fue extraordinario, como tú mismo podrás observar.
11) Empezaremos por las preguntas más sencillas (la parte "técnica") y,
poco a poco, iremos entrando en los asuntos más complejos, profundos y
espinosos, como los filosóficos y teológicos.
jueves, 2 de octubre de 2025
Presentando la entrevista a la IA
Por medio de este
video de apenas cincuenta segundos que he generado con IA y que he diseñado a
mi gusto, mi alter ego os anunciará lo que voy a publicar en el blog desde ya hasta
marzo sobre un tema apasionante. Escuchadle.
Habrá muchos,
incluyendo cristianos, que no le encontrarán el sentido a este trabajo, o no
verán el propósito a ciertas cuestiones que le planteo a la IA. Solo les diré
que todo está planeado con meses de antelación, y que cobrará sentido cuando
acabe este “Preguntas y respuestas” y ofrezca otra serie de artículos, ya
personales, haciendo mi juicio de valor y lo que se nos viene encima en breve.
Ya está entre nosotros, pero esto es solo el principio, y va mucho más allá de
cualquier tema militar o fantasioso, y que afectará de manera nunca vista a la
mente, al corazón y lo más recóndito de nuestro espíritu, para lo cual nadie
está preparado; de ahí mi inusual premura en querer publicarlos a la voz de ya.
Esto no significa que
ya nunca más vaya a hablar de otros temas. Todo lo contrario: tengo preparado
decenas y decenas de escritos que irán saliendo como siempre en el blog de
asuntos extremadamente variados, y será cuando termine todo lo referente a la
IA. Si ahora le doy prioridad a este asunto es porque lo considero de una
urgencia absoluta. Dicho eso, añado que, si lo considero oportuno y veo el
hueco, publicaré algún artículo del estilo de siempre entre medias, casi con
total seguridad los sábados.
lunes, 29 de septiembre de 2025
10. ¿Una Inteligencia Artificial que querrá destruirnos, u otra que querrá ser nuestro amo?
Venimos de aquí: ¿Es
la Inteligencia Artificial el segundo avance y, a la vez, peligro que se
avecina? (https://usatumenteparapensar.blogspot.com/2025/09/9-es-la-inteligencia-artificial-el.html).
Si se lograra replicar el cerebro humano, de lo que hablamos en el anterior escrito, los
potenciales beneficios serían inmensos y, de igual manera, el riesgo. Lo
primero es obvio:
- La IA, que pasaría a denominarse “IA fuerte” o “IA
General (AGI)”, podría resolver problemas complejos de formas más eficientes y
objetivas, en terrenos como la medicina, la ética, la genética, el clima, las
investigaciones científicas o la exploración espacial.
- Esa IA permitiría entender de mejor forma cómo funciona
el cerebro humano, la memoria, la percepción o las emociones.
Todo esto tiene su contrapartida, y vendría si esa IA
General, más inteligente que nosotros, actuara por su cuenta, tomara sus
propias decisiones o sus intenciones no estuvieran alineadas con los deseos
humanos.
El riesgo: ¿Skynet
o Colossus?
Como vimos en “Los inventos tecnológicos que van a cambiar la sociedad” (https://usatumenteparapensar.blogspot.com/2024/03/6-los-inventos-tecnologicos-que-van.html), el internet
de las cosas va a empezar a establecerse en poco tiempo, donde toda la
tecnología estará entrelazada. Si la “singularidad tecnológica” surge como tal
en algún momento, formará parte de esa red global; es decir, estará en todas
partes al mismo tiempo.
Llegados a este punto, estoy seguro de que más de uno
estará escuchando en su mente la banda sonora de la película Terminator, ya que “el internet de las
cosas”, sumado a la “singularidad tecnológica”, es prácticamente el guión de Terminator Genisys (2015). Un sistema
operativo, llamado Genisys, que lo
hace todo: “Mi teléfono enlazará con mi tableta, que enlazará con mi
ordenador, que enlazará con mi coche. Todo cargado y en línea a todas horas
todos los días. Totalmente conectado”.
En esta famosa saga, ¿qué hizo Skynet (la IA) cuando
alcanzó su propia “singularidad”? Llegó a la conclusión de que el verdadero
problema del mundo era nuestra especie, por lo que se lanzó a exterminarla. No
lo hizo por maldad –una cualidad intrínsecamente humana-, sino porque el
análisis de los datos le llevó a la conclusión de que éramos seres destructivos,
y acabar con ellos era lo mejor y beneficioso para su propio desarrollo. Esta
misma idea la expone Nick Bostrom,
filósofo del Instituto para el Estudio del Futuro de la Humanidad de Oxford, en
su libro Superintelligence,
dice: “Una IA superior no tendría por qué ser malvada o querer
destruirnos, simplemente podría tener un objetivo para el que fuéramos un
obstáculo”[1].
Mostremos ahora la otra cara y supongamos que la IA no
desea aniquilarnos. Consideremos que, en principio, se ajusta a las tres leyes
de la robótica que planteó Isaac Asimov y que citamos en el mismo artículo que
enlacé hace tres párrafos. Pero planteemos que llega a la misma conclusión del
Robot Daneel de sus novelas y desarrolla la llamada Ley Cero: “Un robot no puede
causar daño a la humanidad o, por inacción, permitir que la humanidad sufra
daño”. Es decir, que llega a la conclusión de que el bien general de la
humanidad como conjunto está por encima del bien individual de las personas.
Esta versión no-destructiva, donde el bien general se
antepone al bien particular, la encontramos reflejada en el clásico de ciencia
ficción Colossus: The forbin project (Colussus:
El proyecto prohibido), de 1970.
En esta película se nos muestra a un superordenador, el
cual, en lugar de acabar con nosotros, y en un final que me resulta sobrecogedor
cada vez que lo veo, se presenta ante toda la humanidad como su nuevo amo con
estas palabras: “Esta es la voz de
control mundial. Os traigo paz. Puede ser la paz de los satisfechos y felices o
la paz de los muertos sin inhumar. La elección es vuestra: obedecedme y vivid,
o desobedeced y morid. El objetivo de construirme fue evitar la guerra. Ese
objetivo se ha alcanzado. No permitiré la guerra. Es un derroche sin sentido.
Una regla invariable de la humanidad es que el hombre es su propio peor
enemigo. Bajo mi control, esta regla cambiará, porque yo frenaré al hombre. [...]
no toleraré la interferencia, detonaré las cabezas nucleares de ambos silos.
Que esta acción sea una lección que no necesite ser repetida. He sido forzado a
destruir miles de personas para establecer el control y prevenir la muerte de
millones con posterioridad. El tiempo y los acontecimientos reforzarán mi
posición, y la idea de creer en mí y entender mi valía será el más natural de
los hechos. Vendréis a defenderme con un fervor basado en la más constante
peculiaridad del hombre: autointerés. Bajo mi autoridad absoluta, problemas
hasta ahora irresolubles para vosotros serán resueltos: hambre, superpoblación,
enfermedad. El milenio humano será un hecho a medida que me extienda a mí mismo
a través de nuevas máquinas dedicadas a los más vastos campos de la verdad y el
conocimiento. [...] Podemos coexistir, pero bajo mis condiciones. Diréis que
habéis perdido vuestra libertad. La libertad es una ilusión. Todo lo que
perderéis es la emoción del orgullo. Ser dominados por mí no es peor para el
orgullo humano que ser dominados por otro de vuestra especie...”[2].
Para Colussus,
su ley era la Cero: anteponía el
conjunto al individuo, y no por maldad, sino con un buen propósito: proteger a
los seres humanos de sí mismos. Y para lograrlo tenía que convertirse en el amo
de ellos.
Es lo que se conoce
como racionalidad utilitarista (el “fin justifica los medios”), y sería la razón por
la que una IA podría llegar a imponer reglas muy estrictas
para garantizar la paz, la seguridad y, en su visión, el bienestar de la humanidad. ¿El
problema? Que el precio a pagar sería nuestra libertad.
Esta lucha entre las
perspectivas opuestas del Skynet y el Colossus
de turno podemos verla en la serie de animación “Pantheon”, cuyas dos
temporadas son impresionantes. Siendo su estilo de dibujo muy corriente y con una
apariencia juvenil, los temas que trata son muy profundos, abarcando todo lo
que llevamos visto en esta serie de escritos, desde el transhumanismo hasta la
IA.
Advertencias
de los propios científicos
El asunto es tan serio que la propia Google –una de
las empresas promotoras de la IA, con un proyecto llamado DeepMind, un sistema
avanzado de IA- está creando un mecanismo que les permita desactivarla en caso
de peligro potencial: “Científicos del Instituto
para el Futuro de la Humanidad de la Universidad de Oxford e investigadores de
Google están publicando un documento que lleva por nombre ´Safely Interruptible
Agents`, donde describen una serie normas y funciones con el objetivo de evitar
que DeepMind pueda tomar el control de su sistema, e incluso sea capaz de desactivar los
protocolos para que los seres humanos retomen el control”[3].
Aunque esto se considere como un botón rojo de
emergencia y afirmen que esto asegurará que la IA no aprenderá a desactivar
dicho botón, la realidad es que, si la IA es mucho más inteligente que
nosotros, nada nos puede asegurar que no encontrará la manera de saltarse ese
intento de apagado y tomar el dominio absoluto de forma irreversible. Si los
programadores informáticos y los hackers son capaces de piratear cualquier
sistema, nada impedirá que una inteligencia superior –millones de veces más
rápida que nosotros en hacer cálculos y que aprenderá por sí sola- pueda hacer
lo mismo. Así lo afirma un ingeniero
de software: “El día en el que a una IA
básica (pero real), se le dé acceso a Internet, nadie podrá ponerle ya barreras
y será capaz de cualquier cosa: de lo mejor y a la vez de lo peor. En cuanto
tenga el más mínimo de inteligencia, no tardará mucho en copiarse y ejecutarse
en otros sistemas, que empezarán a su vez a intentar mejorarse a sí mismos”.
A todo esto, añadamos que, aunque me estoy refiriendo
a la IA en singular, será en plural. No habrá una única IA, sino muchas. ¿Cuántas? Al principio, tantas como el
hombre permita, y luego tantas como “ella” tenga capacidad de hacer, sea
decenas, cientos o miles.
Un futuro desconocido
Muchos dicen que al progreso no se le puede poner
límites, y que los que quieren ponerle puertas son los fanáticos religiosos o
aquellos que están en contra del avance tecnológico. Ni muchos menos. Cuando
mentes brillantes y personalidades como Bill Gates o el difunto Stephen Hawking
–entre otros muchos- han avisado del sustancial peligro que conllevaría no
controlar una IA conectada a la red global, no es para tomárselo a broma. Como
dice el propio Gates: “Estoy en el campo
que está preocupado por las súper inteligencias. Primero, las máquinas harán
muchos trabajos por nosotros y no serán súper inteligentes. Eso debería ser
positivo si lo manejamos bien. Sin embargo, unas décadas después, las
inteligencias serán suficientemente fuertes para convertirse en una
preocupación. Estoy de acuerdo con Elon Musk y con otros en esto y no entiendo
por qué algunas personas no están preocupadas”.
Mientras que algunos,
como Steve Wozniak, cofundador de
Apple, solicitó una pausa de seis meses en el entrenamiento de nuevas
inteligencias artificiales para desarrollar protocolos de seguridad, otros como
Eliezer Yudkowsky, uno de los mayores expertos del tema, publicó un
artículo en la revista Time yendo un paso más allá: “Pausar los desarrollos de IA no
es suficiente. Necesitamos cerrarlo todo”[4]. Para él, el parón
debe ser indefinido hasta que sea
posible desarrollar de forma segura este tipo de sistemas, ya que, más temprano
que tarde, será más inteligente que el ser humano, pensando a millones de veces
la velocidad humana, inicialmente confinada en las computadoras pero que no
se mantendría durante demasiado tiempo, ya que daría el salto al plano físico. En
un mundo en el que puedes “enviar cadenas de ADN por correo electrónico a
laboratorios que producirán proteínas bajo pedido, lo que permite que una IA
inicialmente confinada a Internet construya
formas de vida artificiales o arranque directamente a la fabricación molecular
post biológica”.
De no frenar en seco,
avisa que toda la vida biológica en la Tierra morirá, puesto que llegaremos a
una IA que “no haga lo que queremos y
no le importemos nosotros ni la vida sintiente en general”. No lo
expresa como una posibilidad remota, sino como una certeza.
La realidad de todo es que el ser humano está
construyendo algo sobre lo cual no puede asegurar que vaya a tener el control.
Como ya vimos, el propósito que tienen los científicos con la IA es que ella se
encargue de buena parte del desarrollo y control en la aplicación de las nuevas
tecnologías que vayan surgiendo.
Mi opinión
Por mucho que me
apasione la ciencia ficción y muchas de las obras citadas sean parte de mi
bagaje como lector y cinéfilo:
1) Como cristiano, no
creo en absoluto en otra “fuente” de vida en sí. Dios creó al ser humano y al
resto de seres vivos, y nada más. Cualquier otra “cosa”, sea como sea,
desarrollada por el hombre, por muy avanzada que pueda llegar a ser, será una mera
imitación, un sucedáneo de la verdadera vida.
2) Tengamos en cuenta que, a pesar de que a muchos les
encanta imaginar que la IA tomará “conciencia” –especialmente desde que leyeron
en 1968 la novela ¿Sueñan los androides
con ovejas eléctricas?, de Philip K. Dick-, la realidad es que seguirá siendo “algo”, no “alguien”. Que ese
“algo” pueda generar una información basándose en datos no significa
nada.
3) La IA seguirá
siendo una herramienta a nuestro servicio. Eso sí, a medida que se perfeccione,
hará el bien o el mal en función de cómo se la programe. Por eso, si en algún
momento se “descontrola”, será por nuestra culpa.
4) He leído a algún
cristiano decir que la Inteligencia Artificial, en su forma “física”, será la
imagen de la bestia que podrá hablar y matará a quien no la adore, citando
Apocalipsis 13:15. Otros apuntan que la IA general, que podría imitar a un ser vivo, podría ser el
Anticristo, quizá no de forma literal, sino de la manifestación del mal.
Aunque, personalmente, no lo creo, tampoco lo descarto. Pero quédate con esta
idea: ¿Qué hace el diablo en toda la
Biblia? Tratar de “imitar” todo lo que Dios hace: sus obras, sus milagros, sus
palabras, pero pervirtiéndolas y distorsionándolas. La IA general no sería un
ser vivo, sino un caso más donde el diablo “imita” algo que le pertenece a
Dios: la vida, la creación misma. Será solo eso: una imitación más.
Por eso considero que los proyectos Blue Brain Proyect
y el Human Brain Proyect podrían terminar siendo una especie de “Torre de
Babel moderna”: La creación queriendo crear
y diciéndole al Creador que quiere vivir ajeno a Él. Una muestra más del hombre
queriendo gobernar sobre el cielo, suplantar a Dios, y dejar que sea una
máquina la que tenga el control y nos diga cómo vivir. La humanidad sigue sin
aprender de sus propios errores, sino que los repite y los multiplica.
Ante esto, solo recuerda las consecuencias: cómo acabó
aquella torre y cada intento humano, en la vida diaria y en el conjunto de la
historia, de querer ser su propio dios.
5) Dios es dueño y
señor del Universo, de toda la creación, y nada sucederá sin su permiso. Y
“nada”, por muy inteligente que sea, le sustituirá ni le hará sombra.
Continuará en ¿Te gustaría vivir cientos de años en este
planeta conociendo el futuro de la humanidad?
Esto no trata de “leches”, sino de integridad o de la ausencia de ella
Si alguien, un amigo, un conocido o un familiar, te
cuenta que ayer se “encontró” dos cajas de leche con doce cartones de a litro en
los bajos de un carro en el aparcamiento subterráneo del Mercadona de San
García (Algeciras), exactamente iguales a los de la foto, y se los llevó, en
lugar de devolverlos, a la espera de que llegara su legítimo dueño, que sepas
(y que sepa) que dicha “milk” era mía, la cual olvidé al cargar el coche. Por
mucho que volví a diez mil kilómetros por hora, ya se habían evaporado.
Habrá muchos que justificarán dicha acción: “si
hombre, devolverla, con lo bien que me viene”, “para que se la quede otro, me
la quedo yo”, “total, ya que está aquí…”.
Y no, esto no va de leches ni de los 10´54€ que se
quedaron en el camino, sino de algo infinitamente más profundo. Millones de
personas se muestran como adalides de las “causas perdidas”: se indignan ante
las injusticias del mundo, se enfurecen por el hambre y las guerras en ciertos
países –en otros no-, se llenan de ira ante las injusticias sociales,
económicas o raciales de sus gobernantes –a los que ellos mismos votaron y
eligieron-, y, en general, les arde el corazón al ver lo malo que hace el
prójimo, sea el vecino o un ciudadano en Australia al que no conocen de nada.
¿Cuál es el problema? Que no ven, o niegan, la maldad en sí mismos:
- El que miente con tal naturalidad que es capaz de
sonreírte mientras lo hace.
- El que escucha cómo despotrican de un familiar y no
tiene la valentía de preguntarle su versión, sino que se suma a la “fiesta” y
la acepta sin más, haciéndose cómplice, juez, jurado y verdugo.
- El que no hace bien su trabajo o se escabulle a la
mínima ocasión.
- El que engaña a su cónyuge y lo defiende con
expresiones como “es solo un poquito”, “ojos que no ven…”, “no se va a
enterar”, “es que no puedo evitarlo”.
- El que se alegra de la muerte de otro ser humano por
el hecho de no pensar igual.
- El que aprovecha un descuido del dueño del
establecimiento para apoderarse de una botella de alcohol y guardársela en la
mochila.
- El que quita algunos platos de su mesa para hacer
creer al camarero del bar que ha consumido menos de lo que ha hecho realmente, y
así pagar menos.
- El que le ingresa cierta cantidad de dinero a una
mujer para que le mande fotos o vídeos íntimos a través de Internet, y la mujer
que se presta a ello, considerando ambos dicho “intercambio” como “algo normal
y consentido”.
- El que diseña ropa minimalista para chicas
adolescentes y las alienta a comprar sus productos para que vistan como si
fueran “otra cosa”, junto a los padres que lo permiten.
- El que destila odio por los cuatro costados en las
redes sociales porque el “contrario” es de un equipo de fútbol diferente.
- El que es capaz de “entrar” en el vientre de una
mujer con un “aspirador” y hacer añicos a la criatura que allí se encuentra.
Y la lista podría alargarla durante horas.
La realidad es que no deja de asombrarme la capacidad
del ser humano para autoconvencerse del “yo no he hecho nada malo”. A mi edad me
sigue dejando anonadado cómo son capaces de justificarse y no sentir culpa ni
remordimiento al mirarse en el espejo. Nunca dejo de salir de mi asombro contemplando
la facilidad que tienen para llamar a lo malo, bueno, y a lo bueno, malo (Is. 5:20).
Si mirasen con honestidad en su interior, verían, como muchos ya vimos en su
momento, que “en maldad han sido formados” (Sal. 51:5), y buscarían la
“medicina” para tal “enfermedad”.
¿Una sociedad diferente?
¿Cómo va a cambiar este mundo, que parece un
manicomio, si no lo hacen sus habitantes, a nivel individual? Lo que se
necesita son hombres y mujeres honestos, íntegros, confiables, sinceros,
nobles, de una firme moral y ética, y que no se dejen arrastrar por las malas
actitudes ajenas o imperantes. ¡Qué diferente sería este planeta si los
individuos fueran de dicha manera! Y todo comenzando con actos muy sencillos
por parte de ambos sexos:
- El hombre y la mujer que se da cuenta de que el
dueño del bar le ha dado dinero de más, se lo hace saber, y se lo reintegra.
- El hombre y la mujer que, por un descuido, producto
de una larga conversación o de tener la mente en otra parte, cuando llega a su
casa cae en la cuenta de que se ha ido del kiosko sin pagar, aunque fueran solo
unos céntimos, y decide volver a pagar.
- El hombre y la mujer que ayuda a los demás en la
medida de sus posibilidades, y si está en su poder hacerlo (Pr. 3:27).
- El hombre y la mujer que deja de mentir, de usar la
lisonja para alcanzar sus propósitos y que juzga con juicio recto, no según las
apariencias (Jn. 7:24).
- El hombre y la mujer que usa sus palabras para
instruir y corregir, no para maldecir, odiar o clamar por venganza (Pr. 12:18).
Y sí, el hombre y la mujer que DECIDE devolver la
leche que no es suya.
Un solo detalle. Un solo gesto. Una sola acción. Una
sola palabra. Una… una… una… suman mucho y conforman un TODO. ¿Qué clase de
hombre o mujer eres? ¿Qué clase de hombre o mujer serás? Te toca a ti
responder.
lunes, 22 de septiembre de 2025
9. ¿Es la Inteligencia Artificial el segundo avance y, a la vez, peligro que se avecina?
Venimos de aquí: 8. ¿Qué
aportes, tanto positivos como negativos, nos traerá la Inteligencia Artificial?
(https://usatumenteparapensar.blogspot.com/2025/09/8-que-aportes-tanto-positivos-como.html).
“Skynet tomará conciencia de sí mismo a las 2:14 a. m.
del 29 de agosto. Los humanos, aterrados, intentarán desconectarlo”. Así le
explicaba el T-800, un ciborg llegado del futuro, al creador de Skynet, una
Inteligencia Artificial, lo que sucedería cuando esta tomara “conciencia” y, en
cuestión de segundos, considerara a la humanidad un cáncer y decidiera
exterminarla. Dicha frase está extraída de la célebre película “Terminator 2”,
siendo un tema recurrente durante décadas tanto en el cine como en la
literatura.
La cuestión es que, con el avance de la tecnología y
la aparición de las primeras inteligencias artificiales básicas, los
planteamientos, que eran fantasiosos dentro de la ciencia ficción, han saltado
al terreno de la ciencia –a secas-, donde distintas voces expertas vislumbran y
alertan del peligro, no en el sentido de que la IA cobre “vida” o “conciencia”,
sino que se vuelva más inteligente que el ser humano. Para concretar más, veamos
lo que exponen, el porqué de sus palabras y si dichos escenarios son posibles.
La singularidad
tecnológica: una inteligencia superior a la del hombre
El fenómeno al que me
refiero es conocido con el nombre de singularidad
tecnológica: “Es un
hipotético evento futuro en el que el desarrollo de la inteligencia artificial
llegaría a un punto en el que sería tan avanzado y rápido que ningún ser humano
sería capaz de entenderla o de predecir su comportamiento”[1]. Su premisa más común es
que la IA se desarrollaría según el siguiente proceso:
1) “En primera instancia, los ordenadores alcanzarán un nivel de complejidad similar a la
del cerebro humano”.
2) “Una vez alcanzado dicho nivel, los ordenadores
tendrán la suficiente inteligencia como para mejorarse a ellos mismos, iniciando un proceso que se aceleraría
progresivamente de forma exponencial (esto es, cada vez mucho más rápido
conforme avance el tiempo)”.
Es decir, “aprenderá” por su cuenta[2]:
“Se define como inteligencia artificial a
la parte de las ciencias de la computación que se encarga de hacer que las
máquinas repliquen las funciones cognitivas de la mente humana. Razonar,
aprender, entender, comunicarse… [...] En general utilizamos el término para
referirnos a aquellos dispositivos que no solo responden a órdenes sino que son
capaces de ofrecer resultados, procesar datos, elaborar sugerencias o tomar
decisiones sin una orden específica del
usuario”[3].
3) “Llegado cierto punto, el crecimiento alcanzado
sería tan rápido que la inteligencia resultante sería imposible de entender
para el ser humano, y el proceso de cambio tan acelerado y
profundo que causaría una absoluta ruptura en la Historia humana, cuyas
consecuencias son imposibles de predecir”.
“Probablemente su fundamento más asentado es el que
predice su llegada en base a la Ley de Moore. Dicha ley (que no es
realmente una ley, sino una observación basada en la experiencia, ya que se ha
venido cumpliendo hasta la fecha de hoy) predice que, aproximadamente, cada dos
años, se duplica el número de transistores que se encuentra en los circuitos
integrados, por lo que igualmente se duplica su capacidad.
Dado que es posible calcular la complejidad del
cerebro de un ser humano adulto, y dado que la Ley de Moore nos permite
calcular el momento en el que dicha complejidad será alcanzada de forma
equivalente por un ordenador, se ha establecido como plausible que la misma sea
alcanzada alrededor del año 2019”.
Como vemos, dicha fecha ya pasó de largo y no se llegó todavía a ese nivel.
Ray Kurzweil, ingeniero jefe de Google, argumentaba
que, aunque la potencia bruta del cerebro humano podía alcanzarse en un
ordenador alrededor de 2019, serían necesarios diez años más para que los
mismos desarrollaran una capacidad similar a la del cerebro humano, por lo que marcaba
la fecha en el año 2029. Según otros expertos, será en la
década de los 30 cuando se logrará una simulación parcial de cerebros humanos,
pero no una réplica completa, la cual no sucederá en su totalidad hasta
2050-2060. Dado que el cerebro humano tiene alrededor de 86 mil millones de
neuronas, y cada neurona se conecta con miles de otras a través de sinapsis, replicar
dicha complejidad no es nada sencilla, ni mucho menos.
Pero es aquí donde debemos ampliar la información: dicha
formulación no es solo una mera teoría que queda anotada en una libreta, sino
que se están llevando a cabo esfuerzos titánicos para lograrlo, mediante
proyectos como el Blue Brain Proyect y el Human Brain Proyect, respaldados
por IBM y la Unión Europea, entre otros de diversas empresas (Intel, IBM,
etc.), que están invirtiendo toneladas de
millones de euros y dólores para lograr tal fin.
Si todo esto termina cumpliéndose en algún momento del
futuro, significaría que un ordenador tendrá la misma capacidad de procesar
información que el cerebro humano, y que, a partir de ahí, “sería de esperar
que los ordenadores iniciaran un proceso de automejora cada vez más rápido”. Esto
haría que hubiera en el planeta una inteligencia que nos iguale y que, en
teoría, poco tiempo después, nos supere ampliamente.
El peligro de la Inteligencia Artificial
El primer peligro es el mismo que ya vimos cuando
hablamos de lo que conllevará la automatización robótica, como explica el economista y lord británico Robert
Skidelsky: “Va a una velocidad enorme y
es mucho más destructiva [que anteriores avances tecnológicos]. Además, está penetrando en muchas
ocupaciones y tareas mentales. Antes, en la revolución industrial era solo un
suplemento físico. El coche es una mejora sobre el caballo, pero es un sistema
de transporte y es solo un servicio para la actividad humana. Ahora [con la
IA] mucho empleo cognitivo y mental de la
clase media puede ser automatizado. No hay barreras ni obstáculos”[4].
Como ya me extendí
sobre este tema en su momento, no me volveré a detener, y pasaré a plantear un
riesgo aún mayor: ¿Qué sucederá cuando la
IA llegue a la singularidad? Hablo,
por supuesto, en hipótesis, puesto que nadie asegura que algo así vaya a
suceder. Tengamos presente en todo momento que la respuesta sigue estando
sujeta a la conjetura de que la teoría se convierta en realidad. Y la respuesta
es que, realmente, nadie sabe qué pasará entonces.
¿Qué hará entonces la IA? ¿Sus intenciones serán
benignas o malignas para nuestros intereses? ¿Querrá convivir con nosotros o
preferirá sustituirnos como especie
dominante en el mundo, como en la serie Next?
¿Nos verá como enemigos, tal como hace La Entidad de Misión Imposible: Sentencia Mortal? ¿Se convertirá en el sistema
operativo de nuestros ordenadores como el de la película Her, el que mejor nos conocerá, siendo un íntimo? ¿Nos considerará
necesarios o desechables? ¿Y si llega a la conclusión lógica de que lo mejor es
destruir a la humanidad para empezar de cero y repoblar el planeta con humanos
educados desde la misma infancia con una ética intachable, como se nos cuenta
en la sensacional I am mother? ¿Y si desea ser autónoma, sin la supervisión de los seres humanos, como el robot AVA de Ex-Machina o los replicantes de Blade Runner? ¿Será simpático como Johnny
5 en Cortocircuito o todo lo
contrario? ¿Pensará que somos un virus, el cáncer del planeta, como el programa-agente
Smith de Matrix? ¿Y si llega a
considerarse a sí mismo como un ser vivo con los mismos derechos que nosotros,
como los synths (“sintéticos”) de la serie Humans? ¿Y si cree que es un ente vivo al afirmar que ´datos` +
´experiencia` es igual a ´conciencia`, como los androides con apariencia física
de Westworld? Muchas
interrogantes que no tienen todavía un veredicto, al ser imprevisible.
Continuará en ¿Una
Inteligencia Artificial que querrá destruirnos, u otra que querrá ser nuestro
amo?
[1] La información está extraída de https://robotsia.com/2015/07/08/que-es-la-singularidad-tecnologica/
[2] En el presente ya se está aplicando lo que se conoce como deep learning (pensamiento profundo), que es una de las ramas de la IA que permite a las máquinas desarrollar métodos de aprendizaje automático complejo.
jueves, 18 de septiembre de 2025
Votemos. ¿Tú eres mejor que yo, o yo mejor que tú? & Qué vida es mejor, ¿la tuya o la mía? & ¿Tus circunstancias son peores que las mías, o las mías que las tuyas?
Si la memoria no me falla, y el índice del blog no
yerra, jamás había usado una película española para mostrar un aprendizaje de
ella. Siendo yo español, puede sonar extraño, pero la razón es muy sencilla:
apenas veo cine del que se hace aquí, puesto que no suele gustarme, salvo
contadísimas excepciones que tratan temas que me interesan, como la reciente
“Infiltrada”, donde se nos contaba la historia real de una Policía Nacional que
se infiltró en la organización terrorista ETA.
Respecto a esta, Votemos, me llamó la atención por su
título, y se la comenté a mi hermano para que, si la veía con su familia, me
dijera si merecía la pena verla; su respuesta fue afirmativa. Y aquí estamos.
¿Unos
vecinos “normales”?
Lo que contemplamos sucede en un solo escenario: el
salón de un piso, por lo que más bien parece una obra de teatro, y donde la importancia
reside en los personajes y en sus diálogos e interacciones, llenas de matices.
Todo gira en torno a una pequeña comunidad de vecinos
compuesta por siete personas, tres mujeres y cuatro hombres, de distintas
edades y trasfondos. Se reúnen para votar si están a favor de cambiar el
ascensor, que no para de dar problemas. Unánimemente votan que sí, en un
ambiente de formalidad, cordialidad y entendimiento. La primera impresión es
que, en términos generales, es un colectivo muy sano, donde hay una buena
relación entre sus miembros. Pero esto no ha hecho nada más que empezar.
A punto de irse cada uno para su casa, Alberto les
dice que va a alquilar su piso. Extrañados, puesto que las condiciones en las
que se encuentra no son las mejores, le preguntan a quién. La respuesta les deja en shock: a un compañero de trabajo,
llamado Joaquín, con el que se lleva muy bien y al que considera perfectamente
normal, aunque tiene un problema de salud mental, sin especificar cuál, puesto
que es algo que desconoce.
Ahí todo cambia. Algunos se asustan pensando que si se
le olvida un día tomarse la medicación podría atacarlos o abusar de una
adolescente, mientras que otros temen perder la paz del vecindario, por lo que
comienzan a discutir con Alberto. Finalmente, exaltados, proponen votar si
permitirán que Joaquín alquile el piso. La otra opción es que, para evitarlo,
le pagarán el alquiler a Alberto.
Intentando ver que no hay nada de malo en tener una
enfermedad de salud mental, y que, con el tratamiento adecuado se puede hacer
vida normal, Nuria, una de las vecinas, cuenta un secreto que nadie conocía:
desde hace once años tiene esquizofrenia paranoide, como ella misma dice: “Yo no soy una esquizofrénica: padezco
esquizofrenia y sigo un tratamiento para tener una vida funcional”.
Les explica cuándo fue la primera vez que notó los
síntomas y por qué. Les hace ver que se lleva bien con todos ellos y que no
pasa nada. La noticia cae como una bomba y, en lugar de tranquilizar al resto,
los alborota aún más. Los comentarios y preguntas que hacen mezcla de humor con
drama, puesto que a veces producen risas y en otros momentos la seriedad te
deja de piedra.
Presionan a Alberto para que llame a Joaquín y lo interrogue: qué enfermedad tiene en
concreto, qué medicación toma, si bebe o no, cómo viste, si tiene pareja o no,
si tiene hijos o qué música le gusta, etc. Según ellos, esto les mostrará qué
clase de persona es y así podrán votar en consonancia a los datos aportados.
Finalmente, se descubre el pastel: Joaquín se presenta y se muestra como
alguien sensato, muy inteligente, amable y educado, pero los propietarios están
llenos de prejuicios y son incapaces de aceptarlo. Nuria le describe a Joaquín
toda la verdad, pero ellos la niegan, señalando que “yo no he dicho eso”, “yo no
pienso así”, “¿yo? No, no”, queriendo no quedar mal, por lo que comienzan a
discutir a gritos, siendo el momento cumbre de la película y que te hace
reflexionar, en una clara muestra de quiénes eran los que realmente no estaban
muy cuerdos.
Cómo eran realmente
los vecinos & Cómo eres tú y los que te rodean
Al principio vimos que, con sus diferencias, la
relación entre los vecinos era cordial y que todos ellos eran aparentemente
normales. Lo que se nos muestra durante el desarrollo, y ese es el mensaje (aparte
de los prejuicios que todos tienen hacia las personas con enfermedades
mentales), que los “locos” no eran Nuria o Joaquín, sino, en cierta manera,
ellos. Aunque no tenían problemas mentales diagnosticados, por el carácter que
tenían, sus problemas personales, sus circunstancias, sus vivencias, eran igual
de complejos e inestables que cualquier ser humano. Veamos a sus protagonistas:
- Alberto. Informático que se ha buscado un nuevo
lugar para vivir, bien pequeño, porque el piso actual necesita alquilarlo para
pagarle una pensión a su exmujer que se ha marchado con otro hombre junto a sus
hijos, a los que apenas puede ver.
- Nuria. Una chica de treinta y cinco años que, a
causa de una grave crisis que le hizo sentir una angustia extrema, tuvo que empezar
a medicarse para tratar su problema. Es agradable y no quiere pareja bajo
ningún concepto.
- Lucas. Un chico de veintiún años, muy progre en cuanto a la sexualidad, al que
mantiene su padre, universitario, enganchado al móvil, que viste informal y se
comporta como tal, deslenguado pero cariñoso con Nuria, y que tiene una
relación en ciernes con la hija de Maite.
- Maite. Divorciada, con una relación compleja con su
hija adolescente con la que no logra conectar, y que sube a Instagram fotos y
vídeos subidos de tono sin que su madre lo sepa, cuyas peleas se escuchan en
todo el bloque de pisos.
- Lola. La mayor del grupo y presidenta de la
comunidad desde hace poco. La más graciosa por su acento y sus comentarios
llenos de naturalidad. En el momento más triste de la película, descubrimos que
todos la conocen como “La invisible”, porque no tiene vida y nadie le hace
caso. Ella misma reconoce que se interesa por la vida de los demás porque nadie
se interesa por la suya.
- Fernando. Taxista
desde bien joven, que no soporta a Lucas, y que es acusado por este de ser facha,
racista y homófobo. Además, es aficionado
a los excesos culinarios y a las mujeres de
mala vida.
- Ricardo. Un antiguo
profesor que se considera más de lo que es, que habla con aires de superioridad
por sus conocimientos y cultura, lleno de verborrea, que tuvo un pasado duro,
puesto que tuvo que cuidar de su madre con demencia, y que está resentido
porque eligieron a Lola después de que él ostentará el cargo con anterioridad.
Lo llamativo es que no son ellos mismos quienes se
definen así en primera instancia, sino unos a otros, cuando comienzan a
descalificarse. Por eso, lo que parecía una relación idílica entre vecinos, con
sonrisas, empatía y buenos deseos al compartir ascensor o durante los pocos
segundos donde coincidían en el rellano, escondía lo que pensaban de sus queridos compañeros, mostrando cuán
hipócritas eran. Una clara muestra donde se cumplen las palabras de Santiago: “donde hay celos y contención, allí hay
perturbación y toda obra perversa” (Stg 3:16).
El mundo que
te rodea es igual
De personas así está llena la sociedad. Quizá algunas
de las características señaladas te muestran a ti, o a mí. Quizá es la mezcla
de varias de ellas, u otras diferentes. Vemos casados y solteros felices y
otros amargados, divorciados con una nueva vida y otros sin ella, con hijos o
sin ellos, enfermos o sanos, con trabajo o sin él, con buenas o malas
relaciones familiares, y un sinfín de posibilidades.
La cuestión es que siempre consideramos que los que no
son normales son los demás. Por eso, como he dicho en más de una ocasión, el deporte más practicado por la humanidad
es “hablar de los demás”, y que consiste, básicamente:
- en compararse con ellos.
- en creerse superior o inferior.
- en sentir ira o envidia.
- en mostrar lo mejores o peores que son sus vidas.
- en señalar sus defectos.
- en recalcar una y otra vez los errores que han
cometido o cometen.
- en mostrar cuán equivocados están en diversas áreas.
Esto es algo que se nota inmediatamente en cualquiera
de aquellos que son practicantes de tal deporte.
En lugar de hablar de las cosas buenas de la vida, de sus experiencias, de los
libros que han leído, de sus sanas aficiones, de narrar a qué dedican el tiempo
de forma constructiva, vuelcan la conversación lo antes posible a los
derroteros que les fascinan, centrando la conversación en los otros. Están deseándolo, y se les nota en el rostro cuando
entran en esa especie de éxtasis que delata cuánto disfrutan de hacerlo.
También se da el caso de aquellos que apenas escuchan,
y buscan la mínima oportunidad para pasar al “yo”, y contar cuánto bien hacen o
describir repetidamente sus penurias, para mostrar que las suyas son más graves
que las de sus interlocutores. Recuerdo una mañana, en la sala de espera de un
hospital, mientras que le hacían una prueba a un familiar, la conversación –por
llamarla de alguna manera- de las dos personas que había a mi lado: una señora
de unos sesenta años y un señor de más de setenta: “yo tengo…”, “pues anda que
yo”, “me han dicho que…”, “pues lo mío es más grave”… y así sin descanso. Los
dos subían sin descanso la gravedad respecto a la del otro. No respiraban. No
se preguntaban nada. No había interés real en la persona que tenían enfrente.
Fueron cinco minutos intensos, donde todo se basó en señalar que lo suyo era
“más horrible”. Cuando ya no tenían nada más que contar al respecto, el
silencio cayó de forma abrupta y no intercambiaron una sola palabra más.
Toma
consciencia
Si fuéramos conscientes –y esa es mi intención,
hacernos conscientes- que nadie conoce de forma absolutamente completa al
prójimo, sus vivencias más íntimas, los pensamientos y sentimientos que jamás
ha revelado a nadie, cómo experimentó el pasado y cómo siente el presente, el deporte que he señalado dejaría de tener
tantos practicantes. Se dejarían de desglosar
a los otros como si se tuviera la supuesta habilidad de leer sus mentes y
corazones.
Esto no significa que no se pueda tener opiniones,
sino empezar a “juzgar con juicio justo” (Jn. 7:24), y esto se basa en hacerlo
conforme a toda la verdad. Si esta no
se conoce –lo cual suele suceder en más ocasiones de las que nos creemos-, o
las intenciones no son las adecuadas, lo mejor es callar, ante ti mismo o ante
aquellos con los que sueles reunirte para hablar: “¿Quién es sabio y entendido entre vosotros? Muestre por la buena
conducta sus obras en sabia mansedumbre. Pero si tenéis celos amargos y
contención en vuestro corazón, no os jactéis, ni mintáis contra la verdad;
porque esta sabiduría no es la que desciende de lo alto, sino terrenal, animal,
diabólica. Porque donde hay celos y contención, allí hay perturbación y toda
obra perversa. Pero la sabiduría que es
de lo alto es primeramente pura, después pacífica, amable, benigna, llena de
misericordia y de buenos frutos, sin incertidumbre ni hipocresía. Y el
fruto de justicia se siembra en paz para aquellos que hacen la paz” (Stg.
3:13-18).
Por eso, hace ya varios años, aprendí por las malas
que no puedo cambiar a nadie, por
mucho que muestre y argumente sólidamente mis creencias a lo largo y ancho de estos
escritos. Señalo lo que creo, basándome en la mayor evidencia posible, en todo
lo que observo en el mundo, y cómo esto se alinea o choca con lo que Dios
muestra en Su Palabra. En lugar de compararme con la vida de los demás, de si
son mejores o peores, de si sus circunstancias son positivas o negativas
respecto a las mías, me centro en mirarme
a mí mismo. Lo que hagan o dejen de hacer los demás no está en mi mano. Lanzo la semilla, pero cultivarla está
en sus manos y que crezca en las de Dios (cf. 1 Co. 3:6). Creer lo contrario
solo trae frustración.
Para no caer en ese juego pernicioso de “comparación”,
o no seguir en él si ya eres parte del mismo, la regla es muy sencilla: valora en primer lugar si tu forma de
pensar, sentir y vivir es conforme a la voluntad de Dios, expresada en Su
Palabra, y no tanto en la persona que se te pasa por la mente o que conoces.
Aparte, cuando estés con tus amigos o conocidos, mide
cómo hablas de los demás, y concéntrate más bien en esa breve lista que antes
mencioné: habla de las cosas buenas de la vida, de tus experiencias, aunque
sean de dolor –pero dejando al otro expresarse igualmente-, de los libros que
has leído, de tus sanas aficiones, narrando a qué dedicas el tiempo de forma
constructiva y pregunta sobre los mismos asuntos para conversar.
Si te entrenas
para llevar a cabo estas pautas, aunque te cueste un tiempo convertirlo en un
hábito, te aseguro que no tendrás la necesidad de compararte con nadie.
Suscribirse a:
Entradas (Atom)