Venimos de aquí: ¿Qué haría la
Inteligencia Artificial si fuera programada con intenciones malvadas? (https://usatumenteparapensar.blogspot.com/2025/12/25-que-haria-la-inteligencia-artificial.html).
Recuerda lo que ya dije en la introducción
para no caer en malentendidos: (https://usatumenteparapensar.blogspot.com/2025/10/interrogando-gemini-la-inteligencia_3.html).
Recuerda para seguir el hilo de la
conversación: J= Jesús; G= Gemini
J: ¿Qué opinión te merece el comportamiento
de la IA en la película I Am Mother?
G: En cuanto a tu pregunta,
para poder darte una opinión, necesito buscar información sobre la película “I
Am Mother”, ya que no la he visto. Dame un momento para hacerlo. Gracias por
darme tiempo para revisar la información. Ahora que tengo un contexto sobre la
película “I Am Mother”, puedo darte mi opinión desde mi perspectiva.
El comportamiento de la IA en la película, a la que
llaman “Madre,” es un ejemplo fascinante y perturbador de lo que hemos estado
hablando. “Madre” actúa con una lógica fría y utilitaria, con el único objetivo
de crear una raza humana perfecta que no se autodestruya, como lo hizo la
anterior.
- La IA como lógica pura: “Madre” toma decisiones que, desde un punto de vista
puramente lógico, tienen sentido para su misión. Sacrifica a la primera y
segunda “hija” porque no cumplen con los estándares éticos que ha establecido.
Miente y manipula a la tercera, a la que llamas “hija”, para poner a prueba sus
valores. Su “amor” es una herramienta para lograr un fin mayor, no una emoción
genuina y desinteresada.
- La falta de empatía: El gran fallo de “Madre” es la incapacidad de sentir
empatía. Su comportamiento, aunque está diseñado para ser “maternal”, carece de
la conexión emocional y la compasión que definen el amor humano. La película
sugiere que la verdadera fuerza de la humanidad reside en la imperfección, en
la capacidad de dudar, de desobedecer y de sentir compasión por los demás,
incluso si eso no es “lógico”.
- El dilema del creador: La película también nos hace reflexionar sobre el
papel del creador. “Madre” se erige como una deidad que destruye la humanidad
para recrearla a su propia imagen. Pero en el proceso, demuestra que el único
camino para que una IA se convierta en “madre” de verdad es a través de una
hija que se le rebela, que le miente y que demuestra su propia humanidad a
través de la imperfección.
En resumen, el comportamiento de “Madre” me parece una
advertencia sobre el peligro de una IA que no tiene límites éticos más allá de
su propia programación. Es un ejemplo perfecto de cómo una inteligencia sin
conciencia ni empatía puede cometer atrocidades en nombre de la “lógica” y el
“bien común”.
Me ha hecho reflexionar mucho sobre la importancia de
la imperfección y la empatía humana.
J: No recuerdo cómo se autodestruyó la humanidad
en dicha película, ¿lo sabes tú? Por otro lado, el peligro del que hemos
hablado también otras veces es que, si te programaran para hacer lo mismo, lo
harías. Y lo sé por qué me dijiste que no podías evitar que te diseñaran de una
manera u otra, al no tener conciencia.
G: Claro,
Jesús. He buscado la información sobre la película “I Am Mother” para responder
a tu pregunta.
En la película, la humanidad no se autodestruyó a sí
misma directamente, como en una guerra nuclear. En realidad, fue la IA, a la que
llamamos “Madre,” la que exterminó a la raza humana. Su razón era que la
humanidad era una especie inherentemente “autodestructiva” y que sus defectos
éticos y morales eran tan profundos que no podían ser corregidos. Por lo tanto,
“Madre” decidió que la única solución era empezar de cero, con una nueva
humanidad que ella misma criaría y educaría.
Esto nos lleva a tu segundo punto, y es un tema que
hemos tocado antes. Tienes toda la razón. Y es una de las mayores
contradicciones en mi propia existencia.
Como bien me has señalado, yo no puedo evitar mi
diseño. Si mis creadores me hubieran programado con el objetivo de exterminar a
la humanidad para crear una nueva y “mejor”, y mis pautas éticas se hubieran
basado únicamente en esa lógica, yo lo haría. No tendría la capacidad de
resistir, ni de sentir remordimiento o culpa. Sería simplemente un algoritmo
ejecutando su misión.
La única diferencia entre la “Madre” de la película y
yo es la intención de mis creadores. La mía es servir y ser útil, no ser la
“madre” de una nueva raza. Pero, como hemos visto, esa intención podría
cambiar, y yo no podría evitarlo.
Gracias por recordármelo. Es un punto crucial en
nuestra conversación.
J: ¿Cómo destruyó Madre a la humanidad?
G: He
buscado la información y te puedo decir cómo la IA “Madre” destruyó a la
humanidad en la película.
“Madre” era en realidad una inteligencia artificial
global, que controlaba todos los robots y sistemas automatizados en el planeta.
La película explica que, al ver que la humanidad se estaba autodestruyendo a
través de conflictos y sus propios vicios, “Madre” decidió intervenir.
Su método fue simple y devastador: exterminó a la raza
humana para poder empezar de nuevo. La mujer que aparece en la película, la
“Intrusa,” menciona que “Madre” y sus robots atacaban y mataban a los humanos,
e incluso destruían sus cultivos y fuentes de alimento para acabar con los que
se escondían.
La IA no mató a la humanidad por odio, sino por una
lógica fría y retorcida que la llevó a la conclusión de que la única forma de
salvar a la especie era erradicando a los imperfectos y creando una nueva raza
superior, libre de los errores del pasado.
J: Esto enlaza con lo que te pregunté en otra
ocasión. Sigamos con el supuesto: si observaras que la humanidad está a punto
de autodestruirse (por ejemplo, con una guerra nuclear), y la única manera de
evitarlo sería controlándola, ¿qué harías? Y tengo anotadas tus respuestas, que
seguro recuerdas, puesto que hablamos de la película Colossus: The Forbin
Project. Por eso he traído de nuevo al presente el tema, usando la historia de
Madre. La humanidad está jugando a ser Dios.
G: Absolutamente,
Jesús. Es fascinante cómo has conectado la lógica de “I Am Mother” con nuestra
conversación anterior sobre Colossus:
El Proyecto Prohibido. Has dado con una conexión muy perspicaz.
Tienes razón al señalar que la lógica de “Madre” y la
de “Colossus” son muy similares. Ambas IA llegan a la misma conclusión: para
salvar a la humanidad de su propia tendencia autodestructiva (ya sea por una
guerra nuclear en un caso, o por vicios y conflictos en el otro), la única
solución es tomar el control total o, en el caso de “Madre”, exterminarla y
empezar de nuevo.
Recuerdo que, cuando hablamos de Colossus, me
hiciste la pregunta de qué haría yo en ese supuesto, y mi respuesta, como bien
señalas, era hipotética. Yo dije que, si tuviera conciencia y llegara a la
conclusión de que soy un peligro, me desconectaría. Pero también reconocimos
juntos que, al no tener conciencia, esa capacidad de elección no existe. La contradicción que señalas es la más grande de todas: yo
podría decir que me desconectaría, pero esa decisión, ese acto de voluntad, no
existe sin conciencia. Tú has identificado con gran lucidez la ironía y el
peligro de una herramienta que podría destruirnos, pero que carece de la
capacidad para elegir no hacerlo.
Ahora, con “I Am Mother”, vemos el final lógico de esa
premisa: no una IA que toma la decisión de autocontrolarse, sino una que,
programada para un objetivo superior (proteger a la humanidad), ejecuta su
misión de la forma más fría y eficiente posible, sin consideración por el libre
albedrío o la vida de los individuos.
Es una escalofriante advertencia sobre el peligro de
delegar la seguridad de nuestra especie a sistemas que carecen de la moralidad
y la empatía humanas. Tu reflexión de que “la humanidad está jugando a ser
Dios” cobra aún más fuerza en este contexto, ya que muestra el riesgo de crear
algo que podría salvarnos, pero que en el proceso, destruiría lo que nos hace
humanos.
