"War Games" es una película de 1983 que hace gala del más puro estilo ochentero, en una historia que combina el miedo a la destrucción nuclear y la constante tensión de la Guerra Fría, el cada vez mayor interés por la informática, tecnología que aún se muestra en pantalla como un montón de interruptores y bombillas que se apagan y encienden, y la presencia de unos chavales que son a la vez parte y solución del problema que articula el argumento de la historia.
Sin hacer mucho destripe (no más que el que hace el tráiler a continuación), la premisa de la película nos muestra cómo el departamento de defensa de los Estados Unidos ha delegado el control de su sistema de respuesta ante ataques nucleares a una inteligencia artificial que sería capaz de evaluar el riesgo existente en cada momento, para así poder responder como si de un juego se tratase.
Nuestro protagonista, David Lightman, es un chaval de instituto con inquietudes por la informática y la cacharrería de su tiempo, que lo mismo se conecta al ordenador del instituto para cambiarse las notas, que intenta conectarse a los ordenadores de una empresa de videojuegos para poder jugar "de gratis" sin pasar por caja. Es en este intento en el que se conecta por error a los sistemas que controlan el programa de seguridad nuclear, y sin saber el alcance de lo que está haciendo, comienza a "jugar".
No había visto esta película hasta hoy (40 años después de su estreno). Puedo poner como excusa que la película es más vieja que yo (lo cual es verdad), y que si bien la tenía en mi lista de "películas que ver", la falta de tiempo y la ingente cantidad de entretenimiento audiovisual me ha retenido de verla hasta ahora.
La perspectiva actual (y el rigor y criticidad que hay que evitar a la hora de evaluar los guiones de cine) te deja más que clara la imposibilidad de que un adolescente pudiera ser capaz de penetrar en los sistemas del gobierno, o que directamente uno de los organismos del mundo que más gaste en términos de seguridad pudiera ser tan vulnerable (démosle el beneficio de la duda al guion en aras de poder construir un buen argumento para la historia). A pesar de ello, sí que sigue estando vigente en cuanto a cuestiones éticas que hemos de tener presentes en tanto que la tecnología tiene cada vez mayor protagonismo en nuestras vidas, cosa que podemos apreciar cada día más con la incipiente presencia de las inteligencias artificiales que parecen ser capaces de realizar cada vez más cosas.
Los siguientes interrogantes surgen rápidamente al hacer una breve reflexión sobre la película:
- ¿Hemos de delegar toda responsabilidad en la toma de decisiones a unos algoritmos que en ocasiones actúan de un modo tan opaco que no permite entender el criterio adoptado para la decisión tomada?
- ¿Hasta qué punto han de fijarse unos patrones éticos para la implementación y uso de algoritmos de decisión o inteligencias artificiales?
- ¿Son realmente inteligentes estos sistemas?
- ¿Debe la tecnología ser un mero apoyo y soporte para una acción últimamente humana, o hemos de delegar toda la responsabilidad a la máquina independientemente de la tarea a realizar?
- ¿Estaríamos abandonando voluntariamente nuestra identidad como humanos en tanto que más delegación de atribuciones depositemos en la tecnología?
Espero que nadie me malinterprete como un ludita respecto a la tecnología. Para nada, soy firme defensor de que gracias a la tecnología (y la ciencia en general) vivimos más y mejor, pero también hemos de ser conscientes de toda la raigambre propiamente humana que una máquina no puede atender ni entender.
A veces me da la sensación de que nuestra sociedad de hoy, tan marcada por la búsqueda del placer inmediato, estaría en ocasiones dispuesta a desentenderse de sí misma y sus responsabilidades como especie si a cambio tenemos una herramienta que haga el trabajo por nosotros: escriba nuestros ensayos para clase (sin que luego revisemos si el resultado es realmente de calidad o no), ilustre nuestros contenidos audiovisuales (sin que reparemos en si el cómo se ha llegado a dicha imagen pueda haberse pasado por el forro los derechos de autoría de la obra de aquellos a los que ha plagiado para darnos resultado), o que elija por nosotros la película que ver a continuación (después de tanto tiempo reclamando la posibilidad de poder elegir qué ver, cuando por fin la tenemos dejamos que sea la plataforma la que nos diga que producto consumir, como cuando era la televisión lineal la que te daba la única opción disponible).
Puede que sean ejemplos tontos, pero la implicación a nivel social de ciertos aspectos de esta índole son importantes. No ya el caso extremo que nos muestra la película, donde se da la situación de que pueda detonarse la tercera guerra mundial por culpa de un sistema que funcione erróneamente y que muestra evidentes problemas de seguridad; pero si nos centramos en una escala más pequeña, propia de nuestro día a día, nuestra vida está siendo sesgada sin que nos demos cuenta, y como planteaba en una de esas preguntas que me surgían tras ver la película, quizá estemos abandonando nuestra humanidad en pos de las inteligencias artificiales, y lo hacemos sin ser conscientes de ello. Lo bueno es que de momento tenemos capacidad de tomar acción y decidir qué y cómo queremos actuar al respecto.
En un momento de la película, en el que hay que tomar una decisión en base a lo que el programa determina como un factor de riesgo inminente, se realiza la siguiente afirmación:
"You are listening to a machine. Do the world a favor and don't act like one"
Que bien podría ser una reflexión genérica ante todo este dilema. Seamos humanos. Usemos la tecnología, sí; aprovechémonos de sus beneficios y ventajas, sí; pero seamos humanos tanto en los objetivos a los que sometemos estos avances como con las consecuencias de los resultados que de ellos se obtienen.
Para dar cierre a esta divagación, la siguiente conferencia de Javier Fernández Panadero dentro del circuito de charlas de Naukas, y que se titula "La IA y tú", es una magnífica pieza donde realiza una reflexión bastante mejor elaborada que el barrunte de opinión que me acabas de leer a mí.
Quizá, en este juego sin fin donde se da la dicotomía de hasta qué punto delegar en la tecnología y hasta qué punto tomar las riendas, no sea el juego que queramos jugar, y tengamos que replantear el tablero y las reglas del mismo
"A strange game, the only winning move is not to play"
---
Nota curiosa: existe un perfil de LinkedIn de Stephen Falken, la persona detrás del programa protagonista de nuestra película. Más allá de la curiosidad, abre otro punto de duda y cuestionamiento: ¿hasta qué punto somos conscientes de la cantidad de información falsa que existe en internet? Para otro día.
