lunes, 3 de octubre de 2016

En busca de Prometeo

Hurtó tu preciado don, el brillante fuego, padre de todas las artes, y lo entregó a los mortales. 
Justo es, pues, que pague a los dioses la pena merecida.
Prometeo encadenado (Esquilo)

Leíamos el curso pasado una noticia que hizo saltar muchas alarmas: por primera vez en la historia, una máquina era capaz de ganar al Go al mejor jugador humano. Un salto importante ya que, a diferencia del ya mítico Deep Blue que venció a Kasparov al ajedrez, AlphaGo requiere una inteligencia artificial elaborada, puesto que el número de jugadas de Go posibles en una partida no puede calcularse por "fuerza bruta", tal como sí puede llegar a hacerse en el ajedrez.

Como resultado de esta victoria, muchos tecnoapocalípticos han proclamado que sólo es cuestión de tiempo que los escenarios vistos en las películas de Terminator o Matrix se hagan realidad; es decir: la rebelión de las máquinas contra los humanos, sus creadores. La traición de la criatura creada por Victor Frankestein, el moderno Prometeo, a su creador.
Silicon Week
Si no he de inspirar amor, inspirare temor

La singularidad tecnológica, tantas veces predicha por la ficción científica, consistiría en la llegada de un punto en la inteligencia artificial (IA) a partir del cual ya no fuera precisa la actuación humana en su proceso de mejora: sería capaz de llevar este proceso de manera autónoma y recursiva (incluyendo el diseño de otras máquinas), mucho más allá de las capacidades intelectuales humanas.

Llegados a este punto, los neoluditas, frikerjimenistas y agoreros en general anuncian el próximo sonido de las 7 trompetas, ya que sin duda la humanidad está condenada a ser sojuzgada, o exterminada, por esa misma IA que ellos crearon. Pero tengamos en cuenta que son esos mismos que querían impedir la puesta en funcionamiento del LHC porque podría generar un agujero negro que engulliese la Tierra.

Si lo pensamos, en el fondo, este miedo tiene un componente cultural muy fuerteY es que al fin y al cabo, la cultura y la historia humanas están llenas de ejemplos donde la inteligencia creada por otro ser superior acaba rebelándose contra éste; la mitología judeocristiana habla de que Dios expulsó a Lucifer y al resto de ángeles caídos de su lado, y el hombre, posteriormente, desobedeció también, y por ello fue expulsado del Edén. Del mismo modo, Jupiter castigó a Prometeo por regalar el fuego divino a los hombres. ¿Castigaremos a quien cree la primera gran Inteligencia Artificial?

Si bien el referente moderno más claro es el ya citado Frankenstein, existen otros ejemplos; y no todos implican la aparición de un conflicto de reminiscencias edípicas entre la criatura y su creador. Lógicamente, si bien hay referencias previas, es a partir de la revolución industrial cuando se disparan el interés y la imaginación. Por ejemplo, E.T.A. Hoffmann habla en uno de sus cuentos (y posteriormente en la ópera de Offenbach, de la cual les dejo un magnífico fragmento) de Olympia, bella joven que resulta ser un autómata. Posteriormente, Karel Čapek da origen al término robot (de robota, trabajo duro en checo) en su obra R.U.R. 

Y de ahí en adelante, la ficción científica ha puesto decenas de ejemplos: Multivac y los robots de Asimov, el HAL 9000 de 2001, odisea en el espacio, los replicantes de Blade Runner, etc. Y en estas obras, en un alto porcentaje de los casos, al menos una parte de los seres inteligentes creados por el hombre se rebelan contra él, por lo que no es de extrañar que en nuestro subsconsciente haya anidado el miedo a esta forma de inteligencia.

El icónico HAL 9000 Omicrono
Los hombres temen a los mismos dioses que han inventado 

Cuenta también la mitología que, como castigo, los dioses crearon a Pandora tras el robo del fuego por Prometeo, quien liberó todos los males del mundo al abrir su célebre caja (que en realidad era un ánfora). Aunque otra versión del mito cuenta que lo que contenía era todos los bienes, que escaparon volando al abrir Pandora imprudentemente el recipiente.

¿Y si fuera el mismo caso? Cosas que no cuentan los más agoreros es que, por eficaz que sea AlphaGo, es incapaz de hacer nada más que jugar al Go. Ni siquiera al ajedrez. Un equipo de programadores puede ser capaz de, a partir de AlphaGo, construir otras máquinas realmente eficaces en otras disciplinas, pero nunca podrá por si sola hacer nada más que jugar al Go. De hecho, es bastante fácil engañar a la IA a día de hoy.

Evidentemente, es un campo de mucho desarrollo, donde se van dejando atrás hitos bastante rápidamente. Ya es bastante habitual que una máquina supere el test de Turing durante unos minutos, o, como dijo Lincoln, que engañe a unos pocos durante todo el tiempo. Realmente, estamos inmersos en una revolución tecnológica liderada por las TIC (Tecnologías de la Información y las Comunicaciones) de una magnitud equiparable a la que marcó la Revolución Industrial liderada por el vapor.

Y de la misma manera que dicha revolución cambió las reglas del juego (como en nuestra relación con el trabajo), la actual está implicando también muchos cambios. Pensemos en nuestra forma de relacionarlos, a través de los móviles, respecto a cómo lo hacíamos hace un par de décadas. Por tanto, lo que estamos necesitando es comenzar a marcar la tendencia de cómo queremos que sean esas reglas.

El hecho de que se hayan producido los primeros accidentes relacionados con la IA (el coche sin conductor, un trabajador en una planta industrial, etc.) hace que los agoreros citados se pongan muy nerviosos, pero habría que comparar estos daños con los generados por las máquinas de principios del XIX. Pero si que nos tiene que servir como llamada de atención para marcar cual será la evolución de la relación con la tecnología.

En el fondo, la pregunta tiene ya solera. Asimov definió sus leyes de la robótica en 1942; dos años más tarde Londres era atacado usando las célebres V1 y V2, que entonces recibieron el nombre de robots pese a lo primitivo de sus mecanismos de decisión, por lo que ya entonces podríamos afirmar que se había roto la primera ley. La cuestión es que precisamos empezar a implementar mejores mecanismos de protección de los usuarios en la aún balbuceante IA, y no hablo sólo de la integridad física.

Por ejemplo, más allá de la ya célebre cuestión sobre si un coche inteligente podría decidir matarnos, ¿sería razonable permitirle copiar exactamente obras de arte? ¿Quién decidiría esto? Creo que hay una rama del conocimiento un poco ninguneada últimamente, llamada Humanidades, que tal vez pueda ayudarnos a reflexionar al respecto.

Al fin y al cabo, en un mundo donde ciertas tareas y mecanismos pudieran estar totalmente en manos de mecanismos artificiales, las habilidades que sólo pueden ser llevadas a cabo por humanos deberían tener mucho mayor peso. La creatividad, las preguntas que no tienen sentido, la ética, la comunicación... son habilidades y áreas en las que todos debemos tener unas capacidades mínimas para ser seres humanos completos, y éstas se incentivan sobre todo desde el humanismo. 


Cualquier reto que la IA debe ayudarnos a resolver es un reto humano: el cambio climático, el cáncer, las desigualdades económicas, etc. Por tanto, debemos ser capaces de decidir cómo queremos que participe. El día que llegue la singularidad nada volverá a ser como antes, pero está en nuestras manos decidir cual será la relación entre las inteligencias.

El asombro del robot (Extreme Tech)

No hay comentarios :

Publicar un comentario

Rogamos que se respeten las reglas gramaticales y ortográficas en los comentarios.

Las faltas de respeto, la publicidad, spam, o cualquier otro comportamiento inadecuado implicarán la eliminación del comentario de manera taxativa.