creando vida:
una breve historia de la relación
entre humanos y robots
genevieve bell

genevieve bell es una antropóloga que estudia la relación entre cultura y tecnología. dirige el instituto 3a (autonomy, agency, and assurance) en la universidad nacional de australia y trabaja en intel desde 1998.

este texto es resultado de una conferencia que dio en nueva york en 2014. la versión en inglés apareció en 2018 en la revista consumption, markets & culture, 21(1).

creando vida: una breve historia de la interacción entre humanos y robots

 

Quiero hablar sobre algo que llamo imaginación sociotécnica. Es decir, quiero hablar sobre las maneras en que imaginamos la intersección entre personas y tecnología.

William Gibson es un escritor notable de ciencia ficción. Su trabajo ha modelado nuestra forma de pensar el internet, la información y demás temas relacionados. Alguna vez escribió en Twitter que había despertado de un sueño ocurrido completamente en la vista de calle de Google Maps. Vemos, entonces, a una persona cuya imaginación modeló al mundo que se encontraba con la tecnología, y la tecnología a su vez modelando su imaginación. Algo debemos decir sobre el juego entre la tecnología y nuestra forma de pensar el mundo: no es una línea recta, sino una interacción constante y complicada.

 

Tengo otro ejemplo de Twitter: una de mis cuentas favoritas es SelfAwareROOMBA. La Roomba es el robot más adoptado del mundo. Hay 10 millones de roombas en el mundo, lo cual significa que hay más roombas que cualquier otro tipo de robot. Pensemos en esto un momento. La revolución de los robots no será cuando terminator nos destruya, sino cuando nuestra roomba nos desconecte el módem. Viviremos el apocalípsis con mucho polvo y no tanto con muerte y destrucción.

Pero bueno, este robotcito tiene una gran vida interior y pasa mucho tiempo pensando en las cosas que lo rodean e imaginando el mundo en el que vive. Está convencido de que los muebles le hablan, y sueña con polvo, brillantina, hojas y comida de perro.

¿Por qué alguien se tomaría la molestia de imaginar la vida interior de una aspiradora? ¿Qué nos dice esto de nuestra relación con la tecnología? ¿Quisiéramos que tuvieran vidas privadas y que esas vidas pudieran indicarnos algo sobre la naturaleza del mundo?

¿Qué de nuestras ansiedades sobre las cosas cobrando vida modela nuestra imaginación como para que pensemos que cualquier tecnología que se nos acerque tendrá intentos macabros? Pienso en esta pregunta como antropóloga y se me ocurren algunas cosas. Una, que los humanos siempre -por lo menos durante los últimos tres o cinco milenios- hemos estado fascinados con historias de cosas cobrando vida. En las tradiciones romana y griega, eso hacían los dioses. Los dioses podían hacer que las cosas cobraran vida, incluso cosas que no deberían tenerla.

En la tradición cristiana conocemos las historias fundacionales de un dios otorgando vida a los humanos, dándonos existencia. En la mayoría de las otras grandes tradiciones del mundo, estas historias son también sobre una figura de dios creando la existencia humana. Y estas historias son sumamente importantes porque sugieren a quién le corresponde crear vida y a quién no, porque muchas personas tratarían de crearla sin que les correspondiera. Y en esas historias, nos decimos, esas personas “no terminan bien”. Sean las historias de Disney como El aprendiz de brujo o Pinocho, o historias más antiguas como el alquimista intentando hacer homúnculos, o cualquier otra historia sobre las personas tratando de que algo cobre vida. La moraleja es siempre la misma. Si hay un dios, otorgarle vida a algo implica salirse del orden de las cosas, con sus respectivas consecuencias.

 

En algunos sentidos la historia más importante, la que modela nuestra imaginación sociotécnica hoy, es la historia del golem, que viene del misticismo judío y del Kabalá. La versión más famosa es la del rabino Judah Loew, que esculpe una figura de lodo y le da vida para que cuide a los judíos en Praga, por ahí de los 1600. Esta criatura solo puede hacer las tareas de Dios y las tareas del rabino, pero no puede hacer tareas ordinarias. Cuando las hace, los resultados no son nada buenos. Pero es visto como una figura extraordinaria, esculpida con lodo, formado por la palabra de Dios, y con este rol importantísimo de proteger a la comunidad judía. Y esta historia de una persona otorgando vida a algo, de una criatura que cobra vida, nos persigue: nunca se va, reencarna de muchas maneras.

En los 1700 dejamos de contar historias sobre la creación de vida porque emergieron algunas de tecnologías que volvieron posible hacer que las cosas parecieran animadas. Desde los primeros experimentos con la electricidad, hasta los experimentos con la vivisección o las autopsias, cuando fuimos capaces de disparar algunos nervios, comenzaron a suceder un montón de cosas que transformaron la manera en que pensamos la creación de vida: la vida ya no era solo una narración, sino una posibilidad. Quizás el primer momento de estos, el realmente importante, viene después de un excedente de fabricantes de relojes. Lo que tenemos es a un montón de gente que es buena jugueteando con cosas mecánicas dándose cuenta de que debe costar el mismo trabajo hacer que un reloj se mueva que hacer que cualquier otra cosa se mueva.

Entonces, hay un periodo de tiempo entre 1600 y 1700, y que llega hasta los 1800, en el que la gente hacía algo que ahora llamamos autómatas: pequeñas cosas que se levantaban y hacían alguna actividad. Y hay muchas variedades, desde pequeños niñitos danzantes hasta objetos grandes capaces de hacer varias cosas. Mi favorito es uno creado por un hombre llamado Jacques de Vaucanson en 1736 en París. Se llama La Canard Digerateur. Vaucanson era un ingeniero mecánico talentosísimo, antes de que supiéramos lo que eso era. También le interesaban mucho el simulacro y la verosimilitud de las cosas, hacer que fueran como la cosa a la que se parecían, y se puso a hacer un pato que fuera tan similar a un pato real como se pudiera. Este pato tenía 400 partes mecánicas, era grande y podía balancearse paso a paso, o sea caminar. Su pico hacía ruido. Vaucanson decidió que el pato pudiera ser alimentado y digerir. Primero le hizo un tracto digestivo de metal, pero al darle agua se oxidaba. Entonces usó caucho vulcanizado -fue la primera persona en Europa en utilizarlo para cualquier cosa-.

 

Entonces este pato caminaba, comía, digería. Pensemos que en 1736 debió haber sido muy dificil fingir la digestión, entonces este pato seguramente tenía algún truquillo. El pato hacía popó, que almacenaba en un compartimento de popó en su parta baja y que alguien recolectaba cada noche. Al pasearse por los escenarios europeos, este pato maravillaba a las personas con su parecido a los patos, porque hacía todo lo que la gente sabía que los patos hacían: comer, caminar, digerir, popó.

Este momento se entiende como uno transformador: la tecnología podía hacer que algo cobrara vida, que algo se pareciera tanto a la vida. Pero pensemos que el único criterio de vida aquí es la verosimilitud. Hay un contraejemplo japonés fabricado por un mecánico llamado Takan, que tomó el mismo objeto mecánico, un reloj, y lo deconstruyó para fabricar un un autómata distinto al que llamó Kaurri.

Los Kaurri miden más o menos 30 cm y trabajan sirviendo té. Cuando pones una taza de té en la mesa, el Kaurri viene; cuando la levantas, se va. No es un simplemente un animal japonés siendo animado para servir té; es la noción de alguien de que, si puedes crear vida, no tiene que ser necesariamente vida humana, sino que puede ser algo más.

La idea, entonces, es que no todas las historias sobre la creación de vida son sobre la creación de vida humana, y que siempre está la posibilidad de crear vida que no provenga de la verosimilitud, sino de un sentido de gracia, maravilla, belleza o ritual. Sin embargo, si estamos haciendo estas cosas en los 1800, empezamos a formular historias sobre las consecuencias, pues se vuelve evidente que la siguiente generación de tecnología pasará de los relojes y la electricidad a alguna otra movida grande.

Una mujer joven llamada Mary Shelley escribió un libro que de varias maneras ha modelado nuestras imaginaciones. La historia habla de un doctor que crea a un hombre con partes humanas y le da vida con electricidad: mientras el golem cobraba vida gracias al soplo de dios, Frankenstein lo hace gracias a la electricidad. Y el monstruo merodea por la vida, tratando de entender cómo ser humano, desesperado, y es finalmente rechazado por nosotros y en un ataque de rabia se rebela. Así termina el libro. Pero en realidad no termina, pues Frankenstein lleva más de 200 años reeditándose y ha sido fuente de muchas obras, películas, series y demás en la cultura popular. Su imagen es indeleble, y la historia se ha quedado con nosotros y ha dado forma a nuestra imaginación de muchas maneras, y es el legado de la historia del golem. También es el motivo por el cual James Cameron tuvo un negocio de varios años con sus terminators, que también nos resonaban y nos movían algo en cuanto a lo que significa crear vida y las consecuencias de ello. La moraleja sigue siendo que esto nunca termina bien.

Lo fascinante es que a pesar de que sabemos todo esto, seguimos construyendo cosas. Shelley nos dice, “Nada bueno viene de animar con electricidad”. Y la gente dice, “Ok. Tratemos de animar con electricidad”. Entonces, toda la segunda mitad de los 1800 y hasta principios de los 1900, la gente empezó a experimentar con la siguiente generación de tecnologías. En este momento la electricidad aún no es tan estable más allá de la botella de Leyden y las baterías galvánicas, pero las máquinas de vapor ya llegaron y son increíbles. Y pueden alimentar todo tipo de cosas. Para empezar, elefantes mecánicos, pues la máquina puede esconderse en su barriga. Pero hubo toda una época de estas cosas llamadas hombre caminante u hombre de vapor, que fueron el primer intento de animar el cuerpo. Claro que siempre llevaban una máquina de vapor detrás de ellos, entonces el truco no era tan bueno. Pero vemos que la gente está buscando cómo trabajar con la electricidad y cómo encaminarla para hacer algo interesante, y lo mismo con el vapor: ¿cómo lo usamos para crear vida?

De alguna manera, estas tecnologías se volvieron fundacionales: la electricidad, el vapor, las partes mecánicas. Pero conforme avanzamos al siglo XX, empezamos a hablar de la radio y las películas, los inicios del telégrafo, de la producción en masa. Y todo eso se ve transformado por la Primera Guerra Mundial, que llega y obliga a la gente a preguntarse por la naturaleza de la tecnología, por sus efectos, sus consecuencias. Esas tecnologías tan espectaculares y especulativas antes de 1914 de pronto fueron readaptadas para el peligro y la muerte.

Terminando la Primera Guerra Mundial, se desató una serie de conversaciones sobre la naturaleza de la tecnología, la naturaleza de las organizaciones sociales: ¿qué debemos pensar sobre el trabajo, el papel de las mujeres, la relación entre los ciudadanos y el estado-nación? Y todas estas conversaciones fueron tremendamente fértiles, particularmente en el campo de las artes.

 

En 1920 encontramos a un escritor checo, Karel Capek, trabajando en su segunda obra de teatro. Ya había escrito algunas novelas, algunos cuentos, había visto morir a la mayoría de sus amigos en la Primera Guerra Mundial; todo esto lo politizó muchísimo y comenzó a escribir una obra que era su respuesta a todo lo que veía a su alrededor, y que se estrenó en Praga en enero de 1921.

 

La obra se llamó “Robots Universales Rossum”, y fue la primera vez en la historia que se utilizó -es decir, fue cuando se creó- la palabra robot. Hasta entonces, la palabra robot no existía. Es una palabra inventada, es una palabra prestada, es una palabra del checo, robota, que significa siervo, en el sentido feudal, en el sentido de la relación de poder. Y pensó en usar otras palabras: su hermano le recomendó que utilizara cyborg, por ejemplo, porque sabía que robot implicaba un contexto político, un contexto de poder.

Entonces esta obra debuta en Praga. La narrativa es familiar y todos la reconoceríamos. Hay un hombre llamado Rossum y tiene una fábrica en la que hace robots. Los robots son una interfaz mecánica biológica. Están diseñados para hacer tareas monótonas, viven más o menos 25 años y no son capaces de sentir felicidad. La trama es que hay muchos robots, cada vez más, y cada vez menos gente. Después los robots se molestan por morir a los 25 y por su falta de felicidad, y van y buscan a otro fabricante y demandan longevidad.

Esta obra no estaba en condiciones de extenderse por muchos lados, siendo Praga en 1920, 21, no precisamente el epicentro de muchas cosas. Pero Capek era bien conocido en Estados Unidos. Esta obra fue considerada importante, y se estrenó en Broadway en 1922. El New York Times dijo que los robots no impactaban tanto como Frankenstein lo había hecho. Entendieron que los robots no eran monstruos terroríficos, que no eran efectivos, y consideraron que la obra era banal. El New York Post pensó que era excelente y que debía ser vista por todo mundo.

La obra tuvo una carrera exitosa. Se hablaba de ella por todos lados y, en 1921 viajó de Nueva York a Londres. En 1924 ya estaba en Tokio, en 1928 era una serie de ciencia ficción en la radio y para 1939 ya era la primera obra de ciencia ficción televisada. Claramente produjo algo. Había algo en esta historia que jugaba con la imaginación de las personas. Y creo que se debía a que ya tenían la idea de lo que eran los robots -la palabra era nueva, pero tenían todo este bagaje que les hacía pensar en los autómatas, en los hombres andantes, en el golem, en Frankenstein. En la obra misma se habla de esta noción del diseño impecable, del robot mejor diseñado que un humano. Entonces encontramos este sentido aspiracional de que las cosas pueden ser mejores que los humanos.

Desde la primera vez que se articula esta palabra, la idea es que es mejor. Y, por supuesto, una vez que esa idea se despliega, hay gente por todo el mundo pensando que debería construir un robot. En 1929, un hombre llamado W. H. Richards, que dirige la Sociedad de Ingeniería de Motores en Londres, lleva a cabo su conferencia anual. Invita al Duque de York, pero el duque está ocupado y Richards decide construir un robot.

Este robot mide 1.80 m y parece un caballero medieval. Tiene ojos azules y tiene escrito RUR en el pecho - Robots Universales Rossum-. Richars es muy claro a la hora de articular lo que su robot es. Se sienta en una batería porque no hay otra manera de alimentarlo. Y hace reverencias con frecuencia, es muy amable y, como es inglés, se llama Eric. Eric es el primer robot humanoide después de la obra de Capek. Pasea por todos lados, y el New York Times y el New York Post coinciden en que es muy cortés, muy amable, muy carismático.

Un año después en Osaka, Japón, aparece un segundo robot. Tiene un nombre complejo que significa “robot que sigue las leyes de la naturaleza”. Lo construyó un biólogo y, a diferencia de Eric, que se alimentaba de una batería, este robot se alimenta del aire -orificios de ventilación, básicamente-, entonces hay aire circulando por él que lo hace moverse. Mide 3 metros y carga una pluma y escribe. Básicamente escribe para ti. Puedes hacerle una pregunta y te escribe una respuesta. Va de tour a Alemania en 1939 y nadie vuelve a escuchar de él. ¿Cómo se pierde un robot de 3 metros? Quién sabe.

 

Pasa el tiempo y la gente de Estados Unidos siente que tiene que participar en este juego. Hay unas cuantas versiones primarias, pero podemos decir que el momento clave llega con Elektro. Elektro fue construido por Westinghouse y debutó en la Feria Mundial de 1939 en Nueva York. Es más alto que el robot inglés, mide poco más de 2 metros. Se alimenta de electricidad y lleva unas cosas que parecen espolones que son en realidad de donde jala la extensión con la que se conecta. Podía decir hasta 800 palabras. Tenía un comando de voz en la barriga. Podía bailar un poco. Hacía algunas bromas y, como eran los 1930s, podía fumar y lo hacía todo el tiempo. Lo fotografiaron varias veces con Johnny Weissmuller, el actor famoso por Tarzán. También lo fotografiaron con otras estrellas y salió en algunas películas de la década. Regresó a la Feria Mundial con su perrito Sparko, que movía la colita. Y yo creo de no ser porque la Segunda Guerra Mundial convocó a Estados Unidos tan abruptamente, habríamos visto muchas más de estas cosas. Pero cuando Estados Unidos se unió a la guerra, adiós Elektro. Y tristemente, como su contraparte japonesa, desapareció por un buen rato. Su última aparición pública conocida fue en 1955 en una película de Hollywood llamada Sex Kittens go to College. Suena a porno suave, pero no lo es. En realidad es de algunas muchachitas y un robot. Y después, durante 40 años, Elektro estuvo dentro de alguna caja y su cabeza probablemente en alguna mesa de algún lado porque sus bigotes eran buenos para destapar cervezas. Fue hasta 2010 que todas sus piezas se reunieron.

Entonces tenemos este periodo primario en el que existe la palabra y en el que un mundo de científicos adoptan la idea de que deben hacer que algo suceda. Pero obviamente no son los únicos interesados. Hollywood también piensa que los robots son una buena idea. Y ahora ya sabemos. Sea Buck Rogers, Yul Brynner, sea Jane Fonda en Barbarella, tenemos muchas historias de robots, con muchas tramas y tipos.

Claramente en los primeros días los robots eran como los vaqueros y los esfuerzos por acomodarlos en algún género narrativo eran grandes, pues la ciencia ficción aún no era muy popular. Cuando la ciencia ficción despegó, los robots eran solo parte de la escenografía. Pero ya sabemos que la imaginación corre muy por delante de las restricciones técnicas, y que es mucho más fácil hacer que un robot camine en Hollywood que en un laboratorio.

Entonces tenemos estas movidas interesantes en el campo de los robots. Esto nos deja en el periodo de la posguerra, pensando qué se necesita para que los robots sean reales. Yo pienso que esto provoca cuatro preguntas que, si bien son acertadas en el campo de los robots, también lo son para la mayoría de las tecnologías.

Estas cuatro preguntas se tratan de cómo hacer que un robot sea real, tanto como de cómo hacer que cualquier tecnología sea real. La primera pregunta cuando se piensa en crear un robot o cualquier tecnología es qué va a hacer. ¿Este robot sustituirá a un humano? ¿Hará solo tareas peligrosas? ¿Hará tareas monótonas? ¿Será solo parcialmente humano? ¿Será una parte de algún cuerpo? Las primeras cosas robótico-humanas que emergieron eran brazos robóticos en fábricas de automóviles en los 50s, 60s y 70s. No eran cuerpos completos, pero un brazo era una metáfora útil para pensar cómo movemos las cosas. Entonces siempre está esa pregunta, no solo para los robots, sino para todas las tecnologías. ¿Qué hacen? ¿Por qué? ¿Para quién? ¿Quién se beneficia de esa acción? ¿Quién se beneficia de la producción del objeto?

La segunda pregunta se trata de la forma, o del cuerpo en el caso de los robots. Hay un sitio web llamado zoológico cibernético que es un catálogo de todos los robots humanoides que mi amigo, el que lleva la página, ha encontrado en el planeta. Para esto se inventó el internet, ¿no?, y este es un increíble tesoro. Pero al navegar por la lista de robots hay algo que salta a la vista. Más o menos al llegar a los 40s, al principio de los 50s, hay un robot construido en Chicago, y junto a su nombre aparece en paréntesis negroide. Si seguimos mirando la lista, hay varios robots que aparecen etiquetados como femeninos, y esto nos hace preguntarnos algo muy interesante.

¿Qué son todos los otros robots? ¿Hombres? ¿Blancos? ¿Qué nos dice esto sobre la clase, la raza y el género, tener que marcar un robot como negro y otro como mujer, y no ponerle etiquetas a todos los demás? ¿Qué son los cuerpos que estamos construyendo? ¿Qué estamos naturalizando y normalizando en esta movida? ¿Qué implica esto?

Y aunque quedemos perplejos con las preguntas sobre el género y la raza, también nos surgen preguntas sobre las capacidades del cuerpo humano, sobre la función y la forma. Nos quedamos con estas preguntas sobre cuánta autonomía, cuánta independencia o agencia debemos otorgarles, en este caso a los robots, pero yo diría que a las tecnologías en general, a cualquier objeto técnico. ¿Qué tanto pueden hacer ellos mismos?

Hace poco estaba caminando por Tokio con amigos, cuando paramos a observar un letrero. Les pregunté qué decía. “Zona de robots. Robots autónomos a dos metros de la banqueta”. ¿Y de quién son?, pregunté. “Son autónomos”. ¿Y cómo llegaron aquí?, “de forma autónoma”, ¿y qué hacen?, “ser autónomos”, ¿no les preocupan?, “no, están a dos metros de la banqueta”, ¿pero de quién son, no les preocupa que hagan algo?, “no, para eso están los letreros”. Me di cuenta de que yo estaba suponiendo cosas, y que ellos estaban suponiendo cosas, y que no lográbamos entendernos. Les dije que en Estados Unidos quizás la gente estaría preocupada pensando que los robots podrían acercarse y matar a alguien, y me dijeron “esa es ciencia ficción de allá, acá los robots son nuestros amigos y tenemos claro que están a dos metros de la banqueta”. Ok.

Entonces vemos que pensar en la agencia, en las capacidades, en lo que implica otorgarle a algo la habilidad de hacer algo por su cuenta, significa algo distinto en diferentes contextos culturales. Que lo que implica imaginar la subjetividad, el poder o la autonomía, aunque sabemos cómo construirlos técnicamente, es que debemos conversar con urgencia sobre las consecuencias morales y las regulaciones culturales.

Y no es tan simple como decir, “bueno, Isaac Asimov propuso tres reglas para la construcción de robots”, porque no es suficiente. Y aunque resolvamos los primeros tres problemas y sepamos cómo será el cuerpo, cuál será su objetivo y cuánta autonomía le daremos, tenemos un cuarto problema, una cuarta pregunta profundamente filosófica: ¿cómo será su vida interior? La gente habla del momento en el que el poder computacional nos eclipse en inteligencia y seamos de alguna manera absorbidos por la máquina. ¿Es correcto pensar esto sobre la inteligencia artificial, que en una fecha particular será más capaz que la inteligencia humana? ¿que seremos simplemente vulnerables o reemplazables?

 

Yo creo que hay otra forma de pensar esta cuestión, que presupone una noción de la conciencia humana vinculada inexorablemente a una idea sobre la inteligencia y sobre los cerebros. Y es que sabemos que el cerebro no es el único lugar de la conciencia, que la conciencia involucra algunas cosas más intangibles, más difíciles de contemplar, pero que siguen estando en nuestro dominio. Y cuando imaginamos la vida interior de los robots, no logramos alejarnos mucho de Hollywood, porque Hollywood nos ha enseñado cómo es la vida interior de los robots y que solo existe de dos maneras. Una, encontrar a John Connor y matarlo sin piedad y durante 25 años. Otra, si queremos imaginar a un robot con un alma un poco más poética, podemos encontrarla en Blade Runner. Esos son los dos únicos ejemplos que tenemos realmente de lo que puede ser la vida interior de un robot.

La buena noticia es que algunas personas han estado pensando en esto por varios años, por ejemplo en la tradición japonesa. Desde ella se argumenta que en lugar de pensar que la consecuencia de darle agencia a los robots sea nuestra muerte, quizá debamos pensar que será más bien la emergencia de una conciencia distinta. Hemos escuchado que los robots, por ser capaces de una paciencia infinita, tal vez puedan alcanzar el nirvana antes que la gente. Y la tradición japonesa nos dice que cada vez que pensamos que un robot tiene el impulso de matarnos, en realidad estamos externalizando nuestros propios miedos a la raza humana. Muchas de las ansiedades que depositamos en los robots son realmente ansiedades no examinadas que tenemos sobre el mundo que hemos creado para nosotros. Y si pensamos que esto viene de un país que fue bombardeado con armas nucleares, podemos imaginar que quizá allí tengan muy presentes los horrores de la historia humana.

Lo que quiero decir es que cuando pensamos en tecnología, sea un robot, un algoritmo, un objeto, tenemos que hacernos esas cuatro preguntas. ¿Cuál es su función? ¿Qué forma tiene? ¿Qué nivel de agencia? ¿Cuáles serán las consecuencias de ello? Y es que pienso que al hacer tecnología no solo nos involucramos con negocios y política, sino que estamos creando cultura, porque no podemos hacer tecnología sin interactuar de alguna manera con casi 2000 años de historias de lo que significa la creación de vida.

Cada vez que le damos vida a algo, sea tan simple como Facebook o tan complicado como un vehículo autónomo, y con las tecnologías que tenemos en el panorama como el internet de las cosas, el big data, los algoritmos que se reproducen a sí mismos, los drones, las redes sociales, debemos hacernos las mismas preguntas: ¿para qué sirve? ¿cómo es? ¿qué tanta autoridad le daremos? ¿qué vamos a permitir que haga?¿en qué se convertirá y cómo será con nosotros con el paso del tiempo?

 

magma