Por el otro lado, es posible que el control humano sobre las máquinas sea

retenido. En ese caso el hombre promedio tendría control sobre ciertas máquinas
privadas, de su propiedad, como ser su auto o su computadora personal, pero el
control sobre grandes sistemas de máquinas quedará en manos de una pequeña
elite –tal como sucede hoy, pero con dos diferencias. Gracias a técnicas más
desarrolladas la elite contará con un mayor control sobre las masas; y debido
a que el trabajo humano ya no será necesario las masas serán superfluas, una
carga inútil para el sistema. Si la elite sencillamente es impiadosa podría
decidir exterminar las masas humanas. Si es más humana podría emplear
propaganda u otras técnicas psicológicas o biológicas para reducir los índices
de natalidad hasta que la masa humana se extinga, dejándole el mundo a la
elite. O, si la elite consiste en liberales [liberals; en [Link]. significa ''progres'',
más que liberales] de corazón blando, podrían decidir interpretar el papel de
buenos pastores del resto de la raza humana. Cuidarán de que las necesidades
físicas de todos estén satisfechas, de que los chicos sean criados bajo
condiciones psicológicas higiénicas, que todos tengan un sano hobby para
entretenerse, y que cualquiera que se sienta insatisfecho reciba un
''tratamiento'' que lo cure de su ''problema''. Desde ya, la vida carecerá de
sentido a tal extremo que la gente tendrá que ser reprogramada biológica o
psicológicamente ya sea para removerles su necesidad del proceso de poder o
para ''sublimarles'' su ansia de poder hacia algún hobby inofensivo. Estos
seres humanos reprogramados podrían ser felices en esa sociedad, pero
ciertamente no serán libres. Habrán sido reducidos al estatus de animales
domésticos.2

En el libro no se descubre, hasta que se da vuelta la página, que el autor del

fragmento es Theodore Kaczynski –el Unabomber. No soy para nada un apologista
de Kaczynski. Sus bombas mataron a tres personas durante una campaña de 17 años
de terror e hirieron a muchas otras. Una de sus bombas hirió gravemente a mi amigo
David Gelernter, uno de los más brillantes y visionarios científicos informáticos de
nuestro tiempo. Como muchos de mis colegas, yo sentí que tranquilamente podía ser
el siguiente blanco del Unabomber.

Los actos de Kaczynski fueron asesinos y, creo, dementes. Claramente es un luddita,

pero decir esto no anula sus argumentos; tan difícil como me resulta a mí aceptarlo,
ví cierto mérito en el razonamiento de esta cita en especial. Me sentí llamado a
confrontarlo.

2 El pasaje que Kurzweil cita pertenece al Manifiesto de Kaczynski, el Unabomber, el cual fue publicado
entero, bajo extorsión, por The New York Times y The Washington Post intentando terminar con su campaña
de terror. Acuerdo con David Gelernter, que dijo acerca de esta decisión: ''Fue una decisión dura para los
diarios. Aceptar era ceder frente al terrorismo, y por lo que sabían, de cualquier forma él estaba mintiendo.
Por otro lado, aceptar podría detener las muertes. Había también una posibilidad de que alguien leyera el
texto y diera alguna pista sobre el autor; y eso es exactamente lo que pasó. El hermano del sospechoso lo
leyó, y llamó a la policía.''
''Yo hubiera dicho que no lo publicaran. Por suerte no me preguntaron.'' (Drawing Life: Surviving the
Unabomber. Ciudad, Free Press, 1997. p. 120)

Prohobido pensar, propiedad privada 147

 La visión distópica de Kaczynski describe consecuencias que no habían sido
previstas, un problema que es muy conocido en el diseño y uso de tecnología, problema
claramente relacionado a la ley de Murphy –''Cualquier cosa que pueda salir mal,
saldrá mal.'' (De hecho, esta es la ley de Finagle, lo que en sí mismo muestra que
Finagle tenía razón). Nuestro excesivo uso de antibióticos ha llevado a lo que puede
ser el mayor de estos problemas hasta ahora: la aparición de bacterias resistentes a
los antibióticos y mucho más peligrosas. Cosas similares pasaron cuando los intentos
de eliminar a los mosquitos de la malaria usando DDT llevaron a que éstos adquirieran
resistencia al DDT; al mismo tiempo, los parásitos de la malaria adquirieron genes
resistentes a múltiples drogas.3

El motivo de muchas de esas sorpresas parece evidente: los sistemas en cuestión

son complejos, e involucran interacciones y relaciones de ida y vuelta entre muchos
componentes. Cualquier cambio en uno de éstos sistemas se propagará en formas
que son muy difíciles de predecir; esto es especialmente cierto cuando hay involucradas
acciones humanas.

Empecé mostrándoles a amigos la cita de Kaczynski en La era de las máquinas

espirituales: les daba el libro de Kurzweil, dejaba que leyeran el fragmento, y después
miraba como reaccionaban al enterarse de quién lo había escrito. Por esa época,
encontré el libro de Moravec Robot: Mere Machine to Trascendental Mind.4 Moravec
es uno de los líderes en la investigación en robótica, y fue fundador del programa de
investigación de robótica más grande del mundo, en la Universidad de Carnegie
Mellon. Robot me dio más material para probar con mis amigos –material que
sorprendentemente apoyaba el argumento de Kaczynski. Por ejemplo:

El corto plazo (principios del 2000)

Las especies biológicas casi nunca sobreviven a encuentros con competidores

superiores. Diez millones de años atrás, América del Norte y del Sur estaban
separadas por un istmo de Panamá hundido. Sud América, como hoy Australia,
estaba habitada por mamíferos marsupiales, incluyendo algunos con bolsas
abdominales equivalentes de las ratas, ciervos y tigres. Cuando el istmo que
conectaba el Sur con el Norte emergió, les tomó sólo algunos miles de años a
las especies placentadas del norte, con metabolismos y sistemas nerviosos y
reproductivos un poco más efectivos, desplazar y eliminar a casi todos los
marsupiales del sur.

En un mercado totalmente libre, los robots superiores seguramente afectarían

a los humanos como los placentados norteamericanos afectaron a los
marsupiales de Sudamérica (y como los humanos han afectado a innumerables
especies). Las industrias robóticas competirían entre ellas con vigor por materia,
energía, y espacio, llevando eventualmente los precios más allá del alcance

3 Garrett, Laurie, The coming plague: newly emerging diseases in a world out of balance. London, Penguin,
1994. pp. 47-52, 414, 419, 452.

148 Los monopolios sobre la vida, el conocimiento y la cultura

 humano. Imposibilitados de afrontar las necesidades vitales, los humanos
biológicos serían obligados a desaparecer.

Con seguridad se puede respirar tranquilos todavía, porque no vivimos en un

mercado libre absoluto. Los gobiernos regulan los comportamientos,
especialmente recaudando impuestos. Aplicados con juicio, los frenos
gubernamentales podrían sostener a una población humana que viva con
calidad de los frutos del trabajo-robot, quizás por un largo tiempo.

Una distopía de manual –y Moravec recién está empezando. Sigue discutiendo

cómo nuestra principal ocupación en el siglo XXI será ''garantizar cooperación continua
de las industrias de robots'' mediante leyes que declaren que sean ''amigables''5, y
describiendo lo seriamente peligroso que puede ser un ser humano ''después de
convertirse en un robot superinteligente sin límites establecidos.'' La visión de Moravec
es que los robots eventualmente nos van a superar –que los humanos se enfrentan
abiertamente a la extinción.

Decidí que era hora de hablar con mi amigo Danny Hillis. Danny se hizo famoso
como co-fundador de Thinking Machines Corporation [Corporación de Máquinas
Pensantes], que construyó una muy poderosa supercomputadora paralela.. Pese a mi
trabajo como Director Científico en Sun Microsystems, soy más arquitecto de
computadoras que científico, y respeto los conocimientos de Danny sobre ciencia
física y de la información más que los de cualquier otra persona que conozca. Danny
también es un futurista muy influyente que piensa a largo plazo –cuatro años atrás
creó la Long Now Foundation [Fundación del Largo Presente], que está construyendo
un reloj diseñado para durar 10.000 años, en un intento de llamar la atención acerca
de lo patéticamente cortos que son los horizontes de tiempo por los que se preocupa
nuestra sociedad.6

Así es que viajé a Los Ángeles nada más que para cenar con Danny y su esposa,
Pati. Pasé por mi rutina de contarles las ideas y fragmentos que me resultaban tan
chocantes. La respuesta de Danny –en relación al escenario de Kurzweil de humanos
fundiéndose con robots– vino de inmediato, y me sorprendió. Dijo, sencillamente, que
los cambios sucederían gradualmente, y que nos acostumbraríamos a ellos.

4 Moravec, Hans P., Robot: Mere Machine to Trascendental Mind. New York, Oxford University Press, 1999.
(N. del E.)
5 Isaac Asimov describió lo que se convertiría en la visión más célebre acerca de reglas éticas para el
comportamiento de los robots en su libro Yo, Robot, de 1950, con sus Tres Leyes de la Robótica [hay trad.
cast. Yo, robot. Buenos Aires, Sudamericana, 1977].
1. Un robot nunca debe dañar a un ser humano, o por inacción, permitir que un ser humano resulte dañado.
2. Un robot debe obedecer las órdenes emitidas por seres humanos, excepto cuando esas órdenes entren
en contradicción con la Primera Ley.
3. Un robot debe proteger su propia existencia, siempre y cuando esta protección no entre en contradicción
con la Primera o Segunda Ley.
6 Ver ''Test of time'' en Wired, Año 8, Nº [sacar pto.] 8.03, marzo de 2000. p. 78 (hay versión en internet: http://
[Link]/wired/archive/8.03/[Link]?pg=2/).

Prohobido pensar, propiedad privada 149

 Pero supongo que no estaba sorprendido del todo. Había visto una cita de Danny
en el libro de Kurzweil en la que decía: ''Quiero tanto a mi cuerpo como cualquiera,
pero si puedo llegar a los 200 años con un cuerpo de silicona, lo voy a aceptar.'' Daba
la sensación de estar tranquilo con la manera en que se daban las cosas y sus
eventuales riesgos, mientras que yo no.

Mientras hablaba y pensaba sobre Kurzweil, Kaczynski y Moravec, de pronto me

acordé de una novela que había leído unos 20 años antes –La peste blanca, de Frank
Herbert– en la que un biólogo molecular se vuelve loco por el asesinato sin sentido de
su familia. Para vengarse crea y dispersa una plaga nueva y contagiosa que mata
ampliamente pero de manera selectiva. (Tenemos suerte de que Kaczynski era
matemático, no biólogo molecular). También me vino a la mente el Borg de Star Trek,
un enjambre de criaturas en parte biológicas y en parte robóticas con un enorme
impulso destructivo. Las catástrofes Borg son materia prima de la ciencia ficción,
entonces ¿por qué no me había angustiado antes por distopías robóticas como esa?
¿Por qué no había, además, otras personas preocupadas por estos escenarios de
pesadilla?

Parte de la respuesta yace en nuestra actitud hacia lo nuevo –en nuestra disposición
a familiarizarnos rápido y a aceptar sin cuestionar. Acostumbrados a vivir con
adelantos científicos que se dan casi como una rutina, todavía tenemos que hacernos
la idea de que las tecnologías más seductoras del siglo XXI –robótica, ingeniería
genética, y nanotecnología– plantean una amenaza distinta que la de las tecnologías
que han venido antes. Puntualmente, los robots, los organismos diseñados y la
nanotecnología comparten un peligroso factor amplificador: pueden auto-replicarse.7
Una bomba se hace detonar una sola vez –pero un robot puede volverse varios, y
rápidamente salirse de control.

Mucho de mi trabajo en los últimos 25 años ha sido sobre redes de computadoras,

donde el envío y recepción de mensajes crea la posibilidad de replicaciones fuera de
control. Pero mientras que la replicación en una computadora o una red de
computadoras puede ser una gran molestia, a lo sumo cuelga una computadora o
hace caer un servicio de redes. Una auto-replicación sin controles en estas nuevas
tecnologías lleva a riesgos mucho mayores: riesgo de daños sustanciales en el mundo
físico.

Cada una de estas tecnologías además hace grandes promesas: la visión de semi-
inmortalidad que Kurzweil ve en sus sueños robóticos nos transporta al futuro; la
ingeniería genética podría pronto dar tratamientos, sino curas, para la mayoría de
las enfermedades; y la nanotecnología y nanomedicina pueden encargarse de todavía
más enfermedades. Juntas podrían extender de manera significativa el promedio de
nuestras expectativas de vida y mejorar su calidad. Sin embargo, con cada una de
estas tecnologías, una serie de mínimos avances, importantes en sí mismos, llevan a
una acumulación de gran poder, e inseparablemente, de gran peligro.

7 ''auto-replicate'': hacer copias de sí mismo sin ayuda exterior. (N. del. T)

150 Los monopolios sobre la vida, el conocimiento y la cultura

 ¿Qué era distinto en el siglo XX? Ciertamente, las tecnologías en que se basaban
las armas de destrucción masiva (ADM) –nucleares, biológicas, y químicas (NBQ)–
eran poderosas, y las armas eran una enorme amenaza. Pero fabricar armas nucleares
requería, al menos por un tiempo, acceso tanto a materiales muy escasos, a veces
inconseguibles, como a información altamente protegida; los programas de armas
biológicas y químicas también tendían a requerir actividades a gran escala.

Las tecnologías del siglo XXI –genética, nanotecnología, y robótica (GNR)– son
tan poderosas que pueden impulsar clases enteramente nuevas de accidentes y abusos.
Todavía más peligroso: por primera vez estos accidentes y abusos están al alcance de
individuos o grupos reducidos. No requerirán gran infraestructura ni materiales con
complicaciones. El conocimiento bastará para poder usarlas.

Así, tenemos la posibilidad ya no sólo de armas de destrucción masiva sino de

destrucción masiva habilitada por el conocimiento, esta destructividad ampliada
enormemente por el poder de la auto-replicación.

Yo creo que no es una exageración decir que estamos en el punto más elevado de
la perfección del mal extremo, un mal cuya posibilidad va más allá de la que las
armas de destrucción masiva le daban a los estados-nación, y que llega a niveles
sorprendentes y terribles de acumulación de poder en manos de individuos aislados.

Nada en la manera en que me ví relacionado con las computadoras me insinuaba

que iba a tener que hacerme cargo de estos temas.

Mi vida ha estado impulsada por una profunda necesidad de hacer preguntas y

hallar respuestas. Cuando tenía 3 años, ya leía, por lo que mi padre me llevó a la
escuela, donde me senté en las rodillas del director y le leí un cuento. Empecé temprano
la escuela, después me salteé un grado, y me fugué a través de los libros –estaba
increíblemente motivado para aprender. Hacía muchas preguntas, a menudo volviendo
locos a los adultos.

En la adolescencia estaba muy interesado en la ciencia y la tecnología. Quería ser

radio aficionado, pero no tenía plata para comprar el equipo. La radio y los operadores
de radio eran la Internet de la época: muy adictiva, y bastante solitaria. Más allá de
lo económico, mi madre bajó el pulgar –no iba a ser radio aficionado; ya era
demasiado antisocial.

A lo mejor no tenía tantos amigos íntimos, pero estaba lleno de ideas. En la

secundaria, ya había descubierto a los grandes escritores de ciencia ficción. Me
acuerdo en especial de Have Spacesuit Will Travel de Heinlein, y Yo, Robot de Asimov,
con sus Tres Leyes de la Robótica. Me fascinaron las descripciones de los viajes en el
espacio, y quería tener un telescopio para mirar las estrellas; dado que no tenía plata
para comprar o hacer uno, sacaba libros de construcción de telescopios de la biblioteca
y, en su lugar, leía sobre la manera en que se construían. Volaba en mi imaginación.

Prohobido pensar, propiedad privada 151

 Los jueves a la noche mis padres iban al bowling, y los chicos nos quedábamos
solos en la casa. Era la noche del Star Trek original de Gene Roddenberry, y el
programa me causó una gran impresión. Terminé aceptando la noción de que los
humanos tenían un futuro en el espacio, al estilo del Far West, con grandes héroes y
aventuras. La visión de Roddenberry de los siglos venideros era una de valores morales
firmes, basados en códigos como la Directiva Principal:: no interferir en el desarrollo
de civilizaciones menos avanzadas tecnológicamente. Esto era algo muy atrapante
para mí: los que dominaban ese futuro eran humanos con ética, no robots, y yo hice
propio el sueño de Roddenberry.

Me destaqué en matemáticas en la secundaria, y cuando estudiaba para ingeniería

en la Universidad de Michigan, seguí el plan de estudios de la especialización en
matemática. Resolver problemas matemáticos era un desafío interesante, pero cuando
descubrí las computadoras encontré algo mucho mejor: una máquina en la cual vos
podías poner un programa que intentaba resolver un problema, y luego la máquina
rápidamente buscaba la solución. La computadora tenía nociones muy precisas de lo
correcto/lo incorrecto, lo falso/lo verdadero. Eso era muy seductor.

Tuve suerte y pude conseguir empleo programando algunos de los primeros

modelos de supercomputadoras, y descubrí el poder sorprendente de las grandes
máquinas para simular diseños numéricamente avanzados. Cuando fui a la escuela
de graduados en Berkeley a mediados de los ‘70, empecé a quedarme despierto hasta
tarde, o toda la noche, inventando nuevos mundos dentro de las máquinas. Resolviendo
problemas. Escribiendo el código que tanto pedía ser escrito.

En The Agony and the Ecstasy, la novela biográfica de Irving Stone sobre Miguel
Ángel, Stone describe vivamente cómo Miguel Ángel sacaba las estatuas de la piedra,
''rompiendo el hechizo del mármol'', esculpiendo con las imágenes de su mente.88

En mis momentos de mayor éxtasis, el software en la computadora se me aparecía

de la misma manera. Una vez que me lo había imaginado, yo sentía que ya estaba ahí
dentro, en la computadora, esperando a ser liberado. Pasar la noche despierto era un
precio pequeño por liberarlo –por darles forma concreta a las ideas.

8 Miguel Ángel escribió un soneto que empieza así:

Non ha l´ottimo artista alcun concetto
Ch´ un marmo solo in sè non circonscriva
Col suo soverchio; e solo a quello arriva
La man che ubbidisce all´ intelleto.
No tenía el mejor de los artistas pensamiento que mostrar
Que la piedra áspera en su superflua cubierta
No traiga ya; romper el hechizo del mármol
es todo a lo que la mano que sirve al cerebro puede aspirar.
Stone describe el proceso:
''No trabajaba a partir de sus dibujos o modelos de arcilla, todos los había dejado de lado. Estaba
esculpiendo de las imágenes en su mente. Sus ojos y sus manos sabían donde debían emerger cada línea,
curva, espesor, y a qué profundidad en el corazón de la piedra para crear el bajo relieve.'' (The Agony
and the Ecstasy. Garden City, Doubleday, 1961. p. 6, p. 144.) [hay trad. cast.: La agonía y el éxtasis: vida
de Miguel Ángel. Buenos Aires, Emecé, 1978]

152 Los monopolios sobre la vida, el conocimiento y la cultura

 Después de unos años en Berkeley empecé a entregar algo del software que había
estado escribiendo –un sistema instructivo de Pascal, utilitarios de Unix, un editor de
texto llamado vi (que todavía es ampliamente usado, aunque suene raro, más de 20
años después)– a otros que tenían minicomputadoras similares, PDP-11 y VAX. Estas
aventuras de software eventualmente se convirtieron en la versión de Berkeley del
sistema operativo Unix, que se convirtió en un ''éxito-desastre'' personal –lo quería
tanta gente que nunca terminé el doctorado. En cambio conseguí empleo trabajando
para Darpa poniendo el Berkeley Unix en Internet y arreglándolo para que fuera
confiable y pudiera correr bien hasta grandes programas de investigación. Todo esto
era divertido y muy gratificante. Y, sinceramente, no ví robots por ahí, o en ningún
lugar de los alrededores.

Igualmente, al empezar los ‘80, me estaba ahogando. Las entregas sucesivas de

Unix eran muy exitosas, y mi proyecto personal consiguió dinero y algunos ayudantes,
pero el problema en Berkeley era siempre el espacio de la oficina, más que el dinero
–no se contaba con el lugar que necesitaba el proyecto, así que cuando aparecieron
los otros fundadores de Sun Microsystems me abalancé para unirme a ellos. En Sun,
las largas horas siguieron en los días en que aparecían las primeras estaciones de
trabajo y las computadoras personales, y he disfrutado de participar en la creación
de microprocesadores avanzados y tecnologías de Internet como Java y Jini.

De todo esto, pienso que queda claro que no soy un luddita. Por el contrario,
siempre estuve convencido del valor de la investigación científica de la verdad y de
la capacidad de la buena ingeniería para aportar progreso material. La Revolución
Industrial ha mejorado incalculablemente la vida de todos a lo largo del último par
de siglos, y siempre esperé que mi carrera participara en la creación de soluciones
valiosas para problemas reales, un problema a la vez.

No he sido defraudado. Mi trabajo ha tenido más impacto del que hubiera

soñado y ha sido usado más ampliamente de lo que hubiera esperado. He pasado los
últimos 20 años tratando de descubrir cómo hacer para que las computadoras sean
tan confiables como quiero que sean (por ahora no están ni cerca), y cómo hacer
para que sean fáciles de usar (algo que tuvo todavía menos éxito). Pese a algunos
progresos, los problemas que quedan son todavía desafíos más grandes.

Pero mientras estaba al tanto de los dilemas morales en relación a las

consecuencias tecnológicas de campos como la investigación de armas, no esperaba
enfrentarme a estos temas en mi propio campo, o al menos no tan pronto.

A lo mejor lo que pasa es que suele ser difícil ver todo el panorama mientras estás
en medio de los cambios. No llegar a entender las consecuencias de las invenciones
mientras estamos en la ola de los descubrimientos y de los avances, parecería ser un
error común en los científicos y tecnólogos; nos hemos dejado llevar desde hace
mucho por el sobrecogedor deseo de saber, que es natural a la aventura científica, sin
detenernos a darnos cuenta de que el progreso hacia nuevas y más poderosas
tecnologías puede cobrar vida propia.

Prohobido pensar, propiedad privada 153

 Me he dado cuenta hace mucho que los grandes avances de la tecnología de la
información vienen no del trabajo de científicos informáticos, de arquitectos de
computadoras o de ingenieros eléctricos sino de investigadores de física. Los físicos
Stephen Wolfram y Brosl Hasslacher me introdujeron, en los tempranos ‘80, a la
teoría del caos y a los sistemas no-lineales. Aprendí acerca de sistemas complejos de
conversaciones con Danny Hillis, el biólogo Stuart Kauffman, el Nobel de Física
Murray Gell-Mann y otros. Más recientemente, Hasslacher y el ingeniero eléctrico y
físico mecánico Mark Reed han estado dándome un panorama de las posibilidades
increíbles de la electrónica molecular.

En mi propio trabajo en el co-diseño de tres arquitecturas de microprocesadores

–SPARC, picoJAVA, y MAJC–, y como diseñador de sucesivas implementaciones a
partir de éstos, he logrado familiarizarme en profundidad y sin mediaciones con la
ley de Moore. La ley de Moore10 ha predicho correctamente el índice exponencial de
mejoramiento de la tecnología de semiconductores. Hasta el año pasado yo creía
que el índice de innovaciones predicho por la ley de Moore podía seguir como mucho
hasta el 2010, momento en que se empezarían a encontrar limitaciones físicas. No
era obvio para mí que iba a llegar una tecnología nueva justo a tiempo para sostener
el ritmo del avance.

Pero debido a avances radicales que se dieron recientemente en áreas como la

electrónica molecular –en donde se reemplazan los transistores dispuestos
litográficamente por átomos y moléculas individuales–, y en el de las tecnologías de
nanoescalas relacionadas a las anteriores, deberíamos estar preparados para cumplir
o exceder el índice de progreso de la ley de Moore por otros 30 años. Para el 2030, es
probable que podamos construir, en cantidad, máquinas un millón de veces más
poderosas que las computadoras personales de hoy en día –lo que es suficiente para
implementar los sueños de Kurzweil y Moravec.

Al combinarse este enorme poder informático con los avances en manipulación

de las ciencias físicas y el nuevo, y profundo, conocimiento de la genética, se está
desatando un enorme poder transformador. Estas combinaciones abren la
oportunidad de rediseñar completamente el mundo, para mejor o peor: los procesos
de replicación y evolución que han estado confinados al mundo natural están por
volverse reinos del quehacer humano.

Diseñando software y microprocesadores, nunca había tenido la sensación de

que estaba diseñando una máquina inteligente. El software y el hardware son tan
frágiles, y la capacidad de las máquinas de ''pensar'' se muestra tan ausente que,
incluso como posibilidad, siempre me pareció muy alejada en el futuro.

Pero ahora, con la perspectiva de un poder de procesamiento de nivel humano en

unos 30 años, una idea nueva surge sola: que podría estar trabajando para crear

10 Según la Ley de Moore cada veinticuatro meses la industria de la informática logra duplicar la cantidad de
transistores instalados en un circuito integrado del mismo tamaño y costo de producción. La Ley ha venido
corroborándose desde 1975. (N. del T.)

154 Los monopolios sobre la vida, el conocimiento y la cultura

herramientas que van a permitir la creación de la tecnología que podría reemplazar
a nuestra especie. ¿Cómo me siento al respecto? Muy incómodo. Habiendo luchado
toda mi carrera para construir sistemas de software confiables, me parece a mí más
que probable que este futuro no va a funcionar tan bien como alguna gente se
imagina. Mi experiencia personal sugiere que tendemos a sobrevaluar nuestras
habilidades para el diseño.

Dado el increíble poder de estas tecnologías novedosas, ¿no deberíamos estar

preguntándonos cómo podemos coexistir mejor con ellas? ¿Y si nuestra propia
extinción es contemplable como posibilidad por las consecuencias de nuestro desarrollo
tecnológico, no deberíamos proceder con cuidado?

El sueño de la robótica es, primero, que las máquinas inteligentes puedan hacer
el trabajo por nosotros, permitiéndonos tener vidas de ocio, devolviéndonos al Edén.
Sin embargo, en su historia de estas ideas, Darwing among the Machines, George
Dyson [Reading, Addison-Wesley, 1997] advierte: ''En el juego de la vida y la evolución
hay tres jugadores en la mesa: seres humanos, naturaleza y máquinas. Estoy
firmemente del lado de la naturaleza. Pero la naturaleza, sospecho, está del lado de
las máquinas.'' Como hemos visto, Moravec está de acuerdo en la creencia de que
podríamos llegar a no sobrevivir luego del encuentro con las especies robots
superiores.

¿Qué tan pronto podría ser construido ese robot inteligente? Los avances
anunciados en el poder de procesamiento de las computadoras parecen hacerlo
posible para el 2030. Y una vez que ya existe un robot inteligente, queda un pequeño
paso hacia una especie robot –hacia un robot inteligente que puede hacer copias
evolucionadas de sí mismo.

Un segundo sueño de la robótica es que gradualmente nos reemplacemos a

nosotros mismos con nuestra tecnología robótica, consiguiendo una casi inmortalidad
mediante la descarga11 de nuestras conciencias; es el proceso al que Danny Hillis
piensa que nos iremos acostumbrando lentamente y que Ray Kurzweil describe con
elegancia en La era de las máquinas espirituales. (Estamos empezando a ver
acercamientos a este tema en la implantación de dispositivos vinculados a
computadoras dentro del cuerpo humano, como se muestra en la portada de Wired
de febrero de 2000).

¿Pero si nos descargamos en nuestra tecnología, qué posibilidades hay de que

después del proceso sigamos siendo nosotros, o incluso humanos? Me parece a mí
mucho más probable que una existencia robótica no fuera como una humana, de
ninguna manera en que la entendemos, que los robots no serían de ninguna manera
nuestros hijos, que por este camino nuestra humanidad seguramente se perdería.

11 ''downloading'', término utilizado en informática para referirse a un envío de datos de una computadora a otra,
generalmente separadas y comunicadas en red o por módem (N. del T.)

Prohobido pensar, propiedad privada 155

 La ingeniería genética promete: revolucionar la agricultura incrementando las
producciones de trigo, reduciendo el uso de pesticidas; crear decenas de miles de
nuevas especies de bacterias, plantas, virus y animales; reemplazar la reproducción,
o mejorarla, con la clonación; crear curas para muchas enfermedades, incrementando
nuestra expectativa y calidad de vida; y mucho, mucho más. Ahora sabemos con
certeza que estos profundos cambios en las ciencias biológicas son inminentes y
desafiarán todas nuestras nociones de lo que es la vida.

Tecnologías como la clonación humana, en particular, han generado preocupación

por los profundos problemas éticos y morales a que nos enfrentan. Si, por ejemplo,
fuéramos a remodelarnos en varias especies separadas y distintas, usando el poder de
la ingeniería genética, entonces desestabilizaríamos la noción de igualdad que es la
piedra fundamental de nuestra democracia.

Dado el increíble poder de la ingeniería genética, no es sorprendente que haya

debates de envergadura en relación a la seguridad de su uso. Mi amigo Amory Lovins
recientemente co-escribió, junto con Hunter Lovins, una nota de opinión que brinda
una mirada ecológica en torno a éstos peligros. Entre sus preocupaciones se halla el
hecho de que ''la nueva botánica vincula el desarrollo de las plantas a su éxito, no
evolutivo, sino económico.''12 La extensa carrera de Amory ha estado orientada a los
recursos y la eficiencia energética a partir de una mirada de sistema-total sobre los
sistemas-humanos; esa mirada de sistema-total muchas veces encuentra soluciones
simples, inteligentes, a lo que de otra manera se convierte en problemas tortuosos, y
que también se aplica a nuestro tema.

Después de leer la nota de Lovins, leí un artículo de Gregg Easterbrook en la

página editorial de The New York Times (19 de noviembre de 1999) acerca de los
cereales modificados, bajo el título de ''Comida para el Futuro: Algún día el arroz
vendrá con Vitamina A ya incorporada. A no ser que ganen los Ludditas.''

¿Son ludditas Amory y Hunter Lovins? Ciertamente no. Creo que todos estamos de
acuerdo en que el arroz dorado, con vitamina A incorporada, es algo bueno, si se
desarrolla con cuidado y respeto por los eventuales peligros de mover genes a través
de las fronteras de las especies.

La preocupación por los peligros inherentes a la ingeniería genética está

empezando a aumentar, como lo refleja la nota de Lovins. El público en general está
al tanto, e incómodo respecto a las comidas modificadas genéticamente, y parece
rechazar la idea de que estas comidas deberían venderse sin identificarse como tales.

Pero la tecnología de ingeniería genética tiene ya mucho tiempo. Como señalan

los Lovins, el USDA [United States Departamento f] ya lleva aprobados unos 50
cereales genéticamente modificados para venta libre; más de la mitad de los porotos

12 Ver Lovins, Amory B. y Lovins, L. Hunter, ''A Tale of Two Botanies'', en Wired, Año 8, Nº [sacar pto.]8.04, abril
de 2000. p. 247 (hay versión en internet: [Link]

156 Los monopolios sobre la vida, el conocimiento y la cultura

de soja y un tercio del trigo del mundo contienen hoy genes provenientes de otras
formas de vida.

Mientras que hay varios temas importantes relacionados a esto, mi mayor

inquietud con respecto a la ingeniería genética es más concreta: que da poder –sea
militar, accidentalmente, o en un acto terrorista deliberado– de crear una Plaga
Blanca.

Las diversas maravillas de la nanotecnología fueron imaginadas por primera vez

por el ganador del Nobel de física Richard Feynman en un discurso que dio en 1959,
publicado bajo el título de ''Hay bastante lugar en el fondo.'' El libro que causó una
gran impresión en mí, a mediados de los ‘80, fue Engines of Creation de Eric Drexler13,
en el que describía con belleza cómo la manipulación de materia a un nivel atómico
podría crear un futuro utópico de abundancia, donde casi todo podría fabricarse a
bajo costo, y casi cualquier enfermedad o problema físico podría resolverse usando
nanotecnología e inteligencia artificial.

Un libro posterior, Unbounding the Future: The Nanotechnology Revolution,14

que Drexler co-escribió, imagina algunos de los cambios que podrían tener lugar en
un mundo en que tuviéramos ''ensambladores'' a nivel molecular. Los ensambladores
podrían hacer posible energía solar a costos bajísimos, curas para el cáncer y el
resfrío común por refuerzo del sistema inmunológico humano, limpieza esencialmente
completa del medioambiente, supercomputadoras de bolsillo increíblemente baratas
–de hecho, cualquier producto sería fabricable a un costo no mayor que el de la
madera–, vuelos al espacio más accesibles que los vuelos transoceánicos de hoy en
día, y recuperación de especies extinguidas.

Me acuerdo de sentirme muy bien respecto a la nanotecnología después de haber

leído Engines of Creation. Como tecnólogo, me dio una sensación de calma –o sea, la
nanotecnología nos mostraba que era posible un progreso increíble y, de hecho,
quizás inevitable. Si la nanotecnología era nuestro futuro, entonces no me sentía
presionado a resolver tantos problemas en el presente. Llegaría al futuro de Drexler
en el tiempo previsto; podía disfrutar más de la vida aquí y ahora. No tenía sentido,
dada su visión, quedarse despierto toda la noche, todo el tiempo.

La visión de Drexler también llevó a bastante diversión. Cada tanto me ponía a

describir las maravillas de las nanotecnología a otros que no habían oído hablar de
ellas. Después de cansarlos con todas las cosas que describía Drexler yo les podía dar
una tarea para el hogar inventada por mí: ''Usen nanotecnología para crear un
vampiro; para mayor puntaje creen un antídoto.''

12 Drexler, K. Eric, Engines of Creation: The coming era of Nanotechnology. Doubleday, New York, 1986. Hay
versión en internet: [Link] (hay trad. cast.: La nanotecnología: el
surgimiento de las máquinas de creación. Barcelona, Gedisa, 1993) (N. del E.)
13 Drexler, K. E., Peterson, C. y Pergamit, G., Unbounding the Future: The Nanotechnology Revolution. New
York, William Morrow, 1991. Hay versión en internet: [Link]
(N. del E.)

Prohobido pensar, propiedad privada 157

 Con estas maravillas venían claros peligros, de los cuales estaba al tanto. Como
dije en una conferencia sobre nanotecnología en 1989, ''No podemos simplemente
hacer nuestra ciencia y no preocuparnos por estos temas éticos.''15 Pero mis
conversaciones posteriores con físicos me convencieron de que la nanotecnología
quizás ni siquiera llegara a funcionar –o, por lo menos, no lo haría en los próximos
tiempos. Poco después me mudé a Colorado, a un grupo de estudio que había armado,
y el foco de mi trabajo cambió al software para Internet, específicamente a ideas que
se convirtieron en Java y Jini.

Entonces, el verano pasado, Brosl Hasslacher me contó que la electrónica molecular

a nanoescalas ya era posible. Éstas eran noticias muy nuevas para mí, y pienso que
para mucha gente –y cambiaron radicalmente mi opinión sobre la nanotecnología.
Me llevaron de nuevo a Engines of Creation. Leyendo el libro de Drexler después de
más de 10 años, me shockeó darme cuenta lo poco que me acordaba de la larga
sección llamada ''Peligros y Esperanzas'', incluyendo una discusión acerca de cómo
las nanotecnologías podían convertirse en ''motores de destrucción''. De hecho, en mi
relectura de este material hoy, quedé sorprendido por lo naïf que parecen algunas de
las propuestas de seguridad de Drexler, y por lo mucho más grandes que juzgo ahora
los peligros que lo que Drexler parecía hacerlo por entonces. (Habiendo anticipado y
descrito muchos problemas técnicos y políticos de la nanotecnología, Drexler lanzó
el Foresight Institute –Instituto para la Previsión– a fines de los ‘80 ''para ayudar a
preparar a la sociedad para las nuevas tecnologías de avanzada'' –sobre todo, la
nanotecnología).

El salto que permitiría el desarrollo de ensambladores parece factible dentro de

los próximos 20 años. La electrónica molecular –el nuevo subcampo de la
nanotecnología en el que moléculas individuales son elementos de los circuitos–
debería madurar rápidamente y volverse enormemente lucrativo a lo largo de esta
década, generando un gran incremento de inversiones en todas las nanotecnologías.

Desafortunadamente, como con la tecnología nuclear, es más fácil crear usos

destructivos para la nanotecnología que usos constructivos. La nanotecnología tiene
claros usos militares y terroristas, y no se necesita ser suicida para liberar un dispositivo
nanotecnológico masivamente destructivo –tales dispositivos pueden construirse
para ser destructivos selectivamente, afectando, por ejemplo, sólo una cierta área
geográfica, o un grupo de personas genéticamente distintivas.

Una consecuencia inmediata del contrato faustiano por obtener el gran poder de
la nanotecnología, es que corremos un grave riesgo –el riesgo de que podríamos
destruir la biosfera de la que depende toda la vida.

15 First Foresight Conference on Nanotechnology en octubre de 1989, charla titulada ''The future of
computation''. Publicado en Crandall, B.C. y Lewis, J. (eds.), Nanotechnology: Research and Perspectives.
Cambridge, MIT Press, 1992. p. 269. Ver también [Link]/Conferences/MINTO1/[Link].

158 Los monopolios sobre la vida, el conocimiento y la cultura

 Como Drexler explica:

‘Plantas’ con ‘hojas’ que no fueran más eficientes que las células solares de
hoy en día, podrían prevalecer sobre las plantas reales, poblando la biosfera de
un follaje inédito. Peor todavía, ''bacterias'' omnívoras podrían prevalecer
sobre las bacterias reales: podrían desparramarse como polen por el aire,
replicarse tranquilamente, y reducir la biosfera a polvo en cuestión de días.
Algunos replicadores peligrosos fácilmente podrían ser demasiado resistentes,
pequeños, y rápidos en su proliferación, como para detenerlos –por lo menos
si no nos preparamos. Tenemos bastantes problemas ya, controlando los virus
y la mosca de la fruta.

Entre los conocedores de la nanotecnología, este peligro ha pasado a conocerse

como el ''problema del fango gris''. Aunque las masas de replicadores
descontrolados no necesiten ser grises o viscosas, ''fango gris'' ' estaría
enfatizando que los replicadores capaces de acabar con la vida podrían ser
menos atractivos que cualquier especie de pasto común. Podrían ser superiores
en un sentido evolutivo, pero esto no los hace más valiosos en sí mismos.

La amenaza del ''fango gris'' deja en claro una cosa: no nos podemos permitir
cierto tipo de accidentes con ensambladores replicantes.

El fango gris seguramente sería un final deprimente para nuestra aventura

como habitantes de la Tierra, mucho peor que el fuego o el agua, y un final
que podría salir de un simple laboratorio.16

Más que nada, es el poder destructivo de la auto-replicación en genética,

nanotecnología y robótica (GNR) lo que debería hacer que hagamos una pausa. La
auto-replicación es el modus operandi de la ingeniería genética, que utiliza la
maquinaria de la célula para replicar sus diseños, y es el peligro más importante
subyacente al fango gris en nanotecnología. Historias de robots renegados como el
Borg, replicándose o mutando para escapar de las imposiciones éticas de sus creadores,
son bastante comunes en nuestros libros y películas de ciencia ficción. Incluso es
posible que la auto-replicación sea algo más amplio de como la pensamos y, por eso,
más difícil –o incluso imposible– de controlar. Un artículo reciente de Stuart Kauffman
en Nature titulado ''Auto-Replicación: hasta los péptidos lo hacen'' analiza el
descubrimiento de que 32 pepto-aminoácidos pueden ''auto-catalizar su propia
síntesis.'' No sabemos hasta qué punto está extendida esta habilidad, pero Kauffman
señala que podría dar pistas de ''una vía hacia sistemas moleculares auto-
reproductores, con bases mucho más amplias que el base par de Watson-Crick.''17

16 En su novela de 1963, Cat´s Craddle, Kurt Vonnegut imaginó un accidente estilo ''fango gris'' adonde una
forma de hielo llamada hielo-nueve, que se hace sólida a temperaturas mucho mayores, congela los océanos.
[hay trad. cast.: Cuna de gato. Barcelona, Anagrama, 1988]
17 Kauffman, Stuart, ''Self-replication: Even Peptides Do It'' en Nature, Nº 382, 8 de agosto de 1996. p. 496. Ver
[Link]/sfi/People/Kauffman/[Link]/.

Prohobido pensar, propiedad privada 159

 Se hace a sí mismo la pregunta, ''¿Qué hace que valga la pena vivir la vida?'' y se
responde lo que es importante para él: Groucho Marx, Willie Mays, el segundo
movimiento de la sinfonía Júpiter, la grabación de ''Potato Head Blues'' de Louis
Armstrong, las películas suecas, La Educación Sentimental de Flaubert, Marlon Brando,
Frank Sinatra, las manzanas y peras de Cézanne, los cangrejos en ''Sam Wo'' y, por
último, el desenlace: el rostro de Tracy, su amor.

Cada uno de nosotros tiene sus cosas preciosas, y al cuidar de ellas localizamos
la esencia de nuestra humanidad. A la larga, es debido a nuestra gran capacidad
para cuidar y proteger que todavía soy optimista de que confrontaremos con los
peligrosos temas que tenemos por delante.

Mi expectativa inmediata es la de participar en una discusión mucho más amplia

sobre los temas tratados aquí, con gente proveniente de diversas prácticas, con un
programa que no se predisponga a temer o favorecer a la tecnología por su misma
razón de ser.

Para empezar, he presentado dos veces estos temas en eventos organizados por el
Aspen Institute y además he propuesto que la Academia Americana de Artes y
Ciencias los tome como una extensión de su trabajo en las Conferencias Pugwash.
(Éstas se han realizado desde 1957 para discutir el control de armas, en especial de
armas nucleares, y para formular políticas viables).

Es una lástima que los encuentros Pugwash empezaran recién cuando el genio ya
hubiera salido hace bastante de la botella –unos 15 años tarde. Nosotros también
estamos teniendo una salida retardada para confrontar con los temas de la tecnología
del siglo XXI –la prevención de la destrucción masiva habilitada por el conocimiento–
, y mayores retrasos se tornan inaceptables.

Así que todavía estoy investigando; hay muchas más cosas para aprender. Vayamos
a tener éxito o a fracasar; vayamos a sobrevivir o a caer víctimas de estas tecnologías,
no está decidido todavía. Me quedé despierto hasta tarde otra vez –son casi las 6am.
Estoy tratando de imaginar mejores respuestas, de romper el hechizo y liberarlas de
la piedra.

Abril, 2000

Prohobido pensar, propiedad privada 171

 Glosario de siglas y
términos
ADPIC: Acuerdo de la Organización Mundial del Comercio sobre Aspectos de los
Derechos de Propiedad Intelectual relacionados con el Comercio (También
conocido como TRIPS por su sigla en inglés).

Biopiratería: El uso de mecanismos de apropiación privada de recursos genéticos y

biodiversidad sin reconocimiento de su origen y en forma excluyente.

CDB: Convenio sobre la Diversidad Biológica. Producto de la presión internacional

para tratar los problemas derivados de la Biopiratería y la destrucción de la
biodiversidad en el Hemisferio Sur. Tras varios años de debate, fue aprobado
en 1992 y entró en vigor en 1993.

CGIAR: Grupo Consultivo sobre Investigación Agrícola Internacional.

Código fuente, código ejecutable (u objeto): Traducción incorrecta, pero muy popular
del inglés source code. La traducción correcta sería código original o texto
original. Para confeccionar un programa, los programadores codifican la
solución a un programa en una notación formal de las que llamamos lenguajes
de programación. En cuanto resultado de una operación de codificación, el
texto del programa escrito en notación formal se llama código. Este código
escrito por el programador no puede ser ejecutado directamente por la
computadora, para ello será necesario primero traducirlo a una secuencia de
instrucciones elementales llamadas lenguaje de máquina. A diferencia de los
lenguajes de programación mencionados antes, el lenguaje de máquina es
inmensamente dificil de comprender por las personas. El programa expresado
en lenguaje de máquina también se conoce como código por las mismas
razones. Para diferenciar entre ambos, el código escrito en notación formal
se denomina código fuente o de origen, mientras que su traducción a lenguaje
de máquina se conoce como ejecutable u objeto.

COP: Conference of Parties - conferencia de partes de la Convención de Biodiversidad.

172 Los monopolios sobre la vida, el conocimiento y la cultura

Copyright - Derechos de autor: Sistema de monopolio sobre obras intelectuales,
culturales, y artísticas, incluyendo programas de computadoras. El copyright
es el monopolio del derecho de copia y proviene de la tradición del derecho
anglosajó[Link] derecho cubre las expresiones de una idea. El derecho de
autor incluye los derechos patrimoniales y los derechos morales sobre la
obra, y proviene del derecho francés.

DRM: Sistemas de gestión digital de restricciones. En los tratados internacionales se

los denomina "medidas técnicas de protección efectiva".

FAO: Organización de las Naciones Unidas para la Agricultura y la Alimentación.

GATT: Acuerdo General sobre Aranceles y Comercio. Ver OMC.

GPL: Licencia Pública General de GNU. Es una licencia de software que cubre alrededor
del 70% de los programas libres disponibles. Se caracteriza por ser una
licencia denominada copyleft que promueve la copia, estudio y distribución
de los programas informáticos bajo la única condición que la redistribución
mantenga las libertades consagradas en la licencia.

Marcas Registradas: Uno de los mecanismos de monopolio administrado por la

OMPI, refiere al monopolio y uso exclusivo de un nombre y un símbolo
lingüístico o visual.

OMPI: Organización Mundial de la Propiedad Intelectual, es una de las agencias de

Naciones Unidas.

OMC: Creada en 1995, la Organización Mundial del Comercio es la agencia global

que transformó al GATT en un organismo con potestad de definri reglas para
el comercio internacional, hacerlas cumplir y sancionar a los infractores.

Patente: Es un derecho monopólico exclusivo otorgado a un inventor por parte de

un Estado, sobre cierta aplicación de una idea, que debe ser innovadora, no
obvia, original y tener usos industriales.

Software Libre: Definido por la Free Software Foundation, el Software libre es aquel
cuyos términos de licencia otorgan la libertad de usar el programa con
cualquier propósito, estudiar su código fuente y adaptarlo a las propias
necesidades, hacer y distribuir copias y hacer y distribuir versiones mejoradas
del programa.

TLC: Tratados de Libre Comercio.

UPOV: Union for Protections of New Varieties of Plants. Organización establecida

bajo el paraguas de la Organización Mundial de la Propiedad Intelectual
para tratar los asuntos relacionados a las variedades de plantas y el derecho
de obtentor.

Prohobido pensar, propiedad privada 173