sábado, 2 de agosto de 2014

La cuestión moral de la tecnología depende de la economía

De Dios & Golem, S. A. de Norbert Wiener tiene 50 años, es de los sesentas, y habla sobre inteligencia artificial y cibernética, la capacidad para aprender de las máquinas y como éstas, sin el juicio humano, podrían ejecutar acciones contra el ser humano.

Se prolga oomo un texto en el que Wiener supuestamente hablaría de los temas donde religión y cibernética chocan y, aunque abunda en cuestiones éticas, evade responsabilizar a la ciencia por estas cuestiones y en su lugar coloca a la economía como motor detrás de esas intenciones.

Desde este punto de vista el texto es una decepción, ojalá Wiener se pronunciara, como hombre de ciencia, a favor o en contra de la responsabilidad moral que pudiera tener la ciencia. Si Wiener ya se animó a culpar a la economía como la responsable directa detrás del uso de la tecnología ya de paso hubiera mencionado también las guerras, que no siempre obedecen a intereses económicos, y ya luego a ver que otra cosa se nos puede ocurrir para responsabilizar. Ese es el principal problema que encuentro sobre la forma de abordar el tema de Wiener.

Si no estoy de acuerdo totalmente al menos acepto la validez de quienes esgrimen el argumento de que la ciencia no debe restringir su progreso por cuestiones éticas o morales, de cierta forma se entiende que las pistolas no matan gente, es otra gente la que lo hace. Luego anuncia su ensayo como si fuera a tocar los puntos sensibles y más bien parece que él mismo se tocó un punto sensible del que prefirió esquivar la bala.

Otro tema son los mecenas de la ciencia. Estos tienen grandes intereses económicos y en el momento en que el científico, digamos científico mercenario, se alinea con uno de estos mecenas está entrándole al jueguito de ponerse una venda de irresponsabilidad de "dar" sus creaciones a quien mejor las haya pagado.

Es un tema que tiene muchas aristas y Weiner, además de fallar al hacerse a un lado en las cuestiones éticas mencionadas, falla porque los temas en que cibernética y religión chocan terminan siendo los mismos en que ciencia y religión chocan, lo que termina diluyendo la cibernética en el amplio mar que es la ciencia, con lo que le resta interés a su texto.

Igual hay algunos asuntos técnicos más o menos interesantes y, lo ignoro, quien sabe que tan (des)actualizados en un tema que antes de que termine mi entrada seguramente ya habŕa acuñado algún término nuevo o desechado algún otro.

Algunas citas del libro:

El autoaprendizaje es una cualidad que solemos atribuir exclusivamente a los sistemas autoconscientes, y casi siempre a los sistemas vivientes.

Hay al menos tres cuestiones en la cibernética que me parecen pertinentes a asuntos religiosos. Una de ellas concierne a las maquinas discentes; otra a las maquinas que se reproducen; y otra, a la coordinación de maquina y hombre.

El aprendizaje del individuo es un proceso que se da en la vida del individuo, en ontogénesis. La reproducción biológica es un fenómeno que se da en la vida de la especie, en filogénesis, pero la especie aprende como lo hace el individuo. La selección natural darwiniana es una forma de aprendizaje de la especie, que opera dentro de las condiciones impuestas por la reproducción del individuo.

Para empezar con las maquinas discentes, un sistema organizado puede definirse como aquel que transforma un cierto mensaje de entrada en uno de salida, de acuerdo con algún principio de transformación. Si tal principio esta sujeto a cierto criterio de validez de funcionamiento, y si el método de transformación se ajusta a fin de que tienda a mejorar el funcionamiento del sistema de acuerdo con ese criterio, se dice que el sistema aprende. Un juego para ser jugado con reglas fijas, es un tipo muy simple de sistema con un criterio de funcionamiento fácilmente descifrable en el que dicho criterio es el ganar exitosamente el juego de acuerdo con esas reglas. Entre tales juegos, los hay que tienen una teoría perfecta y carecen de interés. El Nim, como fue definido por Charles L. Bouton, y el Tres en Raya, son ejemplos de ellos. En estos juegos no sólo podemos encontrar teóricamente la mejor estrategia para jugados, sino que esa estrategia es conocida en todos sus detalles. .

En las damas el juego perfecto de ambos jugadores conduce a las tablas y este hecho fue descubierto por Jonathan Schaeffer utilizando su software Chinook.

Al construir máquinas contra las que el juega juegos, el inventor se ha arrogado a si mismo la función de un creador limitado, sea cual fuere la naturaleza del dispositivo de juego que él hubiese construido. Esto es cierto especialmente en el caso de las máquinas jugadoras que aprenden a través de la experiencia.

Tales subordinados se consideran en la obra de Karel Capek: R. U. R.]http://ebooks.adelaide.edu.au/c/capek/karel/rur/act3.html] El esclavo de la lámpara no plantea reivindicaciones. 

«...esa pereza que es la verdadera madre de la invención.»

Puede esperarse que, similarmente, la magia de la automatización, y en particular la magia de una automatización en la que los dispositivos aprenden, sea de interpretación literal. Si usted está jugando un juego de acuerdo con ciertas reglas y dispone a la maquina jugadora para jugar hacia la victoria, si consigue usted algo seria la victoria, y la maquina no prestaría la más mínima atención a cualquier consideración aparte de la victoria, de acuerdo con las reglas. Si esta usted jugando un juego bélico con una cierta interpretación convencional de la victoria, la meta podría ser la victoria a cualquier costo, incluso el de la exterminación de su propio bando, a menos que esta condición de supervivencia este explícitamente contenida en la definición de victoria de acuerdo con la cual usted programe la maquina.

En otras palabras, aunque en el pasado la humanidad ha enfrentado muchos peligros, éstos han sido mucho más fáciles de manejar porque en muchos casos el peligro presentaba sólo uno de sus aspectos. En una época en la que la gran amenaza es el hambre, se obtiene seguridad mediante la producción de alimentos en aumento, y no hay mucho peligro en ella. Con una mayor tasa de mortalidad (y sobre todo una alta tasa de mortalidad infantil) y una medicina de muy poca efectividad, la vida humana individual era del máximo valor, y resultaba apropiado que se nos ordenara ser fértiles y multiplicarnos. La presión de la amenaza del hambre fue como la presión de la gravedad, para la que nuestros músculos, huesos y tendones están siempre afinados.

La homeostasis permanente de la sociedad no puede hacerse bajo el supuesto rígido de una completa permanencia del marxismo ni puede hacerse bajo el supuesto similar concerniente a un concepto estandarizado de libre empresa o de afán de lucro. No es tanto la forma de la rigidez la que es particularmente fatal sino la rigidez en si misma, cualquiera que sea su forma.

No hay comentarios:

Publicar un comentario