jueves, 05 de octubre de 2017
Economía y Negocios
José M. Piquer
Director de Tecnologías de Información y Comunicaciones
Universidad de Chile
Hace ya tantos años que la ciencia ficción nos ha venido anunciando holocaustos producidos por computadores o robots inteligentes, que no parece algo para tomar en serio. Sin embargo, recién hoy estamos al borde de crear algoritmos realmente inteligentes. Como no hemos logrado entender realmente cómo piensa nuestro cerebro, hemos implementado algo se parece bastante (lo suficiente para que nosotros consideremos sus decisiones "inteligentes").
Supongamos que el algoritmo es una buena implementación de la inteligencia, de la racionalidad humana. ¿Debemos tenerle miedo? O ¿podemos confiar que un algoritmo nunca va a causar demasiado daño, dado que no tiene malas intenciones?
Incluso los programas más simples y antiguos, sin ningún atisbo de inteligencia, han tenido siempre la propiedad de hacer cosas inesperadas. La programación tiene esa magia natural: el programador escribe las reglas, pero no siempre está consciente de todas las consecuencias que pueden tener esas reglas, al aplicarlas a situaciones nuevas.
No cuesta nada imaginar un algoritmo inteligente, sin ningún error de programación, tomando decisiones crueles, racistas, criminales o incluso genocidas, en forma racional y con toda razón. El modelo perfecto es HAL 9000, en 2001, odisea del espacio, con su fría voz calma, decidiendo matar a toda la tripulación.
El mundo que se nos viene en el futuro cercano, dejará nuestras vidas en manos de los algoritmos: programarán nuestros despertadores, harán nuestro café, manejarán nuestra agenda y nuestros vehículos, abrirán nuestras puertas, controlarán la temperatura y erigirán las noticias que nos interesan.
Ya no estarán restringido a sus mundos digitales y virtuales, sino que interactuarán en nuestro mundo de átomos, accionando interruptores, botones y motores de todo tipo. Esto ya ocurre hoy, pero en combinaciones muy restringidas y sin comunicar mucho los unos con los otros. En un mundo de objetos interconectados y algoritmos artificialmente inteligentes, la situación es mucho más peligrosa.
La inteligencia artificial suele implementarse con algún tipo de red neuronal. Esta tecnología es extremadamente poco predecible, y no entendemos muy bien cómo termina aprendiendo lo que aprende, y muchas veces toma decisiones que no logramos entender. ¿Cómo vamos a confiar en un algoritmo que ni siquiera entendemos?
Creo que los tecnólogos debemos implementar nuestros sistemas inteligentes con mucho cuidado: manteniendo acotado su radio de acción y con controles externos, ojalá mecánicos, que impidan que generen situaciones de riesgo o incluso que maten gente. Un ejemplo son los sistemas de control de semáforos, donde los semáforos mismos no permiten ponerse todos en verde aunque el sistema central así lo comande. No podemos oponernos a la inteligencia artificial, es demasiado útil y cómoda para nuestras vidas y nos puede ayudar mucho a tener tiempo disponible para pensar y disfrutar en vez de tener que andar organizando nuestras agendas. Pero debemos desplegarlas como cualquier tecnología peligrosa, como manejamos la energía nuclear o los ácidos corrosivos. Debemos aceptar que los algoritmos tienen sus propias vidas, que no podremos predecirlos ni controlarlos por completo. De alguna forma, es eso mismo lo que los hace útiles, ya que nos sorprenden y nos proponen cosas que a nosotros no se nos hubieran ocurrido.
Pero esa misma independencia los hace más peligrosos cuando son los que accionan los motores o lanzan los misiles.
Aunque suena bastante a novela, creo que debemos temer a la inteligencia artificial. Ya nos demostró lo lejos que puede llegar como un aporte y algo útil en nuestras vidas. No despreciemos el riesgo que nos puede hacer correr.
