Sobreviviendo a la IA

Este es el siglo de las dos singularidades: la singularidad económica (desempleo tecnológico) y la singularidad tecnológica (la explosión de la inteligencia). Ambas presentan enormes oportunidades y enormes desafíos. Si las manejamos con éxito, nuestro futuro como especie será más que maravilloso. Si fallamos, podría ser miserable, y quizás breve. El impulsor es la inteligencia artificial (IA), la tecnología más poderosa de la humanidad. El software que resuelve problemas y convierte los datos en valiosa información ya ha revolucionado nuestras vidas, y la revolución se está acelerando. En 2015, la inteligencia artificial ocupaba las primeras planas, y con justa razón. Se está acercando a un punto de inflexión en el que las máquinas pueden realizar mejor que nosotros muchas tareas que antes se consideraban exclusivamente humanas. Los sistemas de aprendizaje profundo están a punto de reconocer imágenes y comprender el lenguaje natural mejor que los humanos. El argumento de este libro es que debemos monitorear los cambios que están ocurriendo y adoptar políticas que fomenten los mejores resultados posibles. La gama de posibles resultados es amplia, desde los terribles hasta los maravillosos, y no están predeterminados. Serán seleccionados en parte por suerte, en parte por su propia lógica interna, pero en parte también por las políticas adoptadas en todos los niveles de la sociedad. La automatización y la superinteligencia son los dos desarrollos que ya podemos prever causarán grandes impactos. La automatización podría conducir a una singularidad económica y la evolución a un tipo de economía completamente diferente. Si nos equivocamos, una élite podría poseer los medios de producción y reprimir al resto de nosotros en un autoritario régimen tecnológico distópico. Si lo hacemos bien, podríamos disfrutar de una economía de abundancia radical, donde nadie tiene que trabajar para ganarse la vida, y todos somos libres para divertirnos, expandir nuestras mentes y desarrollar nuestras facultades al máximo. La llegada de la superinteligencia, si ocurre y cuando lo haga, representará una singularidad tecnológica, que será el evento más significativo en la historia de la humanidad, sin excepción. Descubrir cómo sobrevivir es el desafío más importante que enfrenta la humanidad en esta y la próxima generación. Si evitamos los peligros, la vida mejorará en formas que están literalmente más allá de nuestra imaginación. Una superinteligencia que mejorara recursivamente su propia arquitectura y expandiera sus capacidades podría resolver de manera muy plausible casi cualquier problema humano que se pueda imaginar. La muerte podría volverse opcional y podríamos disfrutar de vidas de dicha y emoción constantes. Si nos equivocamos, podría significar la extinción. Debido a la enormidad de ese riesgo, la mayor parte de este libro aborda la superinteligencia: la probabilidad de que llegue y de que sea beneficiosa.