Eliezer Yudkowsky es uno de los visionarios tecnológicos que se han hecho más o menos habituales en la era de Internet. Es conocido por su trabajo en la Inteligencia Artificial, pero como muchos visionarios también considera las cuestiones epistemológicas y paradigmáticas.
Es imposible no participar en iniciativas de cambio radical sin tener en cuenta los problemas inherentes al cambio cultural; los problemas de cómo hacer surgir tendencias de opinión que son las que a su vez dan lugar a los grandes cambios sociales y económicos; en el pasado hubo cambios que dieron lugar a la participación democrática, el laicismo, la justicia imparcial, la igualdad entre los sexos, el capitalismo o la sociedad de consumo… en el futuro forzosamente habrán de darse otros cambios difícilmente previsibles hoy.
Yudkowsky concibe la tecnología encuadrada en la economía de mercado, y por lo tanto su visión tiene también un componente empresarial.
“Equilibrios inadecuados” es un libro acerca de una noción de mercados eficientes y de cómo podemos usar esa noción para averiguar cuándo la sociedad será o no será efectiva en perseguir alguna meta ampliamente deseada. Un mercado eficiente es uno donde los individuos inteligentes deberían considerar poco viable el que se puedan colocar artículos con un precio excesivo o con uno demasiado bajo. Podemos preguntarnos una cuestión análoga, sin embargo, sobre la eficiencia de otros empeños humanos (Prefacio)
Su concepción acerca de los “equilibrios inadecuados” tiene que ver también con la resistencia a los cambios de paradigma; el inevitable inmovilismo de los centros de poder que ha de ser desafiado por una racionalidad sin prejuicios.
Resumo mi epistemología en algo así como “intenta asegurarte de que llegarías a diferentes creencias partiendo de diferentes mundos” (…) Errores emocionalmente atractivos no son trampas cognitivas invencibles de las que nadie puede escapar. A veces ni siquiera es difícil escapar de ellas (Capítulo 7)
Pero un pensador que pretende compatibilizar el mundo empresarial con el desafío a lo convencional ha de ser forzosamente oscuro en su planteamiento. Precisamente cuando se señalan las “trampas cognitivas” se está poniendo a prueba la racionalidad de las mismas motivaciones.
Desarrollar creencias acertadas requiere tanto observación de los datos como el desarrollo de modelos y teorías que pueden ser comprobados por los datos (Capítulo 5)
El uso del razonamiento lógico propio del enfoque científico ha de verse alejado de prejuicios y convencionalismos. ¿No es eso algo que todos tenemos asumido hoy? Sin embargo, los desastres de las crisis económicas recientes nos demuestran que no siempre se atiende a los datos.
La obra de Yudkowsky tenemos que verla como parte de los esfuerzos en delimitar los criterios de actuación de un esfuerzo colectivo; una señalización más en la cuestión de los paradigmas, sobre la cual nunca se dirá bastante. ¿Por qué ni Aristóteles descubrió la ciencia moderna, ni Hipócrates la medicina moderna etc?
Una muestra de la inteligente preocupación de la teoría social y económica por la mecánica del pensamiento han sido los teoremas que nos describirían los errores de la cognición a nivel social y a muchos de los cuales Yudkowsky hace referencia:
Por su parte, uno de los conceptos que él desarrolla es el de la información asimétrica
Es un problema de información asimétrica cuando intentas vender un coche usado y sabes que no tiene problemas mecánicos, pero no tienes manera de comunicar esta información al comprador porque éste pensará que podrías mentirle (Capítulo 3)
Es decir, una cuestión cognitivo-social: la incapacidad de utilizar criterios científicos –evaluación objetiva- dentro del mundo empresarial, que se basa en los artificios emocionales de la seducción, el engaño y la mentira. Curiosamente, Yudkowsky no considera la cuestión moral, sino solo la ineficiencia por causa del paradigma del mercado: da igual que todos los indicadores objetivos afirmen cuál es la tendencia económica si los paradigmas del interés del mercado rechazan tales indicadores por causa de prejuicios y/o sesgos.
Esto en cierto modo recuerda la diferencia entre racionalidad y lógica y el concepto de "razón no formal". Hay una racionalidad del mercado que en ocasiones contradice necesariamente la lógica… a pesar de que el mercado se jacta de basarse en la lógica.
En el mismo sentido, Yudkowsky presume de ser autodidacta y como tal pretende que los proyectos de investigación funcionan mejor si se ven desvinculados de los intereses académicos.
Me he encontrado con varias personas que me preguntaban cosas como “¿Por qué vosotros los del Machine Intelligence Research Institute pensáis que lo hacéis mejor que los académicos?”. Yo respondía que éramos un pequeño instituto de investigación que se sostiene por donantes individuales, y que por lo tanto se pone al margen de las ex organizativas estándar que colectivamente crean malos incentivos para el tipo de investigación que llevamos a cabo. Describí cómo deliberadamente nos habíamos organizado para alejarnos de incentivos que desalientan proyectos de investigación sustantivos a largo plazo, para evitar la dinámica académica “publica o perece”, y más generalmente para navegar alejados de las múltiples fronteras de competitividad dentro de las cuales los investigadores tienen que gastar toda su energía compitiendo para dar a conocer sus trabajos en las mejores publicaciones (Capítulo 4)
Su conclusión particular es
Es posible [hacer algo bueno por alguien] pensando cuidadosamente sobre el problema uno mismo, incluso si tu civilización no te da una respuesta convencional (Capítulo 2)
De momento, tendremos que esperar a que la visión de este y otros autores acabe demostrándonos ser más efectiva que la de las infraestructuras académicas, tecnológicas y económicas convencionales que critican, y en qué medida logran crear alternativas a ellas. Desde luego, nunca viene de más que nos señalen las incongruencias de la organización social –mercados, centros académicos, desarrollo tecnológico…- a pesar de que ésta asegura basarse en criterios lógicos racionales.
Si las cosas no van bien del todo, entonces forzosamente el pensamiento convencional no puede estar acertado, pero saltar de uno a otro paradigma no es nada fácil. Por definición no puede serlo porque no sabemos previamente adónde vamos a ir a parar, algo inevitable en todo cambio de paradigma.
Lectura de “Inadequate Equilibria” en Machine Intelligence Research Institute Berkeley, 2017; traducción de idea21
No hay comentarios:
Publicar un comentario