El bosque oscuro de la tecnología.

Solíamos ser tales optimistas. La tecnología nos traería un mundo de riqueza en armonía con el medio ambiente, e incluso nos traería nuevos mundos. Internet borraría las fronteras nacionales, reemplazaría a los guardianes con una oportunidad universal para la libre expresión y nos acercaría a todos. ¿Recuerdas cuando esperamos cada avance?

Acabo de terminar la trilogía de ciencia ficción magistral de Liu Cixin, Recuerdo del pasado de la Tierra. Es una historia muy pesimista para nuestra era. Sin estropearlo demasiado, solo diré que es una representación de una transición desde la anticipación optimista al contacto con otros mundos … hasta una desolación que aún no hemos hecho porque el universo es un "bosque oscuro", el título Del segundo libro de la trilogía. La "teoría del bosque oscuro" sostiene que las civilizaciones se temen unas a otras tanto que no se atreven a revelarse por temor a ser inmediatamente consideradas como una amenaza potencial y destruidas.

Hay ciertas analogías aquí. Hemos crecido para temer a la tecnología, para desconfiar de todo lo que nos ofrece, para asumir que cada nueva oferta tiene un lado oscuro. Considere la reciente tormenta mini-viral en torno al meme del "Desafío de 10 años" y la pieza Wired resultante que sugiere que se trata de un caballo de Troya diseñado para manipularnos y entrenar a la IA de Facebook para mejorar el reconocimiento de las caras envejecidas.

Dudo mucho que ese sea realmente el caso. No porque tenga fe en la benevolencia transparente de Facebook; porque ya tienen una enorme y enorme cantidad de datos de ese tipo, etiquetados de manera más precisa (implícita). Incluso si las etiquetas explícitas fueran útiles en lugar de contraproducentes, lo cual dudo, dado el borrado de los metadatos, los chistes sobre el meme, etc., no moverían la aguja. Como Max Lee lo pone:

Pero me parece un ejemplo sorprendente de cómo muchos de nosotros hemos crecido para tratar la tecnología como un bosque oscuro. Todo lo que hace la tecnología parece ser considerado una amenaza hasta que se demuestre que es una bendición, y quizás incluso entonces. No fue hace mucho tiempo que sucedió lo contrario. ¿Cómo y por qué ha ocurrido esto?

Parte de ello es probablemente el resentimiento. La industria de tecnología fabulosamente rica e influyente se ha convertido en uno de los principales centros de poder del mundo, y la gente (correctamente) sospecha que la tecnología ahora es más probable que reifique esta nueva jerarquía en lugar de interrumpirla o socavarla. Pero es difícil sacudirse la sensación de que no es realmente el trabajo de la tecnología mejorar las jerarquías humanas; es la democracia. Es cierto que la democracia parece haber estado haciendo un trabajo sorprendentemente pobre en los últimos años, pero es difícil culparlo por completo de la tecnología.

Más bien, creo que gran parte de esta actitud del bosque oscuro hacia la tecnología se debe a que, para la mayoría de las personas, la tecnología ahora es esencialmente mágica. En el caso de AI, como vemos a partir de ese Cableado Incluso, los expertos no pueden ponerse de acuerdo sobre lo que necesita la tecnología, ni mucho menos exactamente cómo funciona, ni mucho menos explicar paso a paso cómo llega a sus resultados (no siempre reproducibles).

(Posiblemente sesgada implícitamente resultados! puedes gritar Sí, eso es cierto e importante. Pero me parece extraño que todos los que están fuera del negocio sigan golpeando la mesa y griten que la industria tecnológica debe dejar de ignorar el hecho de que la IA puede reforzar el sesgo implícito, mientras que todas las personas que conozco son muy conscientes de este riesgo. como una de sus principales preocupaciones, hable de ello constantemente y está haciendo todo tipo de trabajo para mitigarlo o eliminarlo. ¿Por qué la suposición implícita de que todos los investigadores e ingenieros de IA están ignorando alegremente este riesgo? Una vez más: la tecnología se ha convertido en un bosque oscuro.

Sin embargo, la tecnología como magia no solo se limita a la IA. ¿Cuánta gente entiende realmente lo que sucede cuando se pulsa un interruptor y se enciende una luz? ¿Cuántos menos entienden realmente cómo funcionan los mensajes de texto o por qué un cambio de unos pocos grados en las temperaturas globales probablemente sea catastrófico para miles de millones? No muchos. ¿A qué tememos? Tememos lo desconocido. La tecnología es un bosque oscuro porque para la mayoría de las personas la tecnología es magia oscura.

El problema es que esta magia oscura es nuestra única esperanza para resolver nuestros problemas existenciales inmediatos, como el calentamiento global. Ya vivimos en un bosque oscuro lleno de amenazas terribles pero sutiles y mal definidas, y no son causadas por las nuevas tecnologías, son causadas por las consecuencias de exceder la capacidad de carga de nuestro planeta con nuestra antiguo tecnologías El cambio climático es un azote que nos llega a través de los árboles con una velocidad aterradora, y la tecnología es la única antorcha que nos puede sacar.

Bien, concedido, ese fuego podría, en teoría, a largo plazo, y / o en el mal, eventualmente convertirse en una especie de amenaza. Es usado por muchos actores malos para manipular a las personas, para verificar la opresión y para extraer la riqueza que sus usuarios no merecen. En algunas partes del planeta se está utilizando horriblemente de una manera aún peor. Todo cierto. Pero solo porque el fuego es peligroso, no todo uso nuevo es una amenaza malévola. Superemos la reacción violenta y tratemos de restaurar un pequeño optimismo, un pequeño esperanza, un pequeño posible creencia de que las nuevas iniciativas tecnológicas no son automáticamente un mal uso de mala fe, incluso si provienen de Facebook.

(¡Soy el primero en admitir que Facebook hace muchas cosas malas y las condeno por ello! Pero eso no significa que todo lo que hacen sea malo. Las empresas son como las personas; es posible, por muy difícil que sea. creer en esta era de Death Of Nuance, que pueden hacer algunas cosas buenas y otras malas al mismo tiempo. Lo más impactante de todo es que esto es cierto incluso para Elon Musk).

No solo estoy diciendo que esto sería agradable. Estoy diciendo que es algo que probablemente tengamos que hacer, porque nos guste o no, parece que, como especie, ya vagamos colectivamente en un bosque oscuro muy real, y una serie en cascada de mejores tecnologías es la única ruta plausible afuera. Será muy difícil construir esa ruta si empezamos a suponer que se ha llenado deliberadamente con errores y arenas movedizas. Seamos escépticos, por todos los medios; pero no asumamos la culpa y la mala fe como nuestra postura por defecto.