Difícil de regular Facebook, Google y Amazon dada su complejidad desconcertante

En la década de 1990, hace una vida en términos de internet, el sociólogo español Manuel Castells publicó varios libros trazando el auge de las redes de información. Predijo que en la era de la red, se acumularía más valor al controlar los flujos de información que al controlar el contenido en sí.

En otras palabras, aquellos que se posicionaron como centros de red (enrutadores y conmutadores de información) se convertirían en los guardianes del poder en la era digital.

Con el auge de los gigantes de Internet Google, Facebook, Amazon y otros, esta idea parece obvia ahora. Pero en las últimas dos décadas, surgió un modelo de negocio fundamentalmente nuevo que incluso Castells no había previsto, uno en el que atraer usuarios a plataformas digitales tiene prioridad sobre todo lo demás, incluido lo que el usuario podría decir, hacer o comprar en esa plataforma.

La recopilación de información se convirtió en el imperativo dominante para los gigantes tecnológicos, ayudados voluntariamente por los usuarios encantados primero por la novedad, luego por la conveniencia y la autoexpresión que brinda estar en línea. El resultado fue una explosión de información, que los gigantes en línea pueden cotejar y usar con fines de lucro.

La magnitud de esta empresa significa que gran parte de ella es invisible para el usuario cotidiano. Las grandes plataformas son ahora tan complejas que su funcionamiento interno se ha vuelto opaco incluso a sus ingenieros y administradores. Si el sistema ahora es tan grande que ni siquiera aquellos que trabajan dentro de él pueden ver la imagen completa, entonces ¿qué esperanza tienen los reguladores o el público?

Por supuesto, los gobiernos están tratando de defenderse. los Leyes GDPR en Europa, el Informe de plataformas digitales ACCC en Australia y el Ley de desintoxicación presentado al Congreso de los EE. UU. en abril: todos son intentos importantes de recuperar alguna agencia. Al mismo tiempo, se está dando cuenta en sociedades de todas partes que estos esfuerzos, aunque cruciales, no son suficientes.

Los guardianes reinaron supremo

Si piensa en Internet como una máquina gigantesca para compartir y copiar información, entonces queda claro que los sistemas para clasificar esa información son de vital importancia. Piense no solo en la herramienta de búsqueda de Google, sino también en la forma en que Google y Amazon dominan la computación en la nube, los sistemas en gran medida invisibles que hacen que Internet sea utilizable.

Con el tiempo, estas plataformas han logrado un control cada vez mayor sobre cómo fluye la información a través de ellas. Pero es un tipo de control desconocido, que involucra cada vez más sistemas autónomos y de autoaprendizaje que son cada vez más inescrutable a humanos.

El control de la información es primordial, por lo que plataformas como Google, Amazon y Facebook han alcanzado la supremacía. Pero eso no significa que estas plataformas necesariamente necesiten competir o coludir entre sí. Internet es realmente enorme, un hecho que ha permitido que cada plataforma se convierta en el emperador de un nicho en crecimiento: Google para búsqueda, Facebook para redes sociales, Amazon para venta minorista, etc. En cada dominio, desempeñaron el papel de titular, disruptor e innovador, todo al mismo tiempo.

Ahora nadie compite con ellos. Si usted es un individuo, empresa o gobierno, si necesita Internet, necesita sus servicios. Los monstruos de la era de la red son estructurales.

Algoritmos están ejecutando el show

Para que estas plataformas se mantengan en la cima, la innovación es un requisito constante. A medida que el trabajo de clasificación se hace cada vez más grande y complejo, estamos viendo el desarrollo de algoritmos tan avanzados que sus humanos creadores han perdido la capacidad de comprender su funcionamiento interno. Y si el resultado satisface la tarea en cuestión, el funcionamiento interno del sistema se considera de menor importancia.

Mientras tanto, la letanía de los efectos adversos es innegable. Este nuevo mundo valiente dirigido por máquinas está erosionando nuestra capacidad para identificar, ubicar y confiar en la información autorizada, a favor de la velocidad.

Es cierto que el paciente estaba ya mal; Las sociedades se han vaciado por tres décadas de fundamentalismo de mercado. Pero como el historiador tecnológico estadounidense George Dyson advertido recientemente, el código autorreplicante ahora está disponible en el ecosistema cibernético. Lo que comenzó como una forma en que los humanos persuadieron a otros a comportamientos deseados ahora amenaza con transformarse en nada menos que la manipulación de humanos por máquinas.

La era digital ha estimulado un enorme crecimiento en disciplinas de investigación como la psicología social, la economía del comportamiento y la neurociencia. Han cedido ideas asombrosas en cognición y comportamiento humanos, con usos potenciales que son lejos de ser benigno

Incluso si este esfuerzo se hubiera fundado con la mejor de las intenciones, abundan los accidentes cuando los humanos falibles intervienen en sistemas complejos con fundamentos éticos y legales incipientes. Agregue intenciones malignas a la mezcla: interferencia electoral, guerra de información, extremismo en línea, y los desafíos solo aumentan.

Si todavía está pensando en las tecnologías digitales como herramientas, lo que implica que usted, el usuario, tiene el control total, debe pensar de nuevo. La verdad es que nadie sabe realmente a dónde nos llevará el código digital autorreplicante. Usted es la retroalimentación, no la instrucción.

Los reguladores no saben por dónde empezar

Está aumentando el consenso de que se necesita con urgencia una intervención reguladora para evitar más perturbaciones sociales y para llevar una supervisión democrática y legal a las prácticas de los monopolios más grandes del mundo. Pero, si Dyson está en lo correcto, el genio ya está fuera de la botella.

Entregados por la novedad y la conveniencia de la vida en línea, hemos permitido inconscientemente que Silicon Valley logre un "golpe desde arriba". Hace mucho tiempo que el ideología eso informó este golpe, y ahora gobierna tanta actividad humana cotidiana, está expuesto al escrutinio.

Los desafíos de la era de la información digital se extienden más allá de los monopolios y la privacidad. Este régimen de tecnologías fue construido por diseño sin preocupaciones por la explotación. Esas vulnerabilidades son extensas y continuarán siendo abusadas, y ahora que esta tecnología es una parte tan íntima de la vida diaria, su remedio debe llevarse a cabo sin temor ni favor.

Sin embargo, la intervención legislativa y reguladora solo puede ser efectiva si la industria, los gobiernos y la sociedad civil se combinan para construir, por diseño, una era de la información digital digna de ese nombre, que no nos deja a todos abiertos a la explotación.

Zac Rogers, Jefe de investigación, Jeff Bleich Center for the Alianza de Estados Unidos en Tecnología Digital, Seguridad y Gobernanza, Universidad de Flinders

Este artículo se republica de La conversación bajo una licencia Creative Commons.

Encuentre toda nuestra colección de historias, análisis en profundidad, actualizaciones en vivo, videos y más sobre Chandrayaan 2 Moon Mission en nuestro dominio dedicado # Chandrayaan2TheMoon.