Así que vi “Do you trust this computer?”, una película que “explora las promesas y peligros” de la inteligencia artificial. Aunque señala tanto lo bueno como lo malo, se centra evidentemente en cómo la IA podría producir “el fin del mundo como lo conocemos” (EFDMCLC). Es decir, si queda sin regular.
Sin embargo, es extraño que los ejemplos de IA de EFDMCLC fueran “armas autónomas” y “noticias falsas” esto último debido a cómo puede proporcionar una vía para que un dictador apoyado por una minoría se haga con el poder. Aunque entiendo (y temo) ambas cosas, los ejemplos tienen algo en común, pero no es la IA.
Ese algo es el Estado. Sólo los ejércitos del Estado y los grupos que tratan de alcanzar el poder en un Estado tienen interés en “robots asesinos”. También son desarrollados por y para esos grupos. El problema de las noticias falsas y la “influencia indebida” también se relaciona con el poder sobre el Estado. Ni las armas ni las noticias falsas requieren IA. Aun así, en un extraño giro, los productores de la película hacen de ellas un problema de IA. Peor aún: acaban la película indicando que el principal problema es que la IA “no está regulada”.
Pero esto es completamente ilógico: ¿cómo puede ser al mismo tiempo el Estado el problema y la solución?
Por el contrario, se nos pretende hacer creer que es problemático que Google registre nuestras búsquedas en la web y Facebook conozca nuestros amigos y creencias (“¿debido a las armas autónomas?”). Aunque estoy de acuerdo en que está feo, ninguna de ambas empresas está reclamando decidir sobre la vida y la muerte. De hecho, funcionan bajo la regulación más dura, que es el mercado. Porque están realizando inversiones para ganar dinero y solo se puede ganar dinero de una de dos maneras: ofreciendo algo que la gente quiere y está dispuesta a pagar (los medios “económicos” de Oppenheimer) o sencillamente quitándoselo a la gente contra su voluntad (medios “políticos”). Las empresas actúan de acuerdo con lo primero, lo que significa que están sometidas a la merced de los consumidores. El Estado funciona de acuerdo con lo segundo.
No, no estoy diciendo que la capacidad de jugar con las emociones de la gente, engañarla mediante información “falsa”, etc. no sea problemática. Estoy diciendo que la película olvida completamente el elefante en la habitación y además sugiere que este es la solución.
La lógica está basada en una ilusión, si no en una ideología: un rechazar ver lo que está evidentemente allí. La solución sencillamente no es una solución: si el estado “regulara” cómo usan Google y FB la IA para escudriñar los datos y dar a la gente lo que quiere ver, ¿qué hace que alguien piense que esto también se aplicaría al Departamento de Defensa o la NSA y sus datos, que no se recogen voluntariamente de los consumidores, sino en secreto? Y esto último es mucho más probable que pase con las armas autónomas. La película incluso dice que es así, pero parece pasar por encima de ese problema.
Para ilustrar la diferencia entre los medios políticos económicas de Oppenheimer, consideremos dos crisis recientes de confianza. La debacle de Cambridge Analytical hizo que Facebook cambiara inmediatamente su negocio al perder sus propietarios miles de millones cuando se desplomó el valor de la empresa. Ese valor se basa en la voluntad de la gente de usar el sitio web y sus aplicaciones para continuar compartiendo contenido. El hashtag #DeleteFacebook dañaba a los propietarios. Comparemos esto con lo que reveló Snowden: que el Estado espía a todos. Los datos se recogen en parte en empresas que al mismo tiempo se ven obligadas a cumplir con esas solicitudes y están obligadas formalmente a no decir nada acerca de ello. Sí, la filtración desató muchas emociones, pero ¿qué pasó con la vigilancia del “estado profundo”? Probablemente nada. Salvo tal vez algunas nuevas rutinas y probablemente más dinero para controlar filtraciones.
¿Cuáles son más problemáticos, los medios “económicos” que están sometidos a la confianza (en realidad, al capricho) de los consumidores o los medios “políticos” no sometidos al conocimiento ni la supervisión e irresponsables en absoluto porque es un secreto y porque pagamos por ello lo queramos o no?
Añadamos a esto cómo a estos últimos les interesa y tienen como objetivo tanto las armas autónomas como mantener/reclamar el poder del Estado. Es bastante evidente que la primera no es una solución utópica perfecta, pero es una que claramente tiene un mecanismo interno de control, porque se basa en el valor, mientras que la otra no, incluso se basa en realizarse en un completo secreto y a nuestra costa (involuntariamente). Sin embargo, esta última por alguna razón se trata en la película como la (¿“única”?) solución. Eso tal vez funcione bien sobre el sesgo de confirmación de la gente, porque hemos aprendido en la escuela y queremos creer que el estado “somos nosotros”. Vale, pero no somos nosotros espiándonos y fabricando armas autónomas. De hecho, sería difícil creer una decisión política de “dejar de desarrollar” esas armas. ¿Quién cree realmente que no continuarían haciéndolo a pesar de decir exactamente lo contrario?
De hecho, no hay ningún inconveniente si sencillamente se miente y finge. Mientras que, si es grave, las empresas pueden desaparecer de la noche a la mañana si la gente deja de confiar en ellas: su valor se habría esfumado. Así que la lógica de la película sencillamente no funciona, no tiene sentido. No puedo dejar de pensar que fabricar máquinas que piensen a “nuestro nivel” no puede ser tan difícil, si este es el estado de la inteligencia humana, nuestra capacidad de llegar lógicamente a conclusiones a partir de los datos disponibles. Y no puede ser difícil para las máquinas reconocer patrones reales y llegar a las conclusiones correspondientes.
Pero tal vez no debería sorprenderme que los productores de la película no entiendan la economía a un nivel esencial: señalan la automatización como un enorme problema, porque nos crea más valor con un coste menor. Perderíamos empleos. Oh, no. Pensar en esto esta mañana de lunes.
Aquí está el enlace para quien esté interesado. Parece que era gratis hasta ayer. Hoy cuesta 3,99$ visionarlo.
