Axis Mundi: Distopía totalitaria e Inteligencia Artificial

Como bien saben nuestros amables lectores, se supone que la civilización occidental está sustentada en la idea de que nadie puede, o debe, conocer nuestros pensamientos, deseos o alegrías mejor que nosotros; es por ello que, en un mundo ideal, deberíamos ser nosotros mismos, en lugar del gobierno o cualquier otra figura de autoridad, quienes estemos a cargo de nuestras vidas, tal y como lo plantea la afirmación del filósofo Immanuel Kant, de que nadie tiene el derecho de forzar su idea de la «vida buena» sobre los demás.[i]

Sin embargo, como hemos podido apreciar en la magnífica tercera temporada de la serie de HBO Westworld,[ii] y en el inquietante documental de Netflix, El dilema de las redes sociales,[iii] los recientes desarrollos en la Inteligencia Artificial (IA) están cambiando la propia noción de «libre albedrío», acercándonos a las antípodas de la máxima socrática («conócete a ti mismo»),[iv] ya que los algoritmos de Google, Facebook, etcétera, amenazan con conocernos mejor de lo que nos conocemos a nosotros.

Lo anterior es una amenaza que se cierne sobre los seres humanos, ya que, como está ocurriendo en China, con el férreo control de su población mediante herramientas informáticas,[v] un gobierno armado con IA podría llegar a afirmar que sabe lo que su gente realmente quiere y lo que en verdad los hará felices, circunstancia que, en el mejor de los casos, se usará para justificar el paternalismo, y en el peor, el totalitarismo.

La historia de nuestra especie nos ha llevado a comprender que —máxime con los gobiernos populistas donde se practica el culto a la personalidad— todo infierno comienza con una promesa del cielo, por tanto, un totalitarismo liderado por la IA no será diferente, ya que la libertad se convertirá en obediencia al Estado, y quienes deseen elegir su propio camino serán considerados como enemigos irracionales, rencorosos o subversivos.

Es por ello que, para prevenir tal distopía, no debemos permitir que los demás sepan más de nosotros que nosotros mismos, no debemos renunciar al derecho al autoconocimiento. En 2019, el inversionista Peter Thiel afirmó que la IA era «literalmente comunista»,[vi] al tiempo que señaló que le permitiría a un poder centralizado vigilar a los ciudadanos y saber más de ellos, razón por la cual China ha abrazado con entusiasmo a la IA.[vii]

Como hemos podido apreciar a través de la represión china contra los uigures y los manifestantes en Hong Kong,[viii] resulta más que evidente el potencial de la IA para apoyar el totalitarismo, proporcionando un sistema orwelliano de vigilancia y control. Sin embargo, la IA también les brinda a los totalitarios un arma filosófica, ya que, cada vez más, las grandes compañías de tecnología recogen enormes cantidades de datos sobre nuestro comportamiento, por medio de algoritmos de aprendizaje automático que usan dichos datos para calcular no sólo lo que haremos, sino quiénes somos.

Hoy en día, la IA puede predecir qué películas nos gustarán,[ix] qué noticias deseamos leer y a quiénes queremos como amigos en Facebook; es capaz de pronosticar si las parejas permanecerán juntas y si intentaremos suicidarnos.[x] A partir de nuestros «likes» en Facebook, la AI puede predecir nuestros puntos de vista religiosos y políticos, personalidad, inteligencia, adicciones y «nivel de felicidad». Lo grave es que, según podemos prever, la exactitud de las predicciones de la IA sólo mejorará: en un futuro no muy lejano, como lo ha sugerido el historiador Yuval Noah Harari,[xi] la IA puede decirnos quiénes somos antes de que nosotros mismos lo sepamos.

En virtud de lo anterior, los avances en IA tienen implicaciones políticas catastróficas, ya que, si los gobiernos pueden conocernos mejor que nosotros, tendrán una justificación más para intervenir en nuestras vidas —por ejemplo, en México, donde Hacienda pretende vigilar hasta el interior de nuestros domicilios[xii]— y, como ha sido el sueño de todo político autoritario, seremos tiranizados en nombre de «nuestro propio bien».

Curiosamente, el filósofo Isaiah Berlin —al igual que novelistas como George Orwell, Aldous Huxley y Philip K. Dick— previó todo este escenario casi medio siglo atrás,[xiii] cuando identificó dos tipos de libertad: la libertad negativa, es decir, «libertad de» la interferencia de otras personas o del gobierno en nuestros asuntos, esto es, que nadie más pueda restringirnos, siempre y cuando no estemos violando los derechos de nadie más. Por el contrario, la libertad positiva es «libertad para» ser dueño de uno mismo, la libertad de cumplir nuestros verdaderos deseos, de vivir una vida racional… algo que todos anhelamos.

¿Pero, qué pasa si una figura de autoridad dice que no estamos actuando acorde a nuestro «verdadero interés»? Si no atendemos su indicación, podría obligarnos a ser «libres», coaccionándonos por nuestro «propio bien», lo cual representa una de las ideas más peligrosas jamás concebidas, misma que provocó el asesinato de decenas de millones de personas en la Unión Soviética de Stalin, la China de Mao y la Camboya del Khmer Rouge.[xiv]

En consecuencia, sólo podemos prevenir tal distopía si permanecemos fieles al axioma socrático y no permitimos que una máquina y/o figura de autoridad pretendan conocernos mejor de lo que deberíamos hacer nosotros mismos. Nunca debemos abrir las puertas a alguien que busque tal poder sobre nosotros, anunciando con bombo y platillo que sólo tiene «las mejores intenciones». Como nos enseña la historia, tal falacia sólo ha terminado en una calamidad.

Sin embargo, la IA podría ser una excelente herramienta si se permitiera que los usuarios la empleáramos en nuestro beneficio, utilizándola para entender mejor lo que nos hará felices, sanos y prósperos. El problema no es que la IA mejore nuestro autoconocimiento, sino la disparidad en lo que las compañías tecnológicas saben de nosotros,[xv] ya que el conocimiento sobre uno mismo en manos de otros es poder sobre nosotros; pero el conocimiento sobre nosotros en nuestras propias manos es nuestro poder.

Debería estar reglamentado, internacionalmente, que cualquiera que procese nuestros datos, para crear conocimiento sobre nosotros, se halla legalmente obligado a devolvernos tal conocimiento. Lo que la IA dice sobre nosotros es para que consideremos su uso, no para que otros se beneficien del abuso. Sólo debería haber una mano en el timón de nuestra alma: la nuestra.

Notas de referencia:

[i] https://scielo.conicyt.cl/scielo.php?script=sci_arttext&pid=S0718-92732019000300049

[ii] https://www.youtube.com/watch?v=YEiTVgwJQuM

[iii] https://www.netflix.com/title/81254224

[iv] https://lacasadelaetica.com/socrates-conocete-a-ti-mismo/

[v] Situación que, en el otro lado de la moneda, les permitió avanzar en la contención de la actual pandemia, https://www.lavanguardia.com/vida/20200302/473825002349/china-receta-big-data-control-ciudadano-lucha-coronavirus-inteligencia-artificial-app.html

[vi] https://www.manhattan-institute.org/events/2019-wriston-lecture-end-computer-age-thiel#transcript

[vii] https://flia.org/wp-content/uploads/2017/07/A-New-Generation-of-Artificial-Intelligence-Development-Plan-1.pdf

[viii] https://hongkongfp.com/chinas-xinjiang-crackdown/

[ix] https://www.springer.com/gp/book/9783319296579

[x] https://journals.sagepub.com/doi/10.1177/2167702617691560

[xi] https://elpais.com/cultura/2016/10/19/babelia/1476869722_225744.html