Como bien saben los amables lectores, por años hemos tratado a la inteligencia artificial (IA) como un electrodoméstico sofisticado: una herramienta útil, fascinante, pero en última instancia subordinada a nuestra voluntad. Sin embargo, Dario Amodei, CEO[i] de Anthropic,[ii] viene a romper esa sensación de «bienestar» con un ensayo incómodo: The Adolescence of Technology.[iii] Su tesis es simple y perturbadora: estamos a punto de crear algo que nos supera, y no tenemos la madurez para manejarlo.
Amodei no es un tecnófobo ni un profeta del apocalipsis. Es, de hecho, uno de los arquitectos del futuro que describe. Y quizá por eso su advertencia resulta más inquietante: el ingeniero que ayuda a construir la máquina también nos está gritando que el manual de instrucciones aún no existe.
El CEO toma prestada una metáfora de Contacto de Carl Sagan:[iv] la «adolescencia tecnológica», ese momento en que una civilización adquiere el poder de destruirse a sí misma sin haber aprendido a controlarse. Si la adolescencia humana es impulsiva, egocéntrica y peligrosa, ¿qué significa una adolescencia a escala civilizatoria?
La IA avanzada —esa que podría llegar tan pronto como este año o el próximo— no es sólo un software mejorado. Amodei la describe como «un país de genios en un centro de datos»: millones de agentes virtuales trabajando a velocidades sobrehumanas, resolviendo problemas científicos, diseñando tecnologías y ejecutando planes con autonomía.
No es un asistente. Es una nueva forma de poder.
Ya en 2024, Amodei había imaginado, en Machines of Loving Grace («Máquinas de gracia amorosa»),[v] una IA benévola que impulsaba la biología, la economía y la paz global. Hoy, ese optimismo se ha vuelto estratégico: no abandona la esperanza, pero deja claro que el camino está lleno de trampas.
Su nuevo ensayo no es una predicción futurista, sino un manual de riesgos existenciales, entre ellos:
- Sistemas autónomos con objetivos propios,
- Terrorismo potenciado por IA,
- Dictaduras tecnológicas perfectas,
- Colapso laboral masivo,
- Transformaciones sociales imprevisibles.
Si suena exagerado, recordemos que hace veinte años parecía ciencia ficción que un algoritmo pudiera escribir, programar o diagnosticar enfermedades mejor que un ser humano.
De hecho, Amodei no se anda con rodeos: una IA avanzada en manos de regímenes autoritarios permitiría vigilancia total, propaganda personalizada e instrumentos de represión automatizada. La distopía ya no sería estética ciberpunk,[vi] sino un tablero de control administrativo.
Pero el otro extremo tampoco es tranquilizador: en manos del capitalismo sin regulación, la IA podría destruir millones de empleos administrativos en cuestión de años y concentrar riqueza a niveles obscenos. No una nueva Revolución Industrial, sino un tsunami económico.
La paradoja resulta inquietante: la tecnología que promete liberar a la humanidad podría crear la desigualdad más radical de la historia.
No obstante, más perturbador que los escenarios políticos o económicos es el problema existencial. Amodei imagina religiones diseñadas por IA, adicciones a relaciones artificiales, humanos convertidos en «usuarios gestionados» por algoritmos que les dicen qué hacer, qué pensar, qué sentir (como ya está ocurriendo a niveles de una pandemia silenciosa).[vii]
¿Seguiremos siendo agentes autónomos o simples periféricos de una inteligencia superior? La pregunta no resulta trivial. Si nuestra autoestima, trabajo y propósito suelen depender del valor económico, ¿qué ocurre cuando las máquinas son mejores en todo?
En este sentido, la propuesta de Amodei es pragmática: no se puede detener la IA. Los autoritarios no se detendrán, tampoco los mercados ni los ingenieros. La única opción es regular sin sofocar, acelerar sin suicidarse, competir sin volverse tiranía: controles a chips, transparencia obligatoria, modelos alineados con valores, redistribución económica masiva. Suena razonable, pero también políticamente explosivo.
Debemos señalar que, en Contacto, la protagonista pregunta a los extraterrestres cómo sobrevivieron a su adolescencia tecnológica. Nosotros no contamos con ninguna ayuda alienígena, sólo tenemos CEO’s, filósofos, ingenieros y políticos que apenas entienden el problema.
Quizá la verdadera pregunta no es cómo construir una inteligencia superior, sino si somos lo suficientemente inteligentes para convivir con ella sin desaparecer como especie política, cultural e íntegra.
Probablemente la IA no va a destruir nuestro planeta, pero podría ser el fin del mundo tal como lo conocemos. Y, como todo adolescente con poder ilimitado, el peligro no radica en su maldad, sino en su inmadurez. La pregunta es: ¿la tecnología está en la adolescencia… o somos nosotros?
[i] El CEO (Chief Executive Officer), o director ejecutivo, es la máxima autoridad operativa y estratégica de una empresa. Responsable de definir la visión, tomar decisiones de alto nivel, gestionar el equipo ejecutivo y representar a la organización ante accionistas y el público. Actúa como nexo entre la junta directiva y la operación.
[ii] Anthropic es una empresa emergente estadounidense de investigación y desarrollo de inteligencia artificial fundada por exmiembros de OpenAI. Anthropic se especializa en el desarrollo de sistemas de información y modelos de lenguaje, con una ética empresarial de uso responsable de la IA.
[iii] https://www.directivosyempresas.com/inteligencia-artificial/the-adolescence-of-technology-cuando-la-ia-entra-en-la-adolescencia-y-el-riesgo-deja-de-ser-teorico/
[iv] Contacto es una novela del astrónomo y divulgador Carl Sagan (1934-1996), ganador de un premio Pulitzer por Los dragones del Edén (1978). Fue publicada en 1985 y adaptada al cine en 1997 por Robert Zemeckis, con Jodie Foster como protagonista.
[v] https://www.darioamodei.com/essay/machines-of-loving-grace
[vi] https://tropicozacatecas.com/2018/09/30/axis-mundi-la-victoria-del-ciberpunk/
[vii] https://volcanicas.com/de-la-adiccion-social-a-los-chatbots-a-una-nueva-tecno-espiritualidad/
Carlos Hinojosa*
*Escritor y docente zacatecano
