Yuval Noah Harari señala los peligros de la IA en su nuevo libro, Nexus

A pesar de los grandes beneficios de la inteligencia artificial (IA) en la vida de los seres humanos, el reconocido historiador israelí Yuval Noah Harari pide no subestimar los alcances de esta tecnología en constante evolución y estar alerta a los peligros que puede significar para las sociedades modernas.

Así lo dijo durante la presentación a medios de comunicación de habla hispana de su nuevo libro “Nexus”. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, una publicación muy esperadas desde la aparición de “Sapiens: de animales a dioses”, el cual se convirtió en un fenómeno de ventas hace poco más de una década.

“La evolución de la IA tiene básicamente 10 años, todavía está dando los primeros pasos. Si pensamos el desarrollo de la IA de forma análoga a la evolución biológica, entonces las IA de hoy son muy simples. Los animales tardaron millones de años de evolucionar hasta llegar a los humanos, porque la evolución orgánica es lenta, pero la evolución digital es millones de veces más rápida”.

“No se necesitará el mismo tiempo para que la ‘amiba’ que es hoy la IA evolucione en un dinosaurio. Si Chat-GPT es tan sólo eso, una ‘amiba’, sólo imaginen lo que una IA evolucionada como un T-Rex podría hacer”, agregó el historiador ante el pensamiento generalizado de que las inteligencias artificiales son herramientas que sólo cometen errores en sus productos (ensayos, imágenes, videos y música), olvidando que son capaces de hilar ideas y argumentos, generando productos con sentido, un hecho del que se desconocen sus repercusiones a futuro.

Un agente independiente

De los diferentes riesgos que puede tener la IA, Yuval identifica entre los principales el que no se trata sólo de “una herramienta” como cualquier otra tecnología hecha en la historia de la humanidad, sino más bien de “un agente independiente”, capaz de tomar decisiones en beneficio para lo que fue programado.

Puedes leer: Audiolibro Amor tumbado mezcla la historia de Romeo y Julieta con la violencia del narcotráfico

“Cualquier tecnología, entre ellas las armas nucleares, como la bomba atómica, por supuesto, tienen un inmenso poder destructivo, pero, aun así, el poder está en manos humanas. Son seres humanos los que deciden si usarla y dónde, son ellos quienes desarrollan cualquier arma o estrategia militar.

“Pero una IA es diferente porque puede tomar decisiones por sí misma”, explicó el historiador, quien puso énfasis en que las IA, incluso pueden crear otras.

Uno de los ejemplos en los que ha identificado esta capacidad de decisión es en la distribución de información en las redes sociales, con el uso de algoritmos para direccionar información a determinados públicos, pero además son capaces de realizar textos y otros productos por sí mismos, tomando el lugar de lo que en los medios tradicionales era responsabilidad de un editor, lo cual debería ser cuestionado, pues su modelo de negocio se basa en la participación de los usuarios.

“A medida que las personas pasan más tiempo en YouTube, Twitter, TikTok o lo que sea, las empresas venden anuncios a modo de publicidad, las empresas recopilan más datos, que luego pueden vender a terceros.

Es en pos de este objetivo es que los algoritmos de las empresas descubrieron que la forma más fácil de captar la atención y de mantener a más personas durante más tiempo en la plataforma es presionar el botón de odio o el botón de miedo o el botón de ira en la mente”, agregó.

El historiador asegura que por esta razón no se ha permitido el diálogo y el cuestionamiento básicos para ejercer la democracia, por lo que considera que el periodismo sigue siendo clave aún en nuestros tiempos.

Totalitarismo tecnológico

Sin dar por seguro que vaya a suceder, ya que todo dependerá de las decisiones que de aquí en adelante tomé la humanidad, Yuval dijo que la IA permite la posibilidad de totalitarismos tecnológicos, pues ha abaratado los costos de censos y espionaje, como los que se realizaron regímenes como el soviético que utilizaba cientos de agentes de la KGB.

“En un país con IA no se necesitan agentes humanos para seguir a todos los humanos. Hay teléfonos inteligentes, computadoras, cámaras, Facebook, softwares de cognición y reconocimiento de voz. Por lo tanto, es técnicamente posible seguir a todos todo el tiempo y aniquilar la privacidad.

“Y, por si fuera poco, tampoco se necesitan analistas humanos para revisar toda la información”, dijo el investigador, quien aseguró que estas herramientas ya están en uso en varios países del mundo, porque hay que reconocerlo como una realidad y no ciencia ficción.

“Esto no sólo sucede en mi propio país natal, Israel, sino en los territorios palestinos ocupados. Con cámaras, drones y software que siguen a todos todo el tiempo. Tambien en Irán, por ejemplo, donde hay leyes sobre el hijab que obligan a las mujeres a cubrirse la cabeza cada vez que salen en público, incluso en su propio automóvil”, aseguró.

El historiador también comentó que después de las protestas en 2018 en el país musulmán, se implementaron sistemas de vigilancia con IA que alertan a las autoridades sobre esos supuestos crímenes religiosos.

➡️ Próximamente canal de Telegram ⚠️para no perderte la información más importante

Por último, Yuval, aseguró que, a pesar de que este nuevo libro se centra en los aspectos negativos de la IA, él no se encuentra en contra del desarrollo, pues éste tendrá grandes beneficios en ramas como la salud, la movilidad y otras.

“La razón es simplemente que tienes todas estas corporaciones extremadamente ricas y poderosas, con historias positivas y predicciones positivas sobre lo que hará la IA, haciéndonos ignorar los peligros. Así que es el trabajo de los filósofos, historiadores, académicos como yo, centrarnos en ese lado oscuro. Pero eso no significa que sólo haya peligro”, finalizó.