En su reciente obra Nexus, Yuval Noah Harari advierte que la inteligencia artificial (IA) ha dejado de ser solo una herramienta para convertirse en un agente independiente. Según Harari, este cambio implica riesgos que no hemos enfrentado con ninguna otra tecnología. La IA, señaló, podría mejorar sus propias capacidades sin intervención humana, lo que supone una explosión de su poder fuera de nuestro control.
Harari comparó el desarrollo de la IA con la evolución biológica, sugiriendo que hoy estamos ante las "amebas" de la IA, pero en 10 o 20 años podríamos enfrentar a un "dinosaurio" mucho más avanzado. Este avance acelerado plantea la inquietante pregunta de qué capacidades tendrá la IA en el futuro cercano y cómo afectará nuestras vidas cotidianas.
Harari subrayó que la IA podría permitir la creación de regímenes totalitarios de vigilancia total. A diferencia de los dictadores del pasado, una IA avanzada no descansaría ni tendría limitaciones humanas para seguir cada movimiento de las personas. Este poder sin precedentes podría eliminar la privacidad, convirtiendo a la IA en una herramienta de control absoluto.
El historiador también critica la idea predominante en la era digital de que más información conlleva más conocimiento. Harari sostiene que la mayoría de la información es falsa o basura y que distinguir la verdad requiere tiempo y esfuerzo. Esta visión errónea ha justificado el desarrollo de tecnologías sin frenos.
Harari concluyó con una advertencia sobre las visiones cínicas que predominan tanto en la extrema derecha como en la extrema izquierda, las cuales desacreditan a las instituciones que tradicionalmente garantizan la verdad. La creciente desconfianza en los medios, universidades y tribunales está, según Harari, debilitando la democracia.
A pesar de los riesgos, Harari propone que la humanidad debe redescubrir su capacidad de cooperación y compasión. No todas las interacciones humanas están impulsadas por la búsqueda de poder, y esta visión más amable puede ser clave para enfrentar los desafíos de la IA.
