El profesor al que tacharon de “loco” y “alarmista” y que ha acertado sobre la inteligencia artificial

La inteligencia artificial es una de las áreas más novedosas y desafiantes de la tecnología, pero también es una de las más impredecibles y potencialmente peligrosas. Así lo advierte el experto en esta materia y profesor de la Universidad de Nueva York Gary Marcus, quien hace unos meses publicó un artículo en el que alertaba sobre los posibles riesgos de esta herramienta.

“Algo increíble está sucediendo en el mundo de la inteligencia artificial, y no es del todo bueno”, manifestó hace seis meses Marcus y recoge BBC. “Cuando escribí este artículo, creo que la gente pensó que estaba loco o que era alarmista”, ha asegurado Marcus en una entrevista con la cadena británica.

Según Marcus, el lanzamiento de ChatGPT nos lleva al “momento Jurassic Park” de las máquinas. En la película de Steven Spielberg, los dinosaurios creados por la ingeniería genética escapaban de su confinamiento y ponían en peligro a los humanos. De manera similar, Marcus teme que los sistemas de IA terminen fuera de control.

En marzo de este año, un hombre de Bélgica que solía utilizar el chatbot Eliza, de la empresa Chai, se suicidó. Según la esposa del hombre, el contacto con el programa lo llevó a quitarse la vida. Para el gobierno belga, el caso es “un precedente que debe tomarse en serio” y “el peligro del uso [de la inteligencia artificial] es una realidad que debe ser considerada”.

Marcus ha compilado “siete predicciones nefastas” sobre herramientas como ChatGPT, incluida la posibilidad de que la versión más nueva del programa sea como un “toro en una tienda de porcelana, imprudente y difícil de controlar”. “Cometerá una cantidad significativa de errores alucinantes, en formas que son difíciles de predecir”, advierte.

La inteligencia artificial utiliza grandes modelos de lenguaje (LLM) que almacenan cantidades ingentes de datos y generan, a través de potentes algoritmos, respuestas de aproximación basadas en lo que ya han dicho los humanos. En resumen, es como un loro ultrasofisticado que no tiene idea de lo que está hablando y, a veces, “alucina”.

Los LLM “no son tan inteligentes, pero son peligrosos”, según Marcus, quien también incluyó el aumento de los momentos alucinatorios de la IA en su lista de “predicciones oscuras”.

“Creo que estos sistemas pueden ser muy destructivos. Y parte de la razón del potencial de destrucción es que no son confiables. Estos programas pueden inventar algo y decirle [al usuario] que es un hecho. Y también pueden ser usados por personas para ese fin”, dice Marcus.

Podríamos estar cerca de “un ambiente de posverdad”

Además de los generadores de texto, los programas que manipulan imágenes también evolucionan rápidamente. Es el caso de una foto del papa Francisco con una chaqueta plateada, realizada con el programa Midjourney, que dejó confundido a Internet por unas horas.

Esto tuvo consecuencias inofensivas, pero fue una muestra del potencial para marcar el comienzo de la magnitud entre lo real y lo ficticio. “Si no tomamos medidas, estamos cerca de entrar en un ambiente de posverdad”, dice el profesor de la Universidad de Nueva York

Por otro lado, la IA también puede dar respuestas que no son ciertas como verdaderas. Para Marcus, “no tenemos ninguna garantía formal de que estos programas funcionen correctamente, incluso cuando hacen cálculos matemáticos”. “A veces son correctos, a veces no. La falta de control y fiabilidad son problemas que veo”.

Para Marcus, la falta de control y fiabilidad son problemas fundamentales que plantea la inteligencia artificial, y aunque no es una situación terrible, “la gente les está dando cada vez más poder. Y no sabemos qué pueden hacer esos sistemas en una situación determinada”.

Marcus ha sido crítico con el rápido avance de la IA adoptando una postura de cautela y entusiasmo con desconfianza. Sin embargo, su escepticismo ha sido objeto de burlas por parte de algunos de sus colegas en el pasado, especialmente en las redes sociales. Ahora, algunos líderes en el campo, como Jeffrey Hinton, han comenzado a adoptar un tono similar al de Marcus.

Hinton, considerado el “padrino de la IA”, recientemente anunció su salida de Google y ha expresado su preocupación por los problemas de la inteligencia artificial, que según él, son “quizás más urgentes que los del cambio climático”.

Aunque Marcus y Hinton tienen diferentes puntos de vista sobre algunos aspectos, ambos están de acuerdo en que el control es fundamental. Marcus señala que no está de acuerdo con la idea de que la IA sea una amenaza mayor que el cambio climático, pero admite que es difícil estimar los riesgos de la IA, ya que no existen suficientes datos para calcularlos.

Marcus también ha expresado su preocupación por el uso de la IA para socavar las democracias. “Para mí, la posibilidad de que estas herramientas se utilicen para socavar las democracias es esencialmente del 100%. Ahora, no sabemos si existe la posibilidad de que los robots se apoderen del planeta. Es razonable que algunas personas se planteen en este escenario. Estamos construyendo herramientas muy poderosas. Debemos considerar estas amenazas”, concluye Marcus.