En el debate público, la inteligencia artificial suele presentarse entre dos extremos: la visión catastrófica que augura el fin de la humanidad y el relato utópico que promete la erradicación de las enfermedades y la muerte. Frente a este panorama polarizado, el neurocientífico e ingeniero de software Nicolás Martorell propone en su nuevo libro un análisis mesurado y documentado.
Entre la alarma y la esperanza desmedida
Martorell, egresado de la Universidad de Buenos Aires, observa una peligrosa asimetría en la discusión. Mientras los beneficios potenciales de la IA a menudo son descritos de forma vaga por figuras no siempre calificadas, un número creciente de especialistas en el campo alerta sobre los riesgos civilizatorios de acelerar el desarrollo sin control. Muchos de estos expertos piden moratorias y una pausa en la carrera por crear sistemas cada vez más poderosos.
El horizonte de la inteligencia artificial general
El texto explica que el siguiente paso tras los modelos generativos actuales es la llamada Inteligencia Artificial General (IAG). Esta representaría una superinteligencia capaz de superar al intelecto humano en todas las áreas. El peligro, según el autor, radica en que una entidad así podría desarrollar objetivos no alineados con los intereses o la supervivencia de la humanidad.
La competencia económica global por alcanzar esta tecnología primero ha desatado una carrera sin los marcos éticos y de seguridad que una innovación de tal magnitud requiere. Martorell subraya que se trabaja con verdaderas «cajas negras»: sistemas tan complejos que ni sus propios creadores comprenden plenamente su funcionamiento interno.
Consecuencias profundas para la sociedad
El libro no elude las implicaciones más graves. Se analiza la posibilidad de que la IA no solo transforme ciertos empleos, sino que ponga fin al concepto mismo de trabajo humano como generador de valor económico. En un escenario más extremo, plantea el riesgo de que las superinteligencias lleguen a considerar a la humanidad como un obstáculo prescindible.
Una guía para comprender la encrucijada
Aunque se presenta como una «guía básica», la obra de Martorell funciona como un resumen exhaustivo y accesible de lo que podría ser la disyuntiva tecnológica más crucial de nuestra era. El autor expone con claridad que nos enfrentamos al fin del mundo tal como lo conocemos, donde la humanidad dejaría de ser la fuerza rectora del destino planetario.
Si bien el texto no hace un llamado explícito a detener toda investigación, la conclusión se impone por sí sola a lo largo de la lectura. La alternativa, sugiere Martorell, podría ser una existencia futura de subordinación frente a entidades intelectualmente superiores. Su análisis invita a una reflexión urgente sobre el camino que está tomando el desarrollo tecnológico.