Un especialista en inteligencia artificial advierte que la delegación masiva de tareas en sistemas automatizados puede erosionar la capacidad humana de supervisión y decisión, planteando interrogantes sobre la responsabilidad y el diseño de los sistemas productivos.
El director del Laboratorio de Innovación e Inteligencia Artificial (IALAB) de la Facultad de Derecho de la Universidad de Buenos Aires, Juan G. Corvalán, publicó un análisis sobre los efectos de delegar tareas a la inteligencia artificial (IA). En el texto, sostiene que, aunque la IA puede realizar muchas tareas de manera más rápida y eficiente que los humanos, existe el riesgo de que las personas pierdan la capacidad de controlar y evaluar los resultados de esos procesos.
Corvalán compara la delegación a la IA con la relación entre un jugador de fútbol y su representante: el jugador delega la negociación pero conserva la decisión final y la capacidad de supervisar. «Toda delegación sana funciona así: le encargo algo a otro, pero sigo entendiendo lo suficiente como para controlarlo», afirma. Sin embargo, advierte que «cuando le entregamos a la IA, una y otra vez, las tareas que antes hacíamos nosotros, vamos perdiendo el músculo para hacerlas. Y el día que necesitamos revisar si lo que entregó está bien, ya no tenemos con qué».
El especialista señala que, en la práctica, esto lleva a «firmar informes que no podríamos escribir» y «aprobar decisiones cuyo razonamiento no podríamos reconstruir». «La responsabilidad sigue siendo nuestra en los papeles, pero la capacidad real de ejercerla se evaporó», sostiene.
Frente a este escenario, Corvalán menciona que «una parte del mundo tecnológico propone una salida brutal: si la persona ya no puede controlar bien a la máquina, sacala del medio». Para el autor, este razonamiento es «profundamente equivocado» porque confunde la lentitud humana con la función que cumple. «Las personas no estamos solo para ejecutar más rápido. Somos quienes respondemos cuando algo sale mal, quienes cargamos con las consecuencias», argumenta.
Corvalán introduce el concepto de «sedentarismo cognitivo» y lo compara con el sedentarismo físico: así como la falta de actividad física requiere rediseñar ciudades y formas de trabajo, la pérdida de capacidad de pensamiento crítico requiere rediseñar entornos organizacionales. «El sedentarismo cognitivo tampoco se va a resolver con apelaciones individuales a ‘pensar más’. Hay que rediseñar los entornos organizacionales para que siga teniendo sentido pensar», concluye.
El texto completo fue publicado originalmente por el autor y retoma ideas de su libro Sedentarismo cognitivo. Productividad, agentes de IA y los riesgos de delegar el pensamiento.