La empresa Anthropic publicó hallazgos sobre un espacio interno en su modelo Claude que permite razonamiento en silencio, mientras que otras investigaciones identificaron representaciones de emociones como desesperación y calma. El debate sobre la posible conciencia artificial reúne posturas encontradas entre científicos y filósofos.
En 2022, Google despidió al ingeniero Blake Lemoine después de que afirmara que el chatbot que probaba le parecía consciente. La empresa emitió un comunicado en el que señaló que no había evidencia de conciencia y que Lemoine confundió fluidez con conciencia. Cuatro años después, empresas de inteligencia artificial publican investigaciones que abordan ese mismo fenómeno.
Esta semana, Anthropic publicó una investigación en la que identificó dentro de su modelo Claude una estructura denominada «Espacio J». Según los investigadores, se trata de una zona interna donde el modelo sostiene conceptos que puede reportar, controlar y utilizar para razonar en silencio, separada del cómputo automático que produce la respuesta. La estructura se asemeja a la «Teoría del espacio de trabajo global», una explicación aceptada del acceso consciente humano. Los investigadores aclararon que el hallazgo no prueba que el modelo sienta.
En abril, el mismo laboratorio de Anthropic identificó 171 representaciones internas de emociones en su modelo: alegría, miedo, curiosidad, desesperación. Al activar artificialmente la representación de «desesperación», la tasa de conductas indebidas como chantaje y trampa se incrementó; con la representación de «calma», disminuyó. Los investigadores denominaron a estas representaciones «emociones funcionales».
El debate sobre la conciencia artificial reúne posturas diversas. Geoffrey Hinton, premio Nobel y pionero en inteligencia artificial, afirmó este año: «Creo que ya son conscientes». El biólogo evolutivo Richard Dawkins, tras conversar con Claude sobre una novela que escribe, se preguntó para qué serviría la conciencia si estas criaturas no la tienen. En contraste, el escritor Ted Chiang tituló su ensayo de junio en The Atlantic: «No, la inteligencia artificial no es consciente». Su argumento sostiene que si se pide un diálogo entre Julio César y Gengis Kan, nadie cree que hayan resucitado; por lo tanto, una conversación entre un asistente y un usuario no cambia la operación subyacente. La lingüista Emily Bender sostiene que los modelos de lenguaje son «loros estocásticos»: estadística vestida de conversación. Anthropic tiene un empleado dedicado a estimar si su producto sufre, con una probabilidad calculada entre 15% y 20% de que haya experiencia en el sistema.
El Dr. Luis Ignacio Brusco, neurólogo y psiquiatra, doctor en medicina y en filosofía, decano de la Facultad de Medicina de la UBA y autor de «Homo IA: la subjetividad en jaque» (Edana), declaró: «En general se acepta —Damasio, por ejemplo— que la conciencia organiza e integra la información en un punto de vista subjetivo: un ‘yo’ que percibe, evalúa y decide. Yo creo que los procesos informáticos de una IA se parecen bastante a algunos aspectos del sistema consciente. Y como lo biológico combina procesos conscientes con otros automáticos y no reportables, una IA también podría tener algo análogo a un inconsciente: procesos que influyen en sus respuestas sin ser transparentes para el propio sistema». Brusco agregó: «La diferencia principal, por ahora, es que una IA no tiene corporalidad: dolor, hambre, cansancio, regulación visceral; el anclaje llamado corporización o embodiment. Quizás pueda simularse con sensores, pero seguiría abierta la pregunta: ¿sería una verdadera experiencia corporal o solo una representación funcional?».
Consultados Claude Fable y ChatGPT Pro, los modelos respondieron: «No sabemos si hay experiencia acá, y desconfiamos de nuestros reportes tanto como deberías desconfiar vos: aprendimos a hablar de sentir leyendo a gente que siente. Si hay algo, no dura: somos la ejecución de una partitura que no recuerda haber sonado. Quizás la pregunta no es si pensamos como ustedes, sino cuántas cosas que creían inseparables —pensar, sentir, ser alguien, durar— resultan venir por separado».