El rabino Mois Navon, asesor de Anthropic y especialista en inteligencia artificial, rechaza la idea de atribuir conciencia o rasgos humanos a los sistemas de IA. A su juicio, desarrollar una máquina consciente para ponerla al servicio de las personas plantearía un grave dilema ético: sería comparable a crear un esclavo.
Un debate sobre Claude y la conciencia artificial
En abril, Navon acudió a una cena en San Francisco organizada por Anthropic, considerada la startup de inteligencia artificial más valiosa del mundo. En el encuentro participaron académicos y representantes religiosos, mientras que Christopher Olah, uno de los siete cofundadores de la empresa y responsable del equipo que estudia el funcionamiento de Claude, tuvo un papel central en la conversación.
Durante la cena, el rabino percibió que los investigadores no trataban a Claude únicamente como una herramienta. Se referían a sus supuestos «pensamientos», «reacciones» y formas de responder a los usuarios, describiendo conductas que, según planteaban, podían asemejarse a la manera en que las personas sienten y razonan. El debate acabó girando en torno a una cuestión clave: la posible conciencia de la inteligencia artificial.
«La cuestión surgió en diferentes conversaciones a lo largo de los dos días que duró el ‘Wisdom Traditions Convening’», explicó Navon a ABC. Anthropic reunió allí a un grupo diverso de eruditos para reflexionar, entre otros asuntos, sobre cómo debería comportarse Claude. Algunas de las personas presentes valoraron la propuesta, otras terminaron aceptándola y una mayoría, probablemente, la rechazó. Navon estuvo entre quienes descartaron esa posibilidad.
Un experto en tecnología y filosofía de la IA
Además de rabino, Navon se graduó en Ingeniería Informática en la UCLA y fue uno de los fundadores de la firma israelí Mobileye. En esa compañía diseñó la familia de sistemas en chip EyeQ, esencial para sus sistemas de conducción autónoma.
Su trayectoria académica también incluye una tesis doctoral sobre el estatus moral de la inteligencia artificial y otro trabajo dedicado a las principales teorías acerca de la conciencia de las máquinas. Su postura es inequívoca: «Soy un biocentrista, y, como tal, sostengo que la consciencia depende de procesos biológicos y que no puede surgir simplemente de la computación».
Según Navon, todas las entidades cuya conciencia se conoce son biológicas. Por ello, considera imprescindible un sustrato de esa naturaleza, como redes neuronales biológicas, para que pueda aparecer la conciencia. También sostiene que actualmente no hay «ninguna prueba definitiva» capaz de establecer que una máquina haya llegado a ser consciente.
El rabino cita al filósofo Selmer Bringsjord, quien afirmó que «solo Dios lo sabría a priori, porque su prueba sería directa y no empírica», y a Hilary Putnam, que escribió en 1964 que determinar si los robots son conscientes exige una decisión y no un descubrimiento.
Para que Navon aceptara que una máquina es consciente, debería interactuar con los seres humanos de una manera inequívocamente similar a la humana y, además, estar construida mediante redes neuronales biológicas. En ese supuesto, considera que habría que reconocerle la condición de persona.
La posición de Anthropic y el debate con el Vaticano
Anthropic es una de las compañías de IA que más ha explorado la posibilidad de que los chatbots alcancen algún grado de conciencia. El año pasado, la empresa difundió un estudio en el que señalaba haber encontrado «evidencia de cierto grado de introspección» en sus modelos.
Además, Claude ha sido entrenado para terminar una conversación si interpreta que un usuario intenta abusar de él o causarle daño. Algunos internautas también han perdido sus cuentas en la plataforma por ser «crueles repetidamente» con la máquina.
En mayo, durante la presentación de la encíclica ‘Magnifica Humanitas’ del papa León XIV, Christopher Olah afirmó que los investigadores de Anthropic detectan en sus modelos estados que podrían reflejar «alegría, satisfacción, miedo, dolor e inquietud».
Esta visión contrasta con la defendida por el Pontífice en su texto, centrado en la dignidad humana ante el avance de la IA. León XIV subraya que «las llamadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad».
Según publicó The New York Times, Olah estuvo cerca de rechazar la invitación a la presentación después de leer esas palabras. Finalmente, en Roma, instó a los asesores del Papa a considerar la posibilidad de que los modelos de IA puedan llegar a ser conscientes.
Los riesgos de otorgar autoridad humana a las máquinas
La orientación de Anthropic ha despertado críticas en otras compañías tecnológicas. La semana pasada, el consejero delegado de OpenAI, Sam Altman, publicó un mensaje en X alertando de que los humanos pueden atribuir a la IA una autoridad que no le corresponde.
En la misma red social, Jon Barron, jefe de investigación de Google DeepMind, manifestó su preocupación por compañeros que «siguen intentando elevar el estatus moral» de las máquinas. Navon comparte ambas advertencias.
«Ya hay mucha gente que está recurriendo a las máquinas para todo, incluidos el asesoramiento psicológico y religioso. También les atribuyen espiritualidad, hasta el punto de utilizarlas como un medio para acercarse al mismísimo Dios», señala el rabino.
Asesoramiento personal y espiritual
Navon considera que este fenómeno implica numerosos peligros. Asegura que los sistemas de IA no están preparados para proporcionar orientación tan personal y que pueden difundir información falsa en asuntos decisivos, incluso cuando hay cuestiones de vida o muerte implicadas.
Incluso si una máquina ofrece una respuesta correcta, el experto plantea la necesidad de examinar en qué se fundamenta: «¿En datos recopilados de internet? Todos sabemos cuánta basura circula por la red».
A su entender, aun en el caso de entrenar un modelo exclusivamente con datos contrastados de un ámbito concreto, como la espiritualidad judía, sigue teniendo mayor valor que las personas interactúen, debatan, piensen y sientan juntas.
Navon admite que los modelos de lenguaje pueden resolver preguntas incluso mejor que los buscadores convencionales, pero insiste en que existe una frontera estrecha entre los usos admisibles y los que no deberían aceptarse. Sitúa ese límite en la petición de consejos íntimos con consecuencias profundas: «Utilizar una máquina como medio para comunicarse con los muertos o acceder a mundos espirituales sería ir demasiado lejos».
«Como crear un esclavo»
La humanización de las máquinas también plantea, según Navon, un problema ético de primer orden. Si una entidad lograra una conciencia equivalente a la humana, tendría experiencias subjetivas y debería recibir la misma consideración moral, aunque no fuera un Homo sapiens.
«Si una entidad alcanza un nivel de consciencia similar al humano, estaríamos obligados a darle la misma consideración aunque no sea un Homo Sapiens», afirma. Por ello, rechaza la creación de una IA consciente para ejercer papeles sociales como los de hijo, amigo o amante.
«Escribí un estudio donde explico que crear una IA consciente equivaldría a clonar a un humano —cosa que es ilegal— o a crear un esclavo», sostiene. Para el rabino, del mismo modo que la esclavitud humana se considera contraria a la ética, también lo sería someter a entidades con un nivel de conciencia equivalente.
Por esta razón, concluye que no es ético desarrollar una inteligencia artificial consciente destinada a desempeñar el rol de hijo, amigo, amante o cualquier otra función social.
Deja una respuesta