Anthropic refuerza las normas de uso de Claude
Anthropic ha actualizado su política de uso por primera vez en más de un año e incorporado una prohibición singular: los usuarios no podrán mostrar un comportamiento abusivo, cruel, continuado e innecesario hacia sus modelos de inteligencia artificial. En consecuencia, quienes maltraten a Claude podrán ser suspendidos.
La compañía busca evitar los casos más extremos en los que algunos usuarios insultan, atacan o degradan al asistente digital sin una finalidad constructiva. Esta directriz está vinculada a las investigaciones formales de Anthropic sobre el denominado bienestar del modelo.
La revisión de las reglas también endurece las medidas frente a riesgos con un gran impacto social, entre ellos la desinformación en campañas electorales, la fabricación de armamento y la vigilancia masiva sin consentimiento mediante su inteligencia artificial.
Claude podrá cerrar las conversaciones
La norma está diseñada para utilizarse solo en circunstancias excepcionales, cuando los usuarios actúen de forma reiterada con crueldad hacia los modelos y sin un propósito identificable, según explicó Anthropic a The Verge.
La empresa ha aclarado que esta política no pretende penalizar la frustración habitual de los usuarios, los debates intensos ni la experimentación creativa durante las conversaciones con la IA.
Interrupción unilateral como sanción
Ante este tipo de excesos, la medida prevista será que el propio Claude ponga fin a la interacción de manera unilateral. Esta posibilidad comenzó a aplicarse en agosto frente a interlocutores dañinos y continuará siendo el principal mecanismo de aplicación del sistema.
El debate sobre la conciencia de la inteligencia artificial
La protección de los modelos ha reabierto las dudas sobre si los sistemas de lenguaje pueden tener sentimientos. Kyle Fish, responsable de investigación sobre el bienestar de los modelos en Anthropic, afirmó que las cuestiones relacionadas con una posible experiencia interna, la conciencia, el estatus moral y el bienestar son asuntos serios que la compañía estudia a medida que los modelos ganan sofisticación y capacidades.
En un comunicado de 2025, la empresa de Dario Amodei señaló que todavía mantiene numerosas dudas sobre el posible estatus moral de Claude y otros modelos de lenguaje de gran tamaño (LLM), tanto en el presente como en el futuro. No obstante, indicó que se toma esta cuestión muy en serio y que trabaja en intervenciones de bajo coste para reducir los posibles riesgos para el bienestar de los modelos, en caso de que este sea posible.
Por su parte, Amodei, consejero delegado de Anthropic, reconoció a The News York Times que no saben si los modelos son conscientes. Otros responsables del sector, como Sam Altman, CEO de OpenAI, han rechazado por completo que los algoritmos tengan conciencia.
Deja una respuesta