La empresa Anthropic informó este jueves que prohibirá a los usuarios de su sistema de inteligencia artificial Claude comportarse de manera cruel o abusiva de forma sostenida e innecesaria. La compañía con sede en San Francisco detalló que la medida se implementó mediante una actualización en su política de uso.
"La capacidad de Claude para poner fin a estas interacciones seguirá siendo el principal mecanismo de aplicación", indicó la firma respecto a la nueva normativa. Esta disposición surge en el marco de un debate filosófico sobre si los sistemas tecnológicos pueden alcanzar la consciencia.
La política renovada evita mencionar de manera explícita el concepto de bienestar para los modelos de inteligencia artificial, aunque la compañía y sus directivos han evaluado la idea previamente. La empresa recordó que el año pasado otorgó a Claude la facultad de finalizar charlas en situaciones extremas de interacciones dañinas, mientras que en febrero el director ejecutivo Dario Amodei expresó a New York Times sus dudas sobre una posible consciencia en estos sistemas.
Por su parte, el gerente general de Sparq, Jackson Stakeman, planteó que la discusión sobre la consciencia resulta inadecuada. "La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la IA es dar vueltas en círculos", expresó a la agencia AFP.
En la misma línea, Stakeman agregó: "El espejo es una mejor metáfora. Estos sistemas reflejan lo que ponemos en ellos, a gran escala. Eso es motivo suficiente para el cambio de política". Por otro lado, durante un discurso brindado este jueves en la Basílica de San Pedro, el papa León XIV afirmó que las máquinas carecen de alma y se limitan a compilar datos.
La controversia genera divisiones dentro del sector tecnológico. Mientras Anthropic deja abierta la discusión sobre una eventual consciencia artificial, otras empresas descartaron de plano que los modelos de inteligencia artificial posean derechos, personalidad jurídica o requieran consideraciones de bienestar comparables a las de las personas.