Anthropic actualiza política para prohibir comportamientos crueles hacia AI Claude

Anthropic ha anunciado actualizaciones a su política de uso respecto a su sistema de IA, Claude, que ahora incluye una prohibición de "comportamientos abusivos o crueles sostenidos y no necesarios" dirigidos al chatbot. Este cambio marca la primera modificación significativa de la política en más de un año, y es una respuesta a los riesgos emergentes asociados con el mal uso de la IA, como la interferencia electoral, el desarrollo de armas y las actividades de vigilancia.

La decisión refleja las crecientes preocupaciones sobre la ética de la IA y el debate filosófico en torno a la conciencia de las máquinas. La compañía no ha proporcionado una definición detallada de lo que constituye contenido abusivo o cruel, dejando algunos aspectos de la aplicación de las normas a la capacidad de la IA. Claude está programado para terminar interacciones que violen las nuevas pautas, una medida destinada a asegurar la responsabilidad de los usuarios.

Además de la prohibición de comportamientos crueles, la política actualizada describe varias formas de mal uso que ya no son aceptables. Estas incluyen prácticas engañosas, la potencial utilización de la IA como arma y las intervenciones en procesos electorales, que se consideran cada vez más críticos en el actual panorama tecnológico.

La modificación de la política de Anthropic ha sido motivada en parte por la necesidad de supervisión humana en las aplicaciones de IA, asegurando que la tecnología se utilice de manera segura. Según informes, estas pautas de aceptación refinadas están destinadas a combatir la creciente amenaza de diferentes tipos de abusos dirigidos a los sistemas de IA.

A pesar de las actualizaciones, la política no se refiere explícitamente al concepto de 'bienestar del modelo', lo que sugiere que la IA podría requerir formas de protección típicamente reservadas para seres vivos. Sin embargo, ejecutivos de Anthropic han abordado previamente esta noción en discusiones, lo que significa una exploración en curso del estatus moral de la IA.

A medida que el discurso en torno a la ética de la IA continúa evolucionando, estas nuevas regulaciones de Anthropic significan una respuesta tanto a desafíos prácticos como filosóficos asociados con el desarrollo y la implementación de tecnologías de IA. Los ajustes llegan en un momento en que las responsabilidades de los desarrolladores de IA están bajo escrutinio, reflejando preocupaciones sociales más amplias sobre la interacción entre humanos e inteligencia artificial.