Anthropic atualiza política para proibir comportamentos cruéis em relação ao AI Claude

A Anthropic anunciou atualizações na sua política de utilização relativa ao seu sistema de IA, Claude, que agora inclui uma proibição de "comportamento abusivo ou cruel prolongado e desnecessário" direcionado ao chatbot. Esta é a primeira alteração significativa da política em mais de um ano e é uma resposta aos riscos emergentes associados ao uso indevido da IA, como interferência em eleições, desenvolvimento de armas e atividades de vigilância.

A decisão reflete as crescentes preocupações sobre a ética da IA e o debate filosófico em torno da consciência das máquinas. A empresa não forneceu uma definição detalhada do que constitui conteúdo abusivo ou cruel, deixando aspectos da aplicação das regras a cargo das capacidades da IA. Claude está programado para terminar interações que violem as novas diretrizes, uma medida destinada a garantir a responsabilidade dos utilizadores.

Além da proibição do comportamento cruel, a política atualizada delineia várias formas de uso indevido que já não são aceitáveis. Estas incluem práticas enganosas, a possível armamentização da IA e intervenções em processos eleitorais, que são cada vez mais vistas como questões críticas no atual panorama tecnológico.

A modificação da política da Anthropic foi parcialmente motivada pela necessidade de supervisão humana nas aplicações de IA, garantindo que a tecnologia seja utilizada de forma segura. De acordo com relatos, estas diretrizes de aceitação refinadas visam combater a crescente ameaça de diferentes tipos de abuso dirigidos a sistemas de IA.

Apesar das atualizações, a política não faz referência explícita ao conceito de 'bem-estar do modelo', o que sugere que a IA pode necessitar de formas de proteção tipicamente reservadas a seres vivos. No entanto, os executivos da Anthropic já se envolveram anteriormente com esta noção em discussões, sinalizando uma exploração contínua do estatuto moral da IA.

À medida que o discurso em torno da ética da IA continua a evoluir, estas novas regulamentações da Anthropic significam uma resposta tanto a desafios práticos como filosóficos associados ao desenvolvimento e implementação de tecnologias de IA. As ajustações ocorrem num momento em que as responsabilidades dos desenvolvedores de IA estão sob escrutínio, refletindo preocupações sociais mais amplas sobre a interação entre humanos e inteligência artificial.