Crueldade contra máquinas: Anthropic veta comportamento abusivo com IA

A Anthropic atualizou sua política de uso para proibir que usuários tratem o sistema de IA (Inteligência Artificial) Claude com abuso ou crueldade "sustentada e desnecessária", segundo a AFP.

O laboratório de IA com sede em San Francisco incluiu uma nova regra para coibir interações abusivas com seus modelos . A empresa passou a vetar "comportamento abusivo ou cruel, sustentado e desnecessário" direcionado ao Claude.

A Anthropic diz que o próprio Claude seguirá como principal forma de conter esse tipo de situação . "A capacidade do Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação", afirma a empresa no texto da política.

A atualização ocorre em meio a uma discussão filosófica sobre se sistemas de IA podem ser conscientes . A política não menciona diretamente a ideia de "bem-estar do modelo" (model welfare), que defende algum tipo de proteção moral para IAs, mas executivos da Anthropic já trataram do tema publicamente.

A empresa já havia dito, no ano passado, que daria ao Claude a opção de encerrar conversas em casos raros e extremos . A medida valeria para situações de "interações persistentemente prejudiciais ou abusivas" por parte de usuários.

Procurada para comentar a mudança, a Anthropic não respondeu imediatament e. A AFP relata que a empresa foi acionada, mas não enviou posicionamento no momento da publicação.

O CEO da Anthropic, Dario Amodei disse em fevereiro que não tem certeza se modelos podem ser conscientes . "Não sabemos se os modelos são conscientes... mas estamos abertos à ideia de que isso possa ocorrer", afirmou Amodei ao The New York Times.

Para Jackson Stakeman, gerente-geral da Sparq, discutir consciência pode levar a um beco sem saída . "Consciência é uma armadilha. Não conseguimos provar isso nem uns nos outros. Debata isso para IA e você fica girando em círculos", disse Stakeman à AFP (Agence France-Presse).

Stakeman argumenta que uma metáfora mais útil é pensar na IA como um espelho do que as pessoas colocam nela . "O espelho é uma metáfora melhor. Esses sistemas refletem o que colocamos neles, em escala. Isso já é motivo suficiente para a mudança de política", completou.

Outros nomes rejeitam a ideia de consciência em máquinas e alertam contra dar "direitos" a sistemas de IA . "As IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem", escreveu o chefe de IA da Microsoft, Mustafa Suleyman, em um artigo no mês passado.

Suleyman também afirmou ver riscos em conceder proteções morais a entidades tecnológicas . "Conceder direitos e proteções morais a uma entidade tecnológica, que parece estar em um caminho para se tornar sismicamente mais capaz e inteligente do que nós, é uma receita para o desastre", escreveu.

Em um sermão em italiano na Basílica de São Pedro, no Vaticano, o papa Leão 14 sugeriu que máquinas não têm alma . "A mente não deve simplesmente compilar dados — como um algoritmo agora faz mais rapidamente do que nós", disse o pontífice.

O papa afirmou que a mente humana vai além do processamento de informações e se conecta a experiências vividas .