Estado de Nova York restringe uso de chatbots por menores

A governadora do estado americano de Nova York promulgou nesta quarta-feira uma lei que proíbe que menores interajam com assistentes virtuais de inteligência artificial (IA), uma medida que abrange a maioria dos chatbots disponíveis no mercado.

Vários estados americanos, incluindo a Califórnia, já aprovaram leis que regulamentam a interação com esse tipo de sistema de IA generativa, que simula uma conversa com o usuário como se fosse uma companhia. Mas nenhuma norma como a aprovada por Nova York havia estabelecido um escopo de aplicação tão amplo.

A lei obriga as operadoras de chatbots a verificar a idade dos usuários e a desativar determinados recursos da interface de IA quando for constatado que um usuário é menor de idade. Dessa forma, o robô conversacional não poderá gerar conteúdo que dê a entender que é "humano, que está vivo ou que tem sentimentos humanos", especifica a norma.

A Tech:NYC, organização que representa o setor de tecnologia em Nova York, criticou a lei assinada pela governadora Kathy Hochul e destacou "sua linguagem imprecisa", argumentando que ela levanta questionamentos sobre uma possível violação da Primeira Emenda à Constituição americana, que protege a liberdade de expressão.

Consultados pela AFP, a Anthropic e o Google não responderam de imediato, enquanto a OpenAI alinhou-se à posição da Tech:NYC. Já a Common Sense Media, associação dedicada a informar os pais sobre os produtos de mídia e tecnologia voltados para o público infantojuvenil, comemorou a aprovação do que descreveu como "lei de segurança da IA para crianças mais robusta do país". "Nova York fez história", ressaltou Jim Steyer, diretor da organização.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.