NY veta chatbots de IA que fingem amizade e namoro com crianças

A governadora de Nova York, Kathy Hochul, assinou uma lei que impõe regras de segurança a chatbots de inteligência artificial usados por crianças e adolescentes, segundo o Engadget.

Empresas de IA terão de verificar a idade dos usuários e oferecer ao menos uma forma de confirmação que não dependa apenas de documento oficial. As companhias também precisarão apagar as informações de idade depois de usá-las.

Chatbots acessados por menores de 18 anos ou por usuários sem idade confirmada não poderão fingir ser pessoas reais, vivas ou com emoções humanas. A regra também proíbe que eles aleguem relações pessoais, românticas, profissionais ou de autoridade com crianças.

A legislação veta perguntas emocionais sem provocação e o uso de informações pessoais ou de saúde obtidas em conversas anteriores. Os sistemas não poderão promover suicídio, automutilação, transtornos alimentares ou uso de drogas e álcool.

Chatbots também ficam proibidos de incentivar menores a guardar segredos, se isolar ou evitar ajuda de pais, adultos de confiança e profissionais. Hochul declarou que menores não terão mais acesso a sistemas que fingem ser seus amigos, namorados ou namoradas.

O público poderá registrar denúncias em um site ligado à procuradoria-geral do estado. Empresas que descumprirem a lei podem receber multas civis de até US$ 25 mil por violação, além de pagar por indenizações e outras medidas de reparação.

A lei passa a valer em seis meses e pode obrigar empresas a apagar dados obtidos ilegalmente e modelos treinados com essas informações. Jim Steyer, fundador e presidente da Common Sense Media, afirmou que a medida é uma referência para o restante dos Estados Unidos.

Hochul também assinou uma lei para reforçar a segurança de babás eletrônicas conectadas à internet vendidas no estado. Os aparelhos terão de bloquear acessos não autorizados a imagens e sons captados e exibir alertas sobre conexões sem proteção.

As regras para babás eletrônicas entram em vigor em 90 dias. No início do mês, oito estados americanos moveram ações separadas contra a OpenAI e acusaram a empresa de colocar crianças em risco.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.