“AI한테 욕하는 것도 학대?”…앤트로픽 새 정책에 의견 분분

인공지능(AI) 기업 앤트로픽이 AI 챗봇을 상대로 지속적인 폭언이나 학대 행위를 하는 사용자를 제재할 수 있도록 이용 정책을 개정했다.9일(현지 시간) 영국 BBC는 앤트로픽이 자사 AI 챗봇 ‘클로드’에 지속적이고 불필요한 학대 행위를 하는 사용자를 제재할 수 있도록 정책을 바꿨다고 보도했다.앤트로픽 측은 기존에도 드물게 이러한 조치를 취한 적이 있으며, 반복적 학대 행위가 발생하는 극단적인 사례에만 적용되는 규정이라고 설명했다. 평범한 수준의 불만 표출 및 반박, 어두운 소재를 활용한 창작 활동, AI 모델 테스트 및 연구 등