Quem vai prender a IA do Trump no drone do Putin? (por Felipe Sampaio)

Aconteceu finalmente! Um drone russo pilotado por uma IA dos EUA decidiu, por si próprio, matar três civis na Ucrânia.

A palavra-chave aqui é “decidiu”.

A pergunta-chave é “por que?”.

Ou seja, por que uma arma decide que três pessoas abastecendo o carro representam uma ameaça de guerra a ser bombardeada? Foi uma tragédia histórica.

Um ponto de virada.

Uma máquina decide que seres humanos representam um risco e simplesmente atira contra eles, sem submeter sua decisão a nenhuma autorização superior humana.

Houve dilemas semelhantes em filmes de ficção onde computadores ou robôs tomam o controle de espaçonaves, aviões, armamentos e governos.

Mas, na vida real é a primeira vez.

Por que? A questão é polêmica.

Assim que vi a TV noticiar o ataque do drone russo aos civis, comecei a perguntar a amigos (diplomata, militar, servidor público, político, empresário de TI e da sociedade civil) quem deveria ser responsabilizado pelo homicídio doloso praticado por um cérebro digital que resolveu emboscar e assassinar seres humanos inocentes.

Seis especialistas deram seis respostas diferentes: O próprio drone como efeito colateral; o operador do drone; o fabricante do drone; o fabricante do chip IA; o comandante da operação; a autoridade que comprou o drone… Uma pergunta foi frequente nas conversas: quem é o culpado quando alguém é morto por uma pistola, ou um míssil? Porém, no ataque na Ucrânia tem um detalhe que muda tudo.

A máquina decidiu matar aquelas pessoas.

Uma pistola e uma bomba não decidem matar pessoas.

Não se dá voz de prisão a um revólver, nem mesmo ao seu fabricante, se a arma estiver em perfeito estado de funcionamento.