A inteligência artificial chegou a um ponto em que o emprego de tais sistemas será, materialmente se não legalmente, factível daqui a alguns anos, e não décadas, e o que está em jogo é importante: as armas autônomas foram descritas como a terceira revolução das técnicas bélicas, depois da pólvora e das armas nucleares
Carta aberta publicada em 27 de julho na Conferência Internacional sobre Inteligência Artificial que está sendo realizada em Buenos Aires de 25 a 31 de julho
Prezados leitores, o ponto de inflexão parece ter chegado: os robôs tornaram-se capazes de pensar por si próprios! Não descerei a detalhes maçantes, mesmo porque tecnologia não é o meu forte, mas o fato é que inventaram um tal de deep learning baseado em conexões neurais, quepermitem aos robôs serem muito mais do que aquilo que os engenheiros programam, permitem que eles aprendam sozinhos, sem a ajuda de ninguém, só com a aajuda dos cálculos em que são muito mais rápidos e eficientes do que qualquer ser humano.
A preocupação externada pelos signatários da carta, entre os quais o co-fundador da Apple, Steve Wozniak, o linguista americano Noam Chomsky e o astrofísico britânico Stephen Hawking, é que um robô que consiga reconhecer imagens e vozes possa transformar-se em arma de guerra capaz de selecionar e combater os alvos militares sem a intervenção humana, evitando a morte de soldados que teriam que ser mandados a campo. Tal capacidade letal cxoloca um dilema moral inédito para nós os inventores dessas máquinas: quem assumirá a responsabilidade pelas decisões tomadas pelas armas autônomas? De fato, usar esse termo não é exagero considerando que os robôs optarão por um modo de ação com base naquilo que conseguiram aprender pela análise dos dados proporcionada pelas tais das conexões neurais. Assim, nada mais natural do que perguntar: quando os robôs matarem a quem será imputada a culpa? Aos seus fabricantes? Aos seus utilizadores? Ou a ninguém, já que o agente é inimputável, porque não pode ser classificado como ser humano?
Infelizmente, o problema do “quem se responsabiliza”não é algo novo, trazido pelos avanços da inteligência artificial, ele está cada vez mais posto na nossa sociedade sem que haja uma resposta clara, para infelicidade de todos. Vou dar-lhes alguns exemplos. Outro dia, conversando com uma amiga que é professora em uma escola de elite de São Paulo, contava-me spbre a celeuma causada por uma atividade desenvolvida pelos professores, que consistiu em organziar uma exposição com fotos dos alunos, que tinham a liberdade de esclher o tema e assim dar vazão a sua criatividade. Pois bem, muitos dos adolescentes tiraram fotos digamos despudoradas, em que as meninas mostravam seu sutiã, e claro as obras de arte foram publicadas na internet, o que causou um escândalo. A escola achou por bem convocar uma reunião para prestar esclarecimentos aos pais que caíram matando, como se a culpa toda fosse do colégio que incentivou prtáticas libertinas. Ora, de quem é a responsabilidade de ensinar boas maneiras aos adolescentes? Ao que consta, a tarefa de ensinar o que é certo e o que é errado, o que decoroso e o que é indecoroso é tarefa dos pais, que num mundo ideal, onde as famílias exercessem um papel importante,