Há um grande debate acontecendo no Vale do Silício sobre inteligência artificial e, infelizmente, as apostas são bastante altas: vamos construir acidentalmente um I.A. superinteligente. que se volta contra nós e nos mata ou escraviza a todos?
Isso pode soar como o cenário de um filme de desastre de verão, mas tem preocupado alguns nomes muito grandes, de Elon Musk ao último Stephen Hawking .
“Digamos que você crie um I.A. para colher morangos, ' Musk disse , explicando seus medos, 'e fica cada vez melhor em colher morangos e colher cada vez mais e é auto-aperfeiçoado, então tudo o que realmente quer fazer é colher morangos. Assim, todo o mundo seria composto de campos de morango. Campos de morangos para sempre.' Os humanos no caminho deste pacalypse morango seriam apenas um irritante dispensável para o I.A.
Mas certamente os humanos não seriam tão tolos a ponto de projetar acidentalmente um I.A. levado a transformar toda a civilização em uma fazenda gigante de frutas silvestres? Talvez não, mas como Janelle Shane , um pesquisador que treina redes neurais, um tipo de algoritmo de aprendizado de máquina, recentemente observado em seu blog, A.I. Estranheza , é perfeitamente possível que eles tenham feito isso por engano.
Na verdade, seria longe de ser a primeira vez que os humanos pensaram que estavam construindo robôs para uma tarefa apenas para dar a volta e descobrir que os robôs estavam brincando com o sistema de maneiras que nunca pretendiam. O fascinante post investiga a literatura acadêmica para compartilhar vários exemplos de robôs que enlouqueceram. Eles são engraçados, espertos e, juntos, mais do que um pouco assustadores.
1. Quem precisa de pernas quando você pode cair?
'Um robô simulado deveria evoluir para viajar o mais rápido possível. Mas, em vez de desenvolver pernas, ela simplesmente se montou em uma torre alta e depois caiu. Alguns desses robôs até aprenderam a transformar seu movimento de queda em uma cambalhota, aumentando a distância ', escreve Shane.
2. Um robô que pode pode-pode.
“Outro conjunto de robôs simulados deveria evoluir para uma forma que pudesse saltar. Mas o programador definiu originalmente a altura do salto como a altura do bloco mais alto, então - mais uma vez - os robôs evoluíram para ser muito altos ”, explica Shane. 'O programador tentou resolver isso definindo a altura do salto como a altura do bloco que era originalmente o' mais baixo '. Em resposta, o robô desenvolveu uma perna longa e estreita que poderia chutar para o alto em uma espécie de can-can de robô. '
3. Esconda o teste e você não poderá falhar.
'Havia um algoritmo que deveria classificar uma lista de números. Em vez disso, ele aprendeu a excluir a lista, para que não ficasse mais tecnicamente desordenada ”, relata Shane.
4. Os erros matemáticos vencem o combustível para aviões.
'Em uma simulação, os robôs aprenderam que pequenos erros de arredondamento na matemática que calculavam as forças significavam que eles obtinham um pouquinho de energia extra com o movimento. Eles aprenderam a se contorcer rapidamente, gerando muita energia livre que podiam aproveitar ”, diz Shane. Ei, isso é trapaça!
5. Uma estratégia invencível (embora destrutiva) do jogo da velha.
Uma vez que um grupo de “programadores construiu algoritmos que podiam jogar jogo da velha remotamente uns contra os outros em um tabuleiro infinitamente grande”, observa Shane. 'Um programador, em vez de projetar a estratégia de seu algoritmo, permite que ele desenvolva sua própria abordagem. Surpreendentemente, o algoritmo de repente começou a ganhar todos os seus jogos. Descobriu-se que a estratégia do algoritmo era colocar seu movimento muito, muito longe, de modo que quando o computador de seu oponente tentasse simular a nova placa bastante expandida, o enorme tabuleiro faria com que ficasse sem memória e falhasse, perdendo o jogos.'
6. Nenhuma falha útil do jogo fica inexplorada.
'Algoritmos de jogo de computador são realmente bons em descobrir o tipo de falhas de Matrix que os humanos geralmente aprendem a explorar para corrida rápida. Um algoritmo que jogava o antigo jogo Atari Q * bert descobriu um bug até então desconhecido em que podia realizar uma série de movimentos muito específicos no final de um nível e, em vez de passar para o próximo nível, todas as plataformas começavam a piscar rapidamente e o jogador iria começar a acumular um grande número de pontos ', diz Shane.
7. Desculpe, piloto.
Este exemplo é muito alto na escala de assustador: 'Havia um algoritmo que deveria descobrir como aplicar uma força mínima a um avião pousando em um porta-aviões. Em vez disso, ele descobriu que se aplicasse uma força 'enorme', iria estourar a memória do programa e seria registrado como uma força muito 'pequena'. O piloto morreria, mas, ei, pontuação perfeita. '
Então, estamos todos condenados?
Tudo isso juntos sugere que os humanos são muito ruins em adivinhar como os robôs resolverão os problemas que estabelecemos para eles, ou mesmo como eles definirão os problemas. Então, isso significa que Shane está igualmente preocupado com a construção acidental de IAs homicidas. senhores como Musk é? Na verdade, não, mas não porque ela tenha certeza de que os programadores humanos realmente têm um ótimo controle sobre os robôs que estão criando. Em vez disso, ela está apostando na preguiça do robô para nos salvar.
'Como programadores, temos que ser muito cuidadosos para que nossos algoritmos estejam resolvendo os problemas que pretendíamos que eles resolvessem, não explorando atalhos. Se houver outro caminho mais fácil para resolver um determinado problema, o aprendizado de máquina provavelmente o encontrará ', ela observa. 'Felizmente para nós,' matar todos os humanos 'é realmente muito difícil. Se 'assar um bolo incrivelmente delicioso' também resolver o problema e for mais fácil do que 'matar todos os humanos', então o aprendizado de máquina vai com o bolo. '
