Como balão dirigido por inteligência artificial surpreendeu criadores:greenbets cnpj

Seus colegas assumiram manualmente o controle do sistema e o colocaramgreenbets cnpjvolta na rota.

Só mais tarde eles perceberam o que estava acontecendo. Inesperadamente, a inteligência artificial a bordo do balão havia aprendido a recriar uma antiga técnicagreenbets cnpjnavegação desenvolvida por humanos há séculos, senão milharesgreenbets cnpjanos.

A técnica envolve conduzir a embarcaçãogreenbets cnpjziguezague contra o vento,greenbets cnpjmodo que seja possível avançar mais ou menos na direção desejada.

Sob condições climáticas desfavoráveis, os balões autônomos aprenderam a se virar sozinhos. O fatogreenbets cnpjterem feito isso,greenbets cnpjforma espontânea, surpreendeu a todos, inclusive aos pesquisadores que trabalhavam no projeto.

"Rapidamente percebemos que tinham sido mais espertos que a gente, quando o primeiro balão autorizado a executar totalmente essa técnica bateu um recordegreenbets cnpjtempogreenbets cnpjvoogreenbets cnpjPorto Rico ao Peru", escreveu Candidogreenbets cnpjum blog sobre o projeto.

"Nunca me senti tão inteligente e tão burro ao mesmo tempo."

Este é exatamente o tipogreenbets cnpjcoisa que pode acontecer quando a inteligência artificial é deixada àgreenbets cnpjprópria sorte.

Diferentemente dos programasgreenbets cnpjcomputador tradicionais, as IAs são projetadas para explorar e desenvolver novas abordagens para tarefas sobre as quais seus engenheiros humanos não lhes falaram explicitamente.

Mas enquanto aprendem como fazer essas tarefas, as IAs às vezes apresentam uma abordagem tão inovadora que pode surpreender até mesmo as pessoas que trabalham com esses sistemas o tempo todo.

Isso pode ser algo bom, mas também pode tornar as coisas controladas por inteligência artificial perigosamente imprevisíveis — robôs e carros autônomos podem acabar tomando decisões que colocam os humanosgreenbets cnpjperigo.

Como é possível para um sistemagreenbets cnpjinteligência artificial "superar" seus mestres humanos? E será que poderíamos controlar as mentes das máquinasgreenbets cnpjalguma forma, para garantir que não aconteça nenhum desastre imprevisto?

Na comunidadegreenbets cnpjIA, há um casogreenbets cnpjcriatividade que parece ser mais citado do que qualquer outro.

O momento que realmente empolgou as pessoas sobre o que a inteligência artificial pode fazer, diz Mark Riedl, do Institutogreenbets cnpjTecnologia da Geórgia, nos EUA, foi quando o DeepMind, laboratóriogreenbets cnpjIA do Google, mostrou como um sistemagreenbets cnpjmachine learning (aprendizagem automática) dominou o antigo jogogreenbets cnpjtabuleiro Go — e depois derrotou um dos melhores jogadores humanos do mundo.

"Isso acabou demonstrando que havia novas estratégias ou táticas para contra-atacar um jogador que ninguém realmente havia usado antes — ou pelo menos muitas pessoas não sabiam a respeito", explica Riedl.

E ainda assim, um inocente jogogreenbets cnpjGo desperta sentimentos diferentes entre as pessoas.

Riscos

Por um lado, o DeepMind descreveu orgulhosamente as maneiras pelas quais seu sistema, o AlphaGo, foi capazgreenbets cnpj"inovar" e revelar novas abordagens para um jogo que os humanos vêm jogando há milênios.

Por outro lado, alguns questionaram se uma inteligência artificial tão inovadora poderia um dia representar um sério risco para os humanos.

"É ridículo pensar que seremos capazesgreenbets cnpjprever ou gerenciar o pior comportamento das inteligências artificiais quando não podemos, na verdade, imaginar seu possível comportamento", escreveu Jonathan Tapson, da Universidadegreenbets cnpjWestern Sydney, na Austrália, após a vitória histórica do AlphaGo.

É importante lembrar, diz Riedl, que as inteligências artificiais não pensam realmente como os humanos. Suas redes neurais são,greenbets cnpjfato, vagamente inspiradasgreenbets cnpjcérebrosgreenbets cnpjanimais, mas podem ser melhor descritas como "dispositivosgreenbets cnpjexploração".

Quando tentam resolver uma tarefa ou problema, elas não trazem consigo muitas, se é que alguma, ideia preconcebida sobre o mundogreenbets cnpjgeral. Simplesmente tentam — às vezes, milhõesgreenbets cnpjvezes — encontrar uma solução.

"Nós, humanos, trazemos conosco muita bagagem mental, pensamos nas regras", explica Riedl.

"Os sistemasgreenbets cnpjinteligência artificial nem sequer entendem as regras, então eles mexem nas coisasgreenbets cnpjmaneira muito aleatória."

Dessa forma, as IAs poderiam ser descritas como o equivalentegreenbets cnpjsilíciogreenbets cnpjpessoas com Síndrome do Sábio (ougreenbets cnpjSavant), acrescenta Riedl, citando a condiçãogreenbets cnpjque um indivíduo tem uma deficiência mental grave, mas também possui uma habilidade extraordinária, geralmente relacionada à memória.

Uma maneira pela qual as IAs podem nos surpreender envolvegreenbets cnpjcapacidadegreenbets cnpjlidar com problemas radicalmente diferentes, mas usando o mesmo sistema básico.

Recentemente, uma ferramenta de machine learning desenvolvida para gerar parágrafosgreenbets cnpjtexto foi requisitada a executar uma função muito diferente: jogar uma partidagreenbets cnpjxadrez.

O sistemagreenbets cnpjquestão se chama GPT-2 e foi criado pela OpenAI. Treinado por meiogreenbets cnpjmilhõesgreenbets cnpjartigosgreenbets cnpjnotícias online e páginas da web, o GPT-2 é capazgreenbets cnpjprever a próxima palavragreenbets cnpjuma frase com base nas palavras anteriores.

Uma vez que os movimentosgreenbets cnpjxadrez podem ser representadosgreenbets cnpjcaracteres alfanuméricos, "Be5" para mover um bispo, por exemplo, o desenvolvedor Shawn Presser pensou que se ele treinasse o algoritmo por meiogreenbets cnpjregistrosgreenbets cnpjpartidasgreenbets cnpjxadrez, a ferramenta poderia aprender como jogar ao descobrir sequências desejáveisgreenbets cnpjmovimentos.

Presser treinou o sistema com 2,4 milhõesgreenbets cnpjjogosgreenbets cnpjxadrez.

"Foi muito bacana ver o mecanismogreenbets cnpjxadrez ganhando vida", diz ele.

"Eu não tinha certeza se iria funcionar."

Mas deu certo. Não é tão bom quanto computadores especialmente projetados para xadrez — mas é capazgreenbets cnpjjogar partidas difíceis com sucesso.

Segundo Presser, o experimento mostra que o sistema GPT-2 tem muitos recursos inexplorados. Um "sábio" com dom para o xadrez.

Uma versão posterior do mesmo software surpreendeu os web designers quando um desenvolvedor o treinou brevemente para produzir códigos para exibir itensgreenbets cnpjuma página, como textos e botões.

A inteligência artificial gerou o código apropriado, embora tudo o que tinha para seguir adiante eram descrições simples como "textogreenbets cnpjvermelho que diz 'eu te amo' e um botão com 'ok' nele".

Claramente, ela adquiriu a essência básicagreenbets cnpjweb design, mas após um treinamento surpreendentemente curto.

Uma áreagreenbets cnpjque as IAs há muito tempo impressionam é nagreenbets cnpjvideogames.

Há inúmeros casos na comunidadegreenbets cnpjinteligência artificial sobre coisas surpreendentes que os algoritmos têm feitogreenbets cnpjambientes virtuais.

Os algoritmos costumam ser testados e aperfeiçoados, para ver o quão capazes eles realmente são,greenbets cnpjespaços semelhantes aosgreenbets cnpjvideogames.

Em 2019, a OpenAI ganhou as manchetes com um vídeo sobre um jogogreenbets cnpjpique-esconde jogado por personagens controlados por machine learning.

Para a surpresa dos pesquisadores, aqueles que estavam "procurando" acabaram aprendendo que podiam pulargreenbets cnpjcima dos itens e "surfá-los" para ter acesso aos recintos onde havia personagens escondidos. Em outras palavras, aprenderam a burlar as regras do jogo a seu favor.

Uma estratégiagreenbets cnpjtentativa e erro pode resultargreenbets cnpjtodos os tiposgreenbets cnpjcomportamentos interessantes. Mas nem sempre levam ao sucesso.

Dois anos atrás, Victoria Krakovna, pesquisadora da DeepMind, pediu aos leitoresgreenbets cnpjseu blog que compartilhassem históriasgreenbets cnpjque as IAs resolveram problemas complicados — masgreenbets cnpjmaneiras imprevisivelmente inaceitáveis.

A longa listagreenbets cnpjexemplos que ela reuniu é fascinante. Entre eles, está um algoritmogreenbets cnpjjogo que aprendeu a se matar no final da primeira fase — para evitar morrer na segunda fase. O objetivogreenbets cnpjnão morrer na segunda fase foi alcançado, mas nãogreenbets cnpjuma forma particularmente impressionante.

Outro algoritmo descobriu que poderia pulargreenbets cnpjum penhascogreenbets cnpjum jogo e levar um oponente consigo para a morte. Isso deu à IA pontos suficientes para ganhar uma vida extra e continuar repetindo essa tática suicidagreenbets cnpjum loop infinito.

O pesquisadorgreenbets cnpjinteligência artificialgreenbets cnpjvideogame Julian Togelius, da Escolagreenbets cnpjEngenharia Tandon da Universidadegreenbets cnpjNova York, nos EUA, pode explicar o que está acontecendo.

Ele diz que esses são exemplos clássicosgreenbets cnpjerrosgreenbets cnpj"alocaçãogreenbets cnpjrecompensa". Quando uma inteligência artificial é solicitada a realizar algo, ela pode descobrir métodos estranhos e inesperadosgreenbets cnpjatingir seu objetivo, onde o fim sempre justifica os meios.

Nós, humanos, raramente adotamos tal postura. Os meios e as regras que preveem como devemos jogar são importantes.

Togelius e seus colegas descobriram que esse viés voltado a objetivos pode ser expostogreenbets cnpjsistemasgreenbets cnpjinteligência artificial quando eles são colocados à provagreenbets cnpjcondições especiais.

Em experimentos recentes,greenbets cnpjequipe descobriu que uma IA solicitada a investir dinheirogreenbets cnpjum banco, correria para um canto próximo do saguão do banco virtual e esperaria para receber um retorno sobre o investimento.

Togelius diz que o algoritmo aprendeu a associar correr para o canto com a obtençãogreenbets cnpjuma recompensa financeira, embora não houvesse nenhuma relação real entre seu movimento e o quanto era pago.

Isso, segundo ele, é mais ou menos como se a inteligência artificial desenvolvesse uma superstição: "Você recebeu uma recompensa ou punição por algo — mas por que você recebeu?"

Essa é uma das armadilhas do "aprendizado por reforço",greenbets cnpjque uma inteligência artificial acaba planejando uma estratégia equivocada com base no que encontragreenbets cnpjseu ambiente.

A inteligência artificial não sabe por que teve sucesso, ela só pode basear suas açõesgreenbets cnpjassociações aprendidas. Um pouco como as primeiras culturas humanas que começaram a associar rituais a mudanças no clima, por exemplo. Ou os pombos.

Em 1948, um psicólogo americano publicou um artigo descrevendo um experimento incomumgreenbets cnpjque colocava pombosgreenbets cnpjgaiolas e os recompensava com comidagreenbets cnpjforma intermitente.

Os pombos começaram a associar a comida a o que quer que estivessem fazendo na ocasião — seja batendo as asas ou executando movimentos semelhantes a uma dança. Eles então repetiam esses comportamentos, aparentemente na expectativagreenbets cnpjque viria uma recompensa a seguir.

Há uma grande diferença entre as IAs dos jogos testados por Togelius e os animais vivos usados ​​pelo psicólogo, mas Togelius sugere que o mesmo fenômeno parece estargreenbets cnpjação: a recompensa se torna erroneamente associada a um comportamento particular.

Embora os pesquisadoresgreenbets cnpjinteligência artificial possam se surpreender com os caminhos trilhados pelos sistemasgreenbets cnpjmachine learning, isso não significa necessariamente que tenham admiração por eles.

"Nunca tive a sensaçãogreenbets cnpjque esses agentes pensem por si só", afirma Raia Hadsell, do DeepMind.

Hadsell fez experiências com muitas IAs que encontraram soluções interessantes e inovadoras para problemas não previstos por ela ou seus colegas.

Ela destaca que é exatamente por isso que os pesquisadores procuram aperfeiçoar as IAsgreenbets cnpjprimeiro lugar — para que possam alcançar coisas que os humanos não conseguem por conta própria.

E ela argumenta que os produtos que usam inteligência artificial, como carros autônomos, podem ser rigorosamente testados para garantir que qualquer imprevisibilidade esteja dentrogreenbets cnpjcertos limites aceitáveis.

"Você pode dar garantias razoáveis ​​sobre o comportamento com basegreenbets cnpjevidências empíricas", diz ela.

O tempo dirá se todas as empresas que vendem produtos construídos com inteligência artificial são escrupulosas nesse aspecto.

Mas, ao mesmo tempo, é importante observar que as IAs que demonstram comportamentos inesperados não estãogreenbets cnpjforma alguma confinadas a ambientesgreenbets cnpjpesquisa. Elas já estão atuandogreenbets cnpjprodutos comerciais.

No ano passado, um braço robótico que trabalhavagreenbets cnpjuma fábricagreenbets cnpjBerlim, desenvolvido pela empresa americana Covariant, apresentou maneiras inesperadasgreenbets cnpjclassificar os itens à medida que eles passavamgreenbets cnpjuma esteira rolante.

Apesargreenbets cnpjnão ter sido especialmente programada para isso, a inteligência artificial que controla o braço aprendeu a mirar no centro dos itensgreenbets cnpjembalagens transparentes para ajudar a garantir que os pegaria com sucesso todas as vezes.

Como esses objetos podem se confundir quando se sobrepõem, devido ao material transparente, mirar com menos precisão significa que o robô pode não conseguir pegar o item.

"Isso evita a sobreposiçãogreenbets cnpjobjetos nos cantos e,greenbets cnpjvez disso, mira na superfície mais fácilgreenbets cnpjagarrar", afirma Peter Chen, cofundador e presidente-executivo da Covariant.

"Isso realmente nos surpreendeu."

Em paralelo, Hadsell diz quegreenbets cnpjequipe testou recentemente um braço robótico que passa diferentes blocos por meiogreenbets cnpjorifíciosgreenbets cnpjformatos variados.

A mão do robô era bastante desajeitada, então a inteligência artificial que o controlava aprendeu que, pegando e soltando repetidamente o bloco, poderia colocá-lo na posição certa para então agarrá-lo e passá-lo facilmente pelo orifício apropriado —greenbets cnpjvezgreenbets cnpjtentar manobrá-lo usando a garra.

Tudo isso ilustra uma questão levantada por Jeff Clune, da OpenAI, que recentemente colaborou com pesquisadores do mundo todo para coletar exemplosgreenbets cnpjIAs que desenvolveram soluções inteligentes para problemas.

Clune diz que a natureza exploratória da inteligência artificial ​​é fundamental para seu sucesso futuro.

"Conforme estamos ampliando esses sistemasgreenbets cnpjinteligência artificial, o que estamos vendo é que as coisas que eles fazemgreenbets cnpjmaneira criativa e impressionante não são mais curiosidades acadêmicas", afirma.

Como as IAs encontram formas melhoresgreenbets cnpjdiagnosticar doenças ou entregar suprimentosgreenbets cnpjemergência, elas até salvam vidas graças àgreenbets cnpjcapacidadegreenbets cnpjencontrar novas maneirasgreenbets cnpjresolver velhos problemas, acrescenta Clune.

Mas ele acredita que aqueles que desenvolvem tais sistemas precisam ser abertos e honestos sobregreenbets cnpjnatureza imprevisível, para ajudar a população a entender como a inteligência artificial funciona.

Afinal, é uma facagreenbets cnpjdois gumes — a promessa e a ameaça da inteligência artificial fazem parte do mesmo pacote. O que será que elas vão inventar a seguir?

greenbets cnpj Leia a versão original greenbets cnpj desta reportagem (em inglês) no site BBC Future greenbets cnpj .

greenbets cnpj Já assistiu aos nossos novos vídeos no YouTube greenbets cnpj ? Inscreva-se no nosso canal!