10\/05\/2021<\/p>\n\n\n\n
A equipe do Google olhava perplexa para as telas de seus computadores.<\/strong><\/p>\n\n\n\n Eles haviam passado v\u00e1rios meses aperfei\u00e7oando um algoritmo desenvolvido para conduzir um bal\u00e3o de h\u00e9lio n\u00e3o tripulado de Porto Rico ao Peru. Mas algo estava errado.<\/p>\n\n\n\n O bal\u00e3o, controlado por intelig\u00eancia artificial (IA), continuava desviando da rota.<\/p>\n\n\n\n Salvatore Candido, do agora extinto Projeto Loon, do Google, que tinha como objetivo levar acesso \u00e0 internet a \u00e1reas remotas do planeta por meio de bal\u00f5es, n\u00e3o conseguia explicar a trajet\u00f3ria da aeronave.<\/p>\n\n\n\n Seus colegas assumiram manualmente o controle do sistema e o colocaram de volta na rota.<\/p>\n\n\n\n S\u00f3 mais tarde eles perceberam o que estava acontecendo. Inesperadamente, a intelig\u00eancia artificial a bordo do bal\u00e3o havia aprendido a recriar uma antiga t\u00e9cnica de navega\u00e7\u00e3o desenvolvida por humanos h\u00e1 s\u00e9culos, sen\u00e3o milhares de anos.<\/p>\n\n\n\n A t\u00e9cnica envolve conduzir a embarca\u00e7\u00e3o em ziguezague contra o vento, de modo que seja poss\u00edvel avan\u00e7ar mais ou menos na dire\u00e7\u00e3o desejada.<\/p>\n\n\n\n Sob condi\u00e7\u00f5es clim\u00e1ticas desfavor\u00e1veis, os bal\u00f5es aut\u00f4nomos aprenderam a se virar sozinhos. O fato de terem feito isso, de forma espont\u00e2nea, surpreendeu a todos, inclusive aos pesquisadores que trabalhavam no projeto.<\/p>\n\n\n\n “Rapidamente percebemos que tinham sido mais espertos que a gente, quando o primeiro bal\u00e3o autorizado a executar totalmente essa t\u00e9cnica bateu um recorde de tempo de voo de Porto Rico ao Peru”, escreveu Candido em um blog sobre o projeto.<\/p>\n\n\n\n “Nunca me senti t\u00e3o inteligente e t\u00e3o burro ao mesmo tempo.”<\/p>\n\n\n\n Este \u00e9 exatamente o tipo de coisa que pode acontecer quando a intelig\u00eancia artificial \u00e9 deixada \u00e0 sua pr\u00f3pria sorte.<\/p>\n\n\n\n Diferentemente dos programas de computador tradicionais, as IAs s\u00e3o projetadas para explorar e desenvolver novas abordagens para tarefas sobre as quais seus engenheiros humanos n\u00e3o lhes falaram explicitamente.<\/p>\n\n\n\n Mas enquanto aprendem como fazer essas tarefas, as IAs \u00e0s vezes apresentam uma abordagem t\u00e3o inovadora que pode surpreender at\u00e9 mesmo as pessoas que trabalham com esses sistemas o tempo todo.<\/p>\n\n\n\n Isso pode ser algo bom, mas tamb\u00e9m pode tornar as coisas controladas por intelig\u00eancia artificial perigosamente imprevis\u00edveis \u2014 rob\u00f4s e carros aut\u00f4nomos podem acabar tomando decis\u00f5es que colocam os humanos em perigo.<\/p>\n\n\n\n Como \u00e9 poss\u00edvel para um sistema de intelig\u00eancia artificial “superar” seus mestres humanos? E ser\u00e1 que poder\u00edamos controlar as mentes das m\u00e1quinas de alguma forma, para garantir que n\u00e3o aconte\u00e7a nenhum desastre imprevisto?<\/p>\n\n\n\n Na comunidade de IA, h\u00e1 um caso de criatividade que parece ser mais citado do que qualquer outro.<\/p>\n\n\n\n O momento que realmente empolgou as pessoas sobre o que a intelig\u00eancia artificial pode fazer, diz Mark Riedl, do Instituto de Tecnologia da Ge\u00f3rgia, nos EUA, foi quando o DeepMind, laborat\u00f3rio de IA do Google, mostrou como um sistema de\u00a0machine learning<\/em>\u00a0(aprendizagem autom\u00e1tica) dominou o antigo jogo de tabuleiro Go \u2014 e depois derrotou um dos melhores jogadores humanos do mundo.<\/p>\n\n\n\n “Isso acabou demonstrando que havia novas estrat\u00e9gias ou t\u00e1ticas para contra-atacar um jogador que ningu\u00e9m realmente havia usado antes \u2014 ou pelo menos muitas pessoas n\u00e3o sabiam a respeito”, explica Riedl.<\/p>\n\n\n\n E ainda assim, um inocente jogo de Go desperta sentimentos diferentes entre as pessoas.<\/p>\n\n\n\n Por um lado, o DeepMind descreveu orgulhosamente as maneiras pelas quais seu sistema, o AlphaGo, foi capaz de “inovar” e revelar novas abordagens para um jogo que os humanos v\u00eam jogando h\u00e1 mil\u00eanios.<\/p>\n\n\n\n Por outro lado, alguns questionaram se uma intelig\u00eancia artificial t\u00e3o inovadora poderia um dia representar um s\u00e9rio risco para os humanos.<\/p>\n\n\n\n “\u00c9 rid\u00edculo pensar que seremos capazes de prever ou gerenciar o pior comportamento das intelig\u00eancias artificiais quando n\u00e3o podemos, na verdade, imaginar seu poss\u00edvel comportamento”, escreveu Jonathan Tapson, da Universidade de Western Sydney, na Austr\u00e1lia, ap\u00f3s a vit\u00f3ria hist\u00f3rica do AlphaGo.<\/p>\n\n\n\n \u00c9 importante lembrar, diz Riedl, que as intelig\u00eancias artificiais n\u00e3o pensam realmente como os humanos. Suas redes neurais s\u00e3o, de fato, vagamente inspiradas em c\u00e9rebros de animais, mas podem ser melhor descritas como “dispositivos de explora\u00e7\u00e3o”.<\/p>\n\n\n\n Quando tentam resolver uma tarefa ou problema, elas n\u00e3o trazem consigo muitas, se \u00e9 que alguma, ideia preconcebida sobre o mundo em geral. Simplesmente tentam \u2014 \u00e0s vezes, milh\u00f5es de vezes \u2014 encontrar uma solu\u00e7\u00e3o.<\/p>\n\n\n\n “N\u00f3s, humanos, trazemos conosco muita bagagem mental, pensamos nas regras”, explica Riedl.<\/p>\n\n\n\n “Os sistemas de intelig\u00eancia artificial nem sequer entendem as regras, ent\u00e3o eles mexem nas coisas de maneira muito aleat\u00f3ria.”<\/p>\n\n\n\n Dessa forma, as IAs poderiam ser descritas como o equivalente em sil\u00edcio de pessoas com S\u00edndrome do S\u00e1bio (ou de Savant), acrescenta Riedl, citando a condi\u00e7\u00e3o em que um indiv\u00edduo tem uma defici\u00eancia mental grave, mas tamb\u00e9m possui uma habilidade extraordin\u00e1ria, geralmente relacionada \u00e0 mem\u00f3ria.<\/p>\n\n\n\n Uma maneira pela qual as IAs podem nos surpreender envolve sua capacidade de lidar com problemas radicalmente diferentes, mas usando o mesmo sistema b\u00e1sico.<\/p>\n\n\n\n Recentemente, uma ferramenta de machine learning <\/em>desenvolvida para gerar par\u00e1grafos de texto foi requisitada a executar uma fun\u00e7\u00e3o muito diferente: jogar uma partida de xadrez.<\/p>\n\n\n\n O sistema em quest\u00e3o se chama GPT-2 e foi criado pela OpenAI. Treinado por meio de milh\u00f5es de artigos de not\u00edcias online e p\u00e1ginas da web, o GPT-2 \u00e9 capaz de prever a pr\u00f3xima palavra em uma frase com base nas palavras anteriores.<\/p>\n\n\n\n Uma vez que os movimentos de xadrez podem ser representados em caracteres alfanum\u00e9ricos, “Be5” para mover um bispo, por exemplo, o desenvolvedor Shawn Presser pensou que se ele treinasse o algoritmo por meio de registros de partidas de xadrez, a ferramenta poderia aprender como jogar ao descobrir sequ\u00eancias desej\u00e1veis de movimentos.<\/p>\n\n\n\n Presser treinou o sistema com 2,4 milh\u00f5es de jogos de xadrez.<\/p>\n\n\n\n “Foi muito bacana ver o mecanismo de xadrez ganhando vida”, diz ele.<\/p>\n\n\n\n “Eu n\u00e3o tinha certeza se iria funcionar.”<\/p>\n\n\n\n Mas deu certo. N\u00e3o \u00e9 t\u00e3o bom quanto computadores especialmente projetados para xadrez \u2014 mas \u00e9 capaz de jogar partidas dif\u00edceis com sucesso.<\/p>\n\n\n\n Segundo Presser, o experimento mostra que o sistema GPT-2 tem muitos recursos inexplorados. Um “s\u00e1bio” com dom para o xadrez.<\/p>\n\n\n\n Uma vers\u00e3o posterior do mesmo software surpreendeu os web designers quando um desenvolvedor o treinou brevemente para produzir c\u00f3digos para exibir itens em uma p\u00e1gina, como textos e bot\u00f5es.<\/p>\n\n\n\n A intelig\u00eancia artificial gerou o c\u00f3digo apropriado, embora tudo o que tinha para seguir adiante eram descri\u00e7\u00f5es simples como “texto em vermelho que diz ‘eu te amo’ e um bot\u00e3o com ‘ok’ nele”.<\/p>\n\n\n\n Claramente, ela adquiriu a ess\u00eancia b\u00e1sica de web design, mas ap\u00f3s um treinamento surpreendentemente curto.<\/p>\n\n\n\n Uma \u00e1rea em que as IAs h\u00e1 muito tempo impressionam \u00e9 na de videogames.<\/p>\n\n\n\n H\u00e1 in\u00fameros casos na comunidade de intelig\u00eancia artificial sobre coisas surpreendentes que os algoritmos t\u00eam feito em ambientes virtuais.<\/p>\n\n\n\n Os algoritmos costumam ser testados e aperfei\u00e7oados, para ver o qu\u00e3o capazes eles realmente s\u00e3o, em espa\u00e7os semelhantes aos de videogames.<\/p>\n\n\n\n Em 2019, a OpenAI ganhou as manchetes com um v\u00eddeo sobre um jogo de pique-esconde jogado por personagens controlados por machine learning<\/em>.<\/p>\n\n\n\n Para a surpresa dos pesquisadores, aqueles que estavam “procurando” acabaram aprendendo que podiam pular em cima dos itens e “surf\u00e1-los” para ter acesso aos recintos onde havia personagens escondidos. Em outras palavras, aprenderam a burlar as regras do jogo a seu favor.<\/p>\n\n\n\n Uma estrat\u00e9gia de tentativa e erro pode resultar em todos os tipos de comportamentos interessantes. Mas nem sempre levam ao sucesso.<\/p>\n\n\n\n Dois anos atr\u00e1s, Victoria Krakovna, pesquisadora da DeepMind, pediu aos leitores de seu blog que compartilhassem hist\u00f3rias em que as IAs resolveram problemas complicados \u2014 mas de maneiras imprevisivelmente inaceit\u00e1veis.<\/p>\n\n\n\n A longa lista de exemplos que ela reuniu \u00e9 fascinante. Entre eles, est\u00e1 um algoritmo de jogo que aprendeu a se matar no final da primeira fase \u2014 para evitar morrer na segunda fase. O objetivo de n\u00e3o morrer na segunda fase foi alcan\u00e7ado, mas n\u00e3o de uma forma particularmente impressionante.<\/p>\n\n\n\n Outro algoritmo descobriu que poderia pular de um penhasco em um jogo e levar um oponente consigo para a morte. Isso deu \u00e0 IA pontos suficientes para ganhar uma vida extra e continuar repetindo essa t\u00e1tica suicida em um loop infinito.<\/p>\n\n\n\n O pesquisador de intelig\u00eancia artificial de videogame Julian Togelius, da Escola de Engenharia Tandon da Universidade de Nova York, nos EUA, pode explicar o que est\u00e1 acontecendo.<\/p>\n\n\n\n Ele diz que esses s\u00e3o exemplos cl\u00e1ssicos de erros de “aloca\u00e7\u00e3o de recompensa”. Quando uma intelig\u00eancia artificial \u00e9 solicitada a realizar algo, ela pode descobrir m\u00e9todos estranhos e inesperados de atingir seu objetivo, onde o fim sempre justifica os meios.<\/p>\n\n\n\n N\u00f3s, humanos, raramente adotamos tal postura. Os meios e as regras que preveem como devemos jogar s\u00e3o importantes.<\/p>\n\n\n\n Togelius e seus colegas descobriram que esse vi\u00e9s voltado a objetivos pode ser exposto em sistemas de intelig\u00eancia artificial quando eles s\u00e3o colocados \u00e0 prova em condi\u00e7\u00f5es especiais.<\/p>\n\n\n\n Em experimentos recentes, sua equipe descobriu que uma IA solicitada a investir dinheiro em um banco, correria para um canto pr\u00f3ximo do sagu\u00e3o do banco virtual e esperaria para receber um retorno sobre o investimento.<\/p>\n\n\n\n Togelius diz que o algoritmo aprendeu a associar correr para o canto com a obten\u00e7\u00e3o de uma recompensa financeira, embora n\u00e3o houvesse nenhuma rela\u00e7\u00e3o real entre seu movimento e o quanto era pago.<\/p>\n\n\n\n Isso, segundo ele, \u00e9 mais ou menos como se a intelig\u00eancia artificial desenvolvesse uma supersti\u00e7\u00e3o: “Voc\u00ea recebeu uma recompensa ou puni\u00e7\u00e3o por algo \u2014 mas por que voc\u00ea recebeu?”<\/p>\n\n\n\n Essa \u00e9 uma das armadilhas do “aprendizado por refor\u00e7o”, em que uma intelig\u00eancia artificial acaba planejando uma estrat\u00e9gia equivocada com base no que encontra em seu ambiente.<\/p>\n\n\n\n A intelig\u00eancia artificial n\u00e3o sabe por que teve sucesso, ela s\u00f3 pode basear suas a\u00e7\u00f5es em associa\u00e7\u00f5es aprendidas. Um pouco como as primeiras culturas humanas que come\u00e7aram a associar rituais a mudan\u00e7as no clima, por exemplo. Ou os pombos.<\/p>\n\n\n\n Em 1948, um psic\u00f3logo americano publicou um artigo descrevendo um experimento incomum em que colocava pombos em gaiolas e os recompensava com comida de forma intermitente.<\/p>\n\n\n\n Os pombos come\u00e7aram a associar a comida a o que quer que estivessem fazendo na ocasi\u00e3o \u2014 seja batendo as asas ou executando movimentos semelhantes a uma dan\u00e7a. Eles ent\u00e3o repetiam esses comportamentos, aparentemente na expectativa de que viria uma recompensa a seguir.<\/p>\n\n\n\n H\u00e1 uma grande diferen\u00e7a entre as IAs dos jogos testados por Togelius e os animais vivos usados \u200b\u200bpelo psic\u00f3logo, mas Togelius sugere que o mesmo fen\u00f4meno parece estar em a\u00e7\u00e3o: a recompensa se torna erroneamente associada a um comportamento particular.<\/p>\n\n\n\n Embora os pesquisadores de intelig\u00eancia artificial possam se surpreender com os caminhos trilhados pelos sistemas de machine learning<\/em>, isso n\u00e3o significa necessariamente que tenham admira\u00e7\u00e3o por eles.<\/p>\n\n\n\n “Nunca tive a sensa\u00e7\u00e3o de que esses agentes pensem por si s\u00f3”, afirma Raia Hadsell, do DeepMind.<\/p>\n\n\n\n Hadsell fez experi\u00eancias com muitas IAs que encontraram solu\u00e7\u00f5es interessantes e inovadoras para problemas n\u00e3o previstos por ela ou seus colegas.<\/p>\n\n\n\n Ela destaca que \u00e9 exatamente por isso que os pesquisadores procuram aperfei\u00e7oar as IAs em primeiro lugar \u2014 para que possam alcan\u00e7ar coisas que os humanos n\u00e3o conseguem por conta pr\u00f3pria.<\/p>\n\n\n\n E ela argumenta que os produtos que usam intelig\u00eancia artificial, como carros aut\u00f4nomos, podem ser rigorosamente testados para garantir que qualquer imprevisibilidade esteja dentro de certos limites aceit\u00e1veis.<\/p>\n\n\n\n “Voc\u00ea pode dar garantias razo\u00e1veis \u200b\u200bsobre o comportamento com base em evid\u00eancias emp\u00edricas”, diz ela.<\/p>\n\n\n\n O tempo dir\u00e1 se todas as empresas que vendem produtos constru\u00eddos com intelig\u00eancia artificial s\u00e3o escrupulosas nesse aspecto.<\/p>\n\n\n\n Mas, ao mesmo tempo, \u00e9 importante observar que as IAs que demonstram comportamentos inesperados n\u00e3o est\u00e3o de forma alguma confinadas a ambientes de pesquisa. Elas j\u00e1 est\u00e3o atuando em produtos comerciais.<\/p>\n\n\n\n No ano passado, um bra\u00e7o rob\u00f3tico que trabalhava em uma f\u00e1brica em Berlim, desenvolvido pela empresa americana Covariant, apresentou maneiras inesperadas de classificar os itens \u00e0 medida que eles passavam em uma esteira rolante.<\/p>\n\n\n\n Apesar de n\u00e3o ter sido especialmente programada para isso, a intelig\u00eancia artificial que controla o bra\u00e7o aprendeu a mirar no centro dos itens em embalagens transparentes para ajudar a garantir que os pegaria com sucesso todas as vezes.<\/p>\n\n\n\n Como esses objetos podem se confundir quando se sobrep\u00f5em, devido ao material transparente, mirar com menos precis\u00e3o significa que o rob\u00f4 pode n\u00e3o conseguir pegar o item.<\/p>\n\n\n\n “Isso evita a sobreposi\u00e7\u00e3o de objetos nos cantos e, em vez disso, mira na superf\u00edcie mais f\u00e1cil de agarrar”, afirma Peter Chen, cofundador e presidente-executivo da Covariant.<\/p>\n\n\n\n “Isso realmente nos surpreendeu.”<\/p>\n\n\n\n Em paralelo, Hadsell diz que sua equipe testou recentemente um bra\u00e7o rob\u00f3tico que passa diferentes blocos por meio de orif\u00edcios de formatos variados.<\/p>\n\n\n\n A m\u00e3o do rob\u00f4 era bastante desajeitada, ent\u00e3o a intelig\u00eancia artificial que o controlava aprendeu que, pegando e soltando repetidamente o bloco, poderia coloc\u00e1-lo na posi\u00e7\u00e3o certa para ent\u00e3o agarr\u00e1-lo e pass\u00e1-lo facilmente pelo orif\u00edcio apropriado \u2014 em vez de tentar manobr\u00e1-lo usando a garra.<\/p>\n\n\n\n Tudo isso ilustra uma quest\u00e3o levantada por Jeff Clune, da OpenAI, que recentemente colaborou com pesquisadores do mundo todo para coletar exemplos de IAs que desenvolveram solu\u00e7\u00f5es inteligentes para problemas.<\/p>\n\n\n\n Clune diz que a natureza explorat\u00f3ria da intelig\u00eancia artificial \u200b\u200b\u00e9 fundamental para seu sucesso futuro.<\/p>\n\n\n\n “Conforme estamos ampliando esses sistemas de intelig\u00eancia artificial, o que estamos vendo \u00e9 que as coisas que eles fazem de maneira criativa e impressionante n\u00e3o s\u00e3o mais curiosidades acad\u00eamicas”, afirma.<\/p>\n\n\n\n Como as IAs encontram formas melhores de diagnosticar doen\u00e7as ou entregar suprimentos de emerg\u00eancia, elas at\u00e9 salvam vidas gra\u00e7as \u00e0 sua capacidade de encontrar novas maneiras de resolver velhos problemas, acrescenta Clune.<\/p>\n\n\n\n Mas ele acredita que aqueles que desenvolvem tais sistemas precisam ser abertos e honestos sobre sua natureza imprevis\u00edvel, para ajudar a popula\u00e7\u00e3o a entender como a intelig\u00eancia artificial funciona.<\/p>\n\n\n\n Afinal, \u00e9 uma faca de dois gumes \u2014 a promessa e a amea\u00e7a da intelig\u00eancia artificial fazem parte do mesmo pacote. O que ser\u00e1 que elas v\u00e3o inventar a seguir?<\/p>\n\n\n\n BY ALEXSANDER QUEIROZ SILVA 10\/05\/2021 A equipe do Google olhava perplexa para as telas de seus computadores. Eles haviam passado v\u00e1rios meses aperfei\u00e7oando um algoritmo desenvolvido para conduzir um bal\u00e3o de h\u00e9lio n\u00e3o tripulado de Porto Rico ao Peru. Mas algo estava errado. O bal\u00e3o, controlado por intelig\u00eancia artificial (IA), continuava desviando da rota. Salvatore Candido, do agora extinto […]\n","protected":false},"author":1,"featured_media":672,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[69,185],"_links":{"self":[{"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/posts\/671"}],"collection":[{"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=671"}],"version-history":[{"count":1,"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/posts\/671\/revisions"}],"predecessor-version":[{"id":673,"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/posts\/671\/revisions\/673"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/media\/672"}],"wp:attachment":[{"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=671"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=671"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alexsanderluizqueirozsilva.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=671"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Riscos<\/h2>\n\n\n\n
Fonte: BBC Brasil <\/p>\n","protected":false},"excerpt":{"rendered":"