{"id":302194,"date":"2024-01-30T06:11:15","date_gmt":"2024-01-30T09:11:15","guid":{"rendered":"https:\/\/tribunabrasilia.com.br\/em-busca-do-apocalipse\/"},"modified":"2024-01-30T06:11:15","modified_gmt":"2024-01-30T09:11:15","slug":"em-busca-do-apocalipse","status":"publish","type":"post","link":"https:\/\/tribunabrasilia.com.br\/2\/em-busca-do-apocalipse\/","title":{"rendered":"Em busca do apocalipse"},"content":{"rendered":"<p><em>Quer receber os textos desta coluna em primeira m\u00e3o no seu e-mail? Assine a newsletter Xeque na Democracia, enviada toda segunda-feira, 12h. Para receber as pr\u00f3ximas edi\u00e7\u00f5es, <\/em><a href=\"https:\/\/mailchi.mp\/apublica\/democracia-em-xeque\" target=\"_blank\" rel=\"noopener\"><em>inscreva-se aqui.<\/em><\/a><\/p>\n<p>Quando a OpenAI decidiu colocar no mundo sua criatura \u2013 seu pr\u00f3prio Frankenstein \u2013 e assombrou todo aquele que se p\u00f4s a conversar com o programa de intelig\u00eancia artificial (IA) generativa, o que a pretensa organiza\u00e7\u00e3o sem fins de lucro gerou foram apreens\u00f5es no Vale do Sil\u00edcio, n\u00e3o apenas porque o rob\u00f4 era muito bom, mas porque Sam Altman, o CEO, tinha decidido saltar no abismo \u2013 e levar junto toda a humanidade.\u00a0<\/p>\n<p>Modelos de intelig\u00eancia artificial que emulam linguagem humana j\u00e1 existiam havia algum tempo, mas at\u00e9 ent\u00e3o as Big Techs estavam sendo cautelosas sobre como lan\u00e7\u00e1-la, dado que a quantidade de erros e os potenciais riscos pareciam ser grandes demais. Sam Altman preferiu repetir o estratagema que ajudou essas mesmas Big Techs a dominar a internet: lan\u00e7ou um produto n\u00e3o finalizado no mundo e botou todos os usu\u00e1rios como cobaias em um enorme experimento tecnol\u00f3gico e social para aprimorar seu Frankenstein.\u00a0<\/p>\n<p>Para a maioria das pessoas, \u00e9 dif\u00edcil entender como estamos brincando com fogo ao liberarmos a IA na sociedade, ainda mais sem o m\u00ednimo de regulamenta\u00e7\u00e3o \u2013 urgente, necess\u00e1ria, que venha este ano, oxal\u00e1. Mas as empresas que desenvolvem IA s\u00e3o as primeiras a saber dos buracos e riscos dos seus modelos.\u00a0<\/p>\n<p>Vejam s\u00f3 o an\u00fancio recente de uma bolsa de pesquisa oferecida pela pr\u00f3pria OpenAI, que pode ajudar a esclarecer o tamanho do abismo em que estamos nos metendo.\u00a0\u00a0<\/p>\n<p>Um tal \u201cfundo r\u00e1pido de superalinhamento 2024\u201d promete distribuir quantidades milion\u00e1rias de fundos para pesquisadores resolverem um problem\u00e3o que est\u00e1 sendo constru\u00eddo pela pr\u00f3pria equipe da OpenAI e outros engenheiros, o chamado \u201csuperalinhamento\u201d \u2013 na ind\u00fastria da tecnologia, \u201calinhamento de IA\u201d \u00e9 o termo usado para o esfor\u00e7o de fazer com que os rob\u00f4s obede\u00e7am aos humanos que os criaram. Ou seja, a bolsa tentar\u00e1 resolver o fato de que em poucos anos vamos ver sistemas de IA \u201csuperinteligentes\u201d que, de t\u00e3o complexos, ser\u00e1 imposs\u00edvel para seres humanos monitor\u00e1-los e, portanto, mandar neles efetivamente.<\/p>\n<p>Quem diz n\u00e3o sou eu, \u00e9 a pr\u00f3pria empresa. Vejam s\u00f3:\u00a0<\/p>\n<p>\u201cAcreditamos que a superintelig\u00eancia pode surgir nos pr\u00f3ximos 10 anos. Esses sistemas de IA teriam vastas capacidades, podendo ser extremamente ben\u00e9ficos, mas tamb\u00e9m potencialmente apresentar grandes riscos\u201d, diz o site da OpenAI.<\/p>\n<p>O texto prossegue: \u201cOs sistemas de IA superiores aos humanos ser\u00e3o capazes de comportamentos complexos e criativos que os humanos n\u00e3o conseguem compreender totalmente. Por exemplo, se um modelo super-humano gerar um milh\u00e3o de linhas de c\u00f3digo extremamente complicadas, os humanos n\u00e3o ser\u00e3o capazes de avaliar de maneira confi\u00e1vel se o c\u00f3digo \u00e9 seguro ou perigoso para execu\u00e7\u00e3o. T\u00e9cnicas de alinhamento existentes, que dependem da supervis\u00e3o humana, podem n\u00e3o ser mais suficientes. [\u2026] Este \u00e9 um dos problemas t\u00e9cnicos n\u00e3o resolvidos mais importantes do mundo\u201d.<\/p>\n<p>Caso ainda n\u00e3o esteja claro para meu leitor, acho importante lembrar que ningu\u00e9m <em>exatamente<\/em> sabe como funciona a intelig\u00eancia artificial nem como pode ser usada para fins esp\u00farios. Como \u00e9 um rob\u00f4 que se autodesenvolve, n\u00e3o \u00e9 poss\u00edvel nem determinar seu comportamento nem predizer para onde ele vai. Por isso, o que se pode fazer \u00e9 \u201ctrein\u00e1-lo\u201d com bases de dados determinadas (milh\u00f5es de sites em toda a internet, que \u00e9 o que fez a OpenAI sem pagar um tost\u00e3o para os seres humanos que produziram essa informa\u00e7\u00e3o toda) e depois monitorar proximamente o seu desenvolvimento a partir de t\u00e9cnicas diversas, como o tal \u201cfeedback humano\u201d (sim, quando voc\u00ea responde ao ChatGPT se uma resposta foi satisfat\u00f3ria, isso \u00e9 voc\u00ea trabalhando para a OpenAI e ajudando a pagar o milion\u00e1rio sal\u00e1rio de Sam Altman).<\/p>\n<p>Mas a verdade \u00e9 que estamos lidando com caixas-pretas, mecanismos indecifr\u00e1veis, que devem tornar-se ainda mais indecifr\u00e1veis \u00e0 medida que adquirem uma intelig\u00eancia \u201chumana\u201d ou, ainda, \u201csuper-humana\u201d. A mesma bolsa da OpenAI convida pesquisadores a tentar entender como funciona de fato o robozinho, vejam s\u00f3. De novo, n\u00e3o sou eu que estou usando o termo \u201ccaixa-preta\u201d para dar efeito liter\u00e1rio, n\u00e3o. O termo vem da pr\u00f3pria empresa. \u201cVia de regra, os sistemas de IA modernos s\u00e3o caixas-pretas inescrut\u00e1veis. Eles podem fazer coisas incr\u00edveis, mas n\u00e3o entendemos como funcionam\u201d, diz o site da empresa. A OpenAI convida ent\u00e3o pesquisadores a buscar realizar uma \u201cneuroci\u00eancia digital\u201d para \u201centender o que nossos modelos est\u00e3o pensando e por que est\u00e3o fazendo o que fazem\u201d.<\/p>\n<p>Para completar o tom sinistro do tal desafio acad\u00eamico, a OpenAI explica que \u201cmuitas hist\u00f3rias de falhas de alinhamento consistem em modelos que tentam minar as tentativas humanas de supervision\u00e1-los\u201d. Parece filme de fic\u00e7\u00e3o cient\u00edfica, mas, para os engenheiros que est\u00e3o moldando nosso futuro, n\u00e3o \u00e9.\u00a0<\/p>\n<p>O programa de bolsa \u00e9 uma parceria com Eric Shmidt, ex-CEO do Google, um dos respons\u00e1veis pelo maior monop\u00f3lio da hist\u00f3ria da humanidade. E s\u00f3 demonstra mais uma vez que, cientes do tamanho do pepino em que est\u00e3o se metendo, os CEOs do Vale do Sil\u00edcio est\u00e3o querendo compartilhar a mitiga\u00e7\u00e3o de danos com a sociedade, pagando at\u00e9 uma graninha, mas longe de assumir a responsabilidade por esses riscos.<\/p>\n<p>Existe um conceito amplamente usado dentro da comunidade de <a href=\"https:\/\/apublica.org\/tag\/tecnologia\/\" target=\"_blank\" rel=\"noopener\">tecnologia<\/a> que resume a postura de muitos dos engenheiros que trabalham com intelig\u00eancia artificial de ponta: \u201c<em>AI doomerism<\/em>\u201d, algo como uma vis\u00e3o apocal\u00edptica da IA, ou seja, <a href=\"https:\/\/www.nytimes.com\/2023\/07\/11\/technology\/anthropic-ai-claude-chatbot.html\" target=\"_blank\" rel=\"noopener\">muitos daqueles que trabalham<\/a> com esse rob\u00f4s inescrut\u00e1veis acreditam que eles podem levar \u00e0 extin\u00e7\u00e3o da humanidade. Como o grupo de engenheiros que decidiu sair da OpenAI e criou a Anthropic, uma startup que pretende evitar o apocalipse ao enfocar a seguran\u00e7a em primeiro lugar. Vale ler <a href=\"https:\/\/www.nytimes.com\/2023\/07\/11\/technology\/anthropic-ai-claude-chatbot.html\" target=\"_blank\" rel=\"noopener\">esta reportagem<\/a> do <em>New York Times<\/em> que retrata a apreens\u00e3o dentro da empresa quando lan\u00e7aram seu pr\u00f3prio chatbot generativo.\u00a0<\/p>\n<p>Alguns dos funcion\u00e1rios afirmaram ao rep\u00f3rter Kevin Roose que a ideia da Anthropic \u00e9 criar uma \u201ccorrida\u201d por quem vai ter o chatbot mais seguro, criando uma \u201cconcorr\u00eancia pela seguran\u00e7a\u201d. J\u00e1 outros acreditam no altru\u00edsmo eficaz, que mencionei brevemente na semana passada \u2013 a cren\u00e7a de que voc\u00ea deve trabalhar para beneficiar bilh\u00f5es de pessoas que v\u00e3o viver no futuro, e assim vale at\u00e9 causar problemas para as que est\u00e3o vivas hoje.\u00a0<\/p>\n<p>Mas a maioria dos funcion\u00e1rios da startup mistura seu entusiasmo pela tecnologia com um pessimismo galopante.\u00a0\u00a0\u00a0<\/p>\n<p>\u201cMinha preocupa\u00e7\u00e3o \u00e9: o modelo vai fazer algo terr\u00edvel que n\u00e3o percebemos?\u201d, afirmou ao rep\u00f3rter o executivo-chefe da empresa. Muitos outros se comparam com Robert Oppenheimer, o criador da bomba at\u00f4mica.\u00a0<\/p>\n<p>\u201cEles est\u00e3o assustados \u2013 em um n\u00edvel profundo, existencial \u2013 com a pr\u00f3pria ideia do que est\u00e3o fazendo: construindo modelos de IA poderosos e liberando-os nas m\u00e3os das pessoas que podem us\u00e1-los para fazer coisas terr\u00edveis e destrutivas.\u201d<\/p>\n<p>Para os trabalhadores da Anthropic, nos pr\u00f3ximos anos chegaremos \u00e0 \u201cintelig\u00eancia artificial geral\u201d (AGI), ou seja, rob\u00f4s que ser\u00e3o capazes de ter um racioc\u00ednio similar ao de uma pessoa com forma\u00e7\u00e3o universit\u00e1ria. \u201cEles temem que, se n\u00e3o forem cuidadosamente controlados, esses sistemas poderiam assumir o controle e nos destruir\u201d, diz a reportagem do <em>New York Times<\/em>.\u00a0\u00a0<\/p>\n<p>Ou seja: os engenheiros que constroem esses rob\u00f4s est\u00e3o preocupados com o fim do mundo, com o meu fim e o seu. E seguem criando o monstro.\u00a0<\/p>\n<p>Se isso n\u00e3o \u00e9 motivo suficiente para os governos de todo o mundo correrem para regular esse mercado, eu n\u00e3o sei o que seria.\u00a0\u00a0\u00a0\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Quer receber os textos desta coluna em primeira m\u00e3o no seu e-mail? Assine a newsletter Xeque na Democracia, enviada toda segunda-feira, 12h. Para receber as pr\u00f3ximas edi\u00e7\u00f5es, inscreva-se aqui. Quando a OpenAI decidiu colocar no mundo sua criatura \u2013 seu pr\u00f3prio Frankenstein \u2013 e assombrou todo aquele que se p\u00f4s a conversar com o programa [&hellip;]<\/p>\n","protected":false},"author":0,"featured_media":302195,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":[],"jnews_primary_category":[],"jnews_override_bookmark_settings":[],"jnews_food_recipe":[],"enable_food_recipe":"","food_recipe_title":"","food_recipe_description":"","food_recipe_serve":"","food_recipe_time":"","food_recipe_prep":"","food_recipe_level":"","food_recipe_keywords":"","food_recipe_category":"","food_recipe_cuisine":"","food_recipe_yield":"","food_recipe_calories":"","enable_print_recipe":"","ingredient":[],"instruction":"","jnews_social_meta":[],"jnews_paywall_metabox":[],"jnews_review":[],"enable_review":"","type":"","name":"","summary":"","brand":"","sku":"","good":[],"bad":[],"score_override":"","override_value":"","rating":[],"price":[],"jnews_override_counter":[],"jnews_post_split":[],"jnews_podcast_option":[],"jnews_podcast_series":[],"footnotes":""},"categories":[2],"tags":[],"jnews-series":[],"class_list":["post-302194","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-brasil"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/posts\/302194","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/comments?post=302194"}],"version-history":[{"count":0,"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/posts\/302194\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/media\/302195"}],"wp:attachment":[{"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/media?parent=302194"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/categories?post=302194"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/tags?post=302194"},{"taxonomy":"jnews-series","embeddable":true,"href":"https:\/\/tribunabrasilia.com.br\/2\/wp-json\/wp\/v2\/jnews-series?post=302194"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}