Enquanto a IA lan\u00e7a seus novos \u201cpoderes m\u00e1gicos\u201d no mercado, as tens\u00f5es aumentam na comunidade tecnol\u00f3gica e na sociedade como um todo. A que tipo de risco a humanidade estar\u00e1 sujeita? Parece um filme de fic\u00e7\u00e3o cient\u00edfica para voc\u00ea? Mas n\u00e3o \u00e9! Esta \u00e9 uma preocupa\u00e7\u00e3o real e pessoas de v\u00e1rias \u00e1reas est\u00e3o falando sobre isso agora, enquanto voc\u00ea est\u00e1 lendo este artigo.<\/p>\n
Muitos cientistas e profissionais de tecnologia est\u00e3o preocupados com o que podemos esperar nos pr\u00f3ximos anos, com o Machine Learning ficando cada vez mais inteligente. Como exemplo disso, em mar\u00e7o, foi publicada uma carta aberta<\/a> assinada por muitos representantes da IA pedindo uma pausa de 6 meses no desenvolvimento da IA.<\/p>\n Paralelamente a isso (e meio controverso), algumas dessas mesmas empresas est\u00e3o demitindo profissionais especialistas em \u00e9tica de IA. Parece que os conflitos \u00e9ticos est\u00e3o incendiando os gigantes, certo?<\/p>\n Em alguns casos, renomados profissionais de IA est\u00e3o deixando seus empregos. Esse \u00e9 o caso do pioneiro da IA Geoffrey Hinton, que deixou o Google na semana passada.<\/p>\n Embora ele tenha feito quest\u00e3o de n\u00e3o vincular sua ren\u00fancia aos problemas \u00e9ticos da empresa, o fato refor\u00e7ou as preocupa\u00e7\u00f5es com o desenvolvimento da IA e a falta de transpar\u00eancia enquanto as grandes empresas de tecnologia avan\u00e7am assustadoramente em suas pesquisas e descobertas, confrontando-se em uma disputa desproporcional.<\/p>\n Geoffrey Hinton \u00e9 um psic\u00f3logo cognitivo e cientista da computa\u00e7\u00e3o de 75 anos, conhecido por seu trabalho inovador em deep learning<\/em><\/a> e pesquisa de redes neurais.<\/p>\n Em 2012, Hinton ajudou a construir um programa de machine learning<\/em><\/a> capaz de identificar objetos, o que abriu as portas para modernos geradores de imagem de IA, por exemplo, e depois para LLMs como Chat-GPT e Google Bard<\/a>.<\/p>\n Ele trabalha com seus dois alunos na Universidade de Toronto. Um deles \u00e9 Ilya Sutskever, cofundador e cientista-chefe da OpenAi, respons\u00e1vel pelo Chat-GPT.<\/p>\n Com uma intensa forma\u00e7\u00e3o acad\u00eamica em grandes universidades e pr\u00eamios como o Award Turing 2018<\/strong>, Geoffrey Hinton largou o emprego na semana passada no Google, onde dedicou 10 anos ao desenvolvimento de IA. Hintons agora quer se concentrar em uma IA \u00e9tica e segura.<\/p>\n Segundo entrevista ao The New York Times<\/a>, o cientista deixou Google para ter a liberdade de falar sobre os riscos da intelig\u00eancia artificial.<\/p>\n Para esclarecer suas motiva\u00e7\u00f5es, ele escreveu em sua conta no Twitter<\/a> \u201cNo NYT hoje, Cade Metz insinua que deixei Google para poder criticar Google. Na verdade, sa\u00ed para poder falar sobre os perigos da IA sem considerar como isso afeta o Google. O Google agiu com muita responsabilidade<\/em>\u201d.<\/p>\n Depois que Hinton saiu do Google, levantou fatores que envolvem o excesso de confian\u00e7a na IA, preocupa\u00e7\u00f5es com a privacidade e considera\u00e7\u00f5es \u00e9ticas<\/strong>. Vamos mergulhar nos pontos centrais de seus alertas.<\/p>\n De acordo com Geoffrey Hinton, as m\u00e1quinas se tornarem mais inteligentes que os humanos \u00e9 uma quest\u00e3o de tempo. Em uma entrevista \u00e0 BBC<\/a>, ele disse:<\/p>\n \u201cNo momento, eles n\u00e3o s\u00e3o mais inteligentes do que n\u00f3s, pelo que posso dizer. Mas acho que logo poder\u00e3o ser<\/em>\u201d, referindo-se aos chatbots de IA, mencionando sua periculosidade como \u201cbastante assustadora\u201d.<\/p>\n Ele explicou que, na intelig\u00eancia artificial, as redes neurais s\u00e3o sistemas semelhantes ao c\u00e9rebro humano na forma como aprendem e processam informa\u00e7\u00f5es. O que faz com que as IAs aprendam com a experi\u00eancia, assim como n\u00f3s. Isso \u00e9 deep learning.<\/em><\/p>\n Comparando os sistemas digitais com os nossos sistemas biol\u00f3gicos, destacou: \u201c\u2026 a grande diferen\u00e7a \u00e9 que com os sistemas digitais, voc\u00ea tem muitas c\u00f3pias do mesmo modelo no mundo e todas elas podem aprender separadamente, mas compartilham seu conhecimento instantaneamente.<\/em> Portanto, \u00e9 como se voc\u00ea tivesse 10.000 pessoas e sempre que uma pessoa aprendesse algo, todos automaticamente soubessem. E \u00e9 assim que esses chatbots podem saber muito mais do que qualquer pessoa<\/em>\u201d.<\/p>\n Ainda assim, para a BBC, Hinton mencionou os perigos reais de ter chatbots de IA nas m\u00e3os erradas, explicando a express\u00e3o \u201cmaus atores\u201d que havia usado antes de falar com o The New York Times. Ele acredita que uma intelig\u00eancia poderosa pode ser devastadora se estiver nas m\u00e3os erradas.<\/p>\n \u00c9 importante dizer que, diferente dos muitos signat\u00e1rios da carta aberta, mencionados no in\u00edcio deste artigo, Hinton n\u00e3o acredita que devemos parar o progresso da IA e que o governo deve assumir o desenvolvimento de pol\u00edticas que possam garantir que a IA continue evoluindo com seguran\u00e7a.<\/p>\n \u201cMesmo que todos nos Estados Unidos parassem de desenvolv\u00ea-lo, a China simplesmente conseguiria uma grande vantagem<\/em>\u201d, disse ele \u00e0 BBC, mencionado que seria dif\u00edcil ter certeza se todos realmente parassem de pesquisar, por causa da competi\u00e7\u00e3o internacional.<\/p>\n J\u00e1 escrevi alguns artigos sobre IA aqui, e este pode ser o mais dif\u00edcil porque n\u00e3o \u00e9 simples equilibrar riscos e benef\u00edcios.<\/p>\n<\/blockquote>\n Quando penso nas muitas vit\u00f3rias e avan\u00e7os que o mundo est\u00e1 alcan\u00e7ando por meio da IA, \u00e9 imposs\u00edvel n\u00e3o imaginar como a sociedade poderia crescer e obter grandes vantagens se tivermos um desenvolvimento respons\u00e1vel da IA.<\/p>\n Pode ajudar o desenvolvimento humano em muitos campos, como pesquisas e descobertas em sa\u00fade que j\u00e1 est\u00e3o obtendo grandes avan\u00e7os com recursos de IA.<\/p>\n Aqui na Rock Content<\/strong>, como profissionais de Marketing de Conte\u00fado, acreditamos que a efici\u00eancia da IA pode funcionar em harmonia com a criatividade humana<\/a>.<\/p>\n Usamos ferramentas de reda\u00e7\u00e3o de IA diariamente. Claro, de forma respons\u00e1vel, para evitar desinforma\u00e7\u00e3o ou pl\u00e1gio e priorizar a originalidade.<\/p>\n O mundo certamente poderia ser muito beneficiado se tiv\u00e9ssemos esse arsenal de tecnologias trabalhando para coisas boas, junto a pessoas com suas habilidades humanas n\u00e3o pass\u00edveis de serem copiadas por m\u00e1quinas.<\/p>\n Nossas mentes emocionais e criativas ainda s\u00e3o acess\u00edveis, \u00fanicas e exclusivas por natureza. \u00c9 por isso que acredito que \u00e9 poss\u00edvel considerar as rela\u00e7\u00f5es humanos\/IA desde que tenhamos pol\u00edticas e regulamentos bem definidos para garantir um futuro seguro e pr\u00f3spero para a humanidade.<\/p>\nQuem \u00e9 Geoffrey Hinton, o \u201cpadrinho da IA\u201d?<\/h2>\n
A partida de Hinton e os avisos<\/h2>\n
M\u00e1quinas mais inteligentes que n\u00f3s: isso \u00e9 poss\u00edvel?<\/h3>\n
IA nas m\u00e3os erradas<\/h3>\n
A import\u00e2ncia do desenvolvimento respons\u00e1vel da IA<\/h2>\n
\n