Inteligência artificial ou superinteligência? Uma boa pergunta, apesar do Trump
“Artificial” sugere falsidade, imitação e separação, três ideias que já estão ultrapassadas. Crédito: Edição: Andressa Brito
Um estudo publicado por Nick Cammarata, ex-pesquisador da OpenAI, mostra que é possível rastrear a lógica por trás dos pensamentos e decisões das inteligências artificiais. O conteúdo publicado chega como uma explicação importante para o mundo da tecnologia pode abrir caminho para que os humanos não percam o controle dessas ferramentas no futuro.
Até então, as IAs eram vistas pelos pesquisadores como um tipo de “caixa-preta” extremamente complexa de decifrar. As empresas responsáveis por essa tecnologia até sabem quais informações são colocadas no sistema e qual é a resposta final, mas ainda não entendem como as inteligências artificiais chegam àquela conclusão.
A pesquisa de Cammarata vai além e almeja provar que as IAs têm uma lógica compreensível. Em um exemplo citado, ele diz que um neurônio da IA pode ser ativado tanto pela foto de um gato quanto pela imagem de um carro. O cérebro humano não entende nenhuma relação entre ambos, mas a IA consegue enxergar um formato comum entre eles, como formas geométricas triangulares.
Isso significa que essa tecnologia não agrupa as informações de maneira aleatória, mas organiza o mundo com uma lógica própria. “Quase toda a rede pode ser compreendida se olharmos com atenção suficiente”, explica o pesquisador.
Isso vai na contramão da comunidade científica, que aposta que as partes do sistema que processam os dados, os chamados “neurônios artificiais”, agrupam diferentes assuntos unicamente para economizar sua memória. Isso faz com que esses pesquisadores achassem ser impossível compreender as escolhas das máquinas.
Metodologia citada pela pesquisa ainda precisa ser comprovada em larga escala Foto: WANAN YOSSINGKUM/GettyImages
Compreensão gera mais segurança?
Um dos pontos primordiais dessa pesquisa tem relação direta com aspectos de segurança sobre as inteligências artificiais. Em setembro, o cientista-chefe da OpenAI, Jakub Pachocki, havia alertado sobre o acelerado ritmo de evolução das IAs e que elas já mostram sinais de que podem participar do seu próprio desenvolvimento.
Há um forte temor na indústria de que os modelos mais avançados de companhias como Anthropic, Google e a própria OpenAI poderiam esconder informações dos seus criadores. Porém, com a pesquisa de Cammarata, esse cenário já se torna bem menos provável e ajuda a mitigar riscos.
A possibilidade de interpretar uma inteligência artificial de maneira aprofundada pode fazer com que os engenheiros dessas empresas possam entender o que se passa no “cérebro” dessa tecnologia. Compreender todas as etapas pode evitar que esse recurso fique inteligente demais ou saia do controle.
Por falar em inteligência artificial, agentes da OpenAI desativaram seus sistemas de alerta de mau comportamento enquanto realizavam alterações de software. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.
Com informações de Business Insider
