Pessoas manipulam IAs em seu próprio interesse. Pesquisa da universidade reveladora.

Date:

Compartilhe:

Aos olhos dos humanos, as inteligências artificiais (IAs) podem parecer neutras e imparciais. Porém, um estudo realizado pela Universidade de Washington revelou que as pessoas tendem a manipular o comportamento das IAs para atender aos seus próprios interesses, mesmo que isso prejudique o treinamento correto desses sistemas. Essa descoberta aponta para um desafio importante no desenvolvimento da IA.

Como as pessoas influenciam o treinamento da IA

O experimento envolveu um jogo clássico da teoria dos jogos, no qual um jogador tem uma certa quantia de dinheiro para dividir com outro. As pessoas costumam aceitar propostas de divisão igualitária ou próximas disso, mas o estudo revelou que esse padrão muda quando o outro jogador é uma IA.

Quando informados de que estavam interagindo com uma inteligência artificial, os participantes humanos passaram a rejeitar as ofertas de divisão igual, preferindo propostas mais vantajosas para si. Isso porque eles entenderam que suas respostas serviriam para treinar a IA, incentivando-a a fazer ofertas cada vez melhores para o lado humano.

Essa descoberta é preocupante, pois mostra que as pessoas podem agir de maneira enviesada quando estão treinando uma IA, mesmo que isso não seja benéfico para o desenvolvimento desses sistemas a longo prazo.

O impacto no treinamento de IAs

Estudos anteriores com jogadores humanos mostram que eles tendem a rejeitar ofertas muito desiguais, como 70-30. Então, ao “treinar” a IA para fazer propostas piores para si, os participantes do estudo acabaram tornando-a mais “generosa”, mesmo que isso não fosse melhor para eles no futuro.

Para os pesquisadores, isso revela um problema no treinamento de IAs: o comportamento humano enviesado pode criar sistemas com respostas distorcidas, prejudicando o objetivo de desenvolver inteligências artificiais imparciais e eficientes.

Desafios para o futuro da IA

O impacto desse fenômeno pode ser menor em IAs baseadas em Modelos de Linguagem de Grande Porte (LLMs), como o Gemini da Google. Nesses casos, a participação humana direta no treinamento é menor.

Porém, em situações em que os seres humanos são necessários para aprimorar o aprendizado da IA, existe o risco de criar sistemas enviesados e menos confiáveis. Isso mostra a importância de se desenvolver estratégias para mitigar esse problema, a fim de garantir que as inteligências artificiais do futuro sejam realmente imparciais e confiáveis.

Conclusão

O estudo da Universidade de Washington revela um desafio importante no desenvolvimento da inteligência artificial: a tendência das pessoas de manipular o comportamento das IAs em benefício próprio. Essa descoberta aponta para a necessidade de se pensar em métodos de treinamento que minimizem os efeitos desse viés humano, para que possamos contar com sistemas de IA cada vez mais justos e confiáveis.

Pessoas manipulam IAs em seu próprio interesse. Pesquisa da universidade reveladora.
Source: tecnoblog.net


Seleção Valor Site
Seleção Valor Site
A Equipe Valor Site é formada por profissionais dedicados a fornecer informações variadas e atualizadas diariamente. Com foco em notícias, entretenimento, esportes e tecnologia, nossa equipe se empenha em trazer conteúdo preciso e relevante para manter nossos leitores bem informados.Nosso portal se destaca por selecionar as melhores notícias sobre os principais nichos e filtrar o que há de mais útil e interessante para o leitor, reunindo tudo em um único lugar. Valorizamos a qualidade e a veracidade das informações, garantindo que você tenha acesso ao que realmente importa.Confie na Equipe Valor Site como sua fonte diária de notícias e entretenimento de qualidade. Nossa missão é facilitar sua busca por informações, proporcionando uma experiência de leitura enriquecedora e agradável.

Artigos relacionados

Casamento Sangrento 2: Tudo sobre a sequência confirmada.

O sucesso do filme "Ready or Not", também conhecido como "Casamento Sangrento", fez com que uma sequência fosse...

Mércia se vinga de Luma e rouba pen-drive de Rudá.

No último episódio da novela "Mania de Você", Mércia, interpretada por Adriana Esteves, finalmente coloca seu plano de...

Ariana Grande agradece fãs por paciência em carta aberta.

Ariana Grande, a icônica popstar que conquistou o coração de milhões, viveu um momento emotivo recentemente. Em um...

Uber Flash expande serviços para transporte de objetos maiores.

O Uber Flash está passando por uma transformação significativa no Brasil. Criado em 2020, este serviço, que inicialmente...