IAs mais sofisticadas são mais propensas a ‘mentir’, diz pesquisa

Uma nova pesquisa publicada na revista Nature revela que grandes modelos de linguagem (LLMs) que vêm ficando mais poderosos acabam fazendo as IAs ‘mentirem’ com mais frequência. De certa forma, as inteligências artificiais estariam se tornando menos confiáveis conforme se tornam mais “experts” em tudo.

O estudo analisou modelos como o GPT da OpenAI, o LLaMA da Meta e o BLOOM do grupo BigScience. Os testes se baseiam em tópicos variados, de matemática a geografia, e em tarefas como listar informações em uma ordem específica.

Leia também:

Vontade própria? IA desobedece cientistas para ‘aumentar chance de sucesso’

Detector de IA: 5 sites para conferir se o texto foi escrito pelo ChatGPT

O que você faria se um robô mentisse para você? Estudo revela respostas mais comuns

Os modelos maiores e mais poderosos deram as respostas mais precisas, mas vacilaram em perguntas mais difíceis. Em suma, quanto maiores os modelos de IA ficavam – em termos de parâmetros, dados de treinamento e outros fatores – maior a porcentagem de respostas erradas que eles deram.

José Hernández-Orallo, pesquisador do Instituto Valenciano de Pesquisa de Inteligência Artificial, explicou que esses modelos estão respondendo a quase tudo. Isso resulta em mais respostas corretas, mas também em mais respostas incorretas.

É difícil para humanos saber se IA está mentindo

Os pesquisadores sugerem que uma solução para as IAs evitarem ‘mentir’ seria programar os LLMs para serem menos ansiosos em responder a tudo, admitindo quando não sabem a resposta. No entanto, essa abordagem pode não ser do interesse das empresas de inteligência artificial, que buscam impressionar o público com a sofisticação das tecnologias.

Leia também:  Adeus, Android! Huawei confirma lançamento de sistema operacional próprio

A pesquisa levanta preocupações sobre como os humanos percebem as respostas da IA. Quando solicitados a julgar a precisão das respostas dos chatbots, um grupo selecionado de indivíduos errou entre 10% e 40% das vezes.

Via Futurism

O post IAs mais sofisticadas são mais propensas a ‘mentir’, diz pesquisa apareceu primeiro em Olhar Digital.

https://hostinger.com.br?REFERRALCODE=1SEBASTIANA25
Oi! � Estou te dando 84% de desconto para comprar sua maquininha Point Mini NFC 2. Aproveite esse desconto e garanta taxas promocionais a partir de 0,84% no crédito à vista e 9,89% no crédito parcelado em 12x.
Computers & Accessories
Amazon Prime
Aproveite frete GRÁTIS e rápido, descontos exclusivos, filmes, séries, músicas e muito mais. Com o plano anual, você parcela em até 12x de R$ 13,90/mês sem juros (R$ 166,80/ano).
https://amzn.to/40iJj8P

Publicado

em

Tags:

Comentários

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *