Os pesquisadores não podem dizer se podem remover totalmente as alucinações de IA: parte 'inerente' do uso de 'incompatibilidade'

A ex-advogada Jacqueline Schafer, CEO e fundadora da Clearbrief, disse que a IA é frequentemente usada em tribunais e criou o Clearbrief para verificar citações de fatos e documentos judiciais criados por IA generativa.

Alguns investigadores estão cada vez mais convencidos de que não serão capazes de eliminar as alucinações dos modelos de inteligência artificial (IA), que continuam a ser um obstáculo considerável à aceitação pública em grande escala.

“Atualmente não entendemos muito da natureza da caixa preta de como o aprendizado de máquina chega às suas conclusões”, disse Kevin Kane, CEO da empresa de criptografia quântica American Binary, à Fox News Digital. "Sob a abordagem atual para trilhar esse caminho da IA, não está claro como faríamos isso. Teríamos que mudar muito a forma como eles funcionam."

As alucinações, um nome para as informações imprecisas ou textos sem sentido que a IA pode produzir, têm atormentado grandes modelos de linguagem, como o ChatGPT, durante quase toda a sua exposição pública.

Os críticos da IA ​​concentraram-se imediatamente nas alucinações como razão para duvidar da utilidade das várias plataformas, argumentando que as alucinações poderiam exacerbar problemas já graves de desinformação.

PROGRAMAS POPULARES ALIMENTADOS POR IA ESTÃO FAZENDO UMA BAGUNÇA NO TRIBUNAL, AFIRMAM ESPECIALISTAS

Uma ilustração de 4 de maio de 2023 (Reuters/Dado Ruvic/Ilustração)

Os pesquisadores rapidamente buscaram esforços para remover alucinações e melhorar esse “problema conhecido”, mas esse “problema de processamento de dados” pode nunca desaparecer devido ao “caso de uso”, o fato de que a IA pode ter problemas com alguns tópicos, disse Christopher Alexander, chefe de análise oficial do Pioneer Development Group.

“Acho um absurdo dizer que você pode resolver todos os problemas, assim como dizer que você nunca poderá resolvê-los”, disse Alexander à Fox News Digital. “Acho que a verdade está em algum ponto intermediário e acho que vai variar muito de acordo com o caso.

O QUE É INTELIGÊNCIA ARTIFICIAL (IA)?

“E se você pode documentar um problema, acho difícil acreditar que você não possa resolvê-lo.”

Emily Bender, professora de linguística e diretora do Laboratório de Lingüística Computacional da Universidade de Washington, disse à Associated Press que as alucinações podem ser “incorrigíveis” porque surgem de uma incompatibilidade “inerente” entre “a tecnologia e o caso de uso proposto”.

Essa incompatibilidade existe porque os pesquisadores procuraram aplicar a IA a vários casos e situações de uso, de acordo com Alexander.

ChatGPT é um grande modelo de linguagem que funciona analisando grandes conjuntos de dados a partir de informações disponíveis na Internet. (Leon Neal/Imagens Getty)

Ao desenvolver uma IA para resolver um problema específico, a equipe de Alexander analisou os modelos existentes para reaproveitá-los para realizar uma tarefa, em vez de construir um modelo completo. Ele alegou que sua equipe sabia que o programa não criaria resultados ideais, mas suspeitava que muitos grupos adotavam uma abordagem semelhante, sem abraçar a compreensão do desempenho limitado como resultado.

"[Os pesquisadores] juntaram pedaços de algo, e não foi necessariamente feito para isso, e agora o que a IA vai fazer é colocado nas circunstâncias? Eles provavelmente não o fazem completamente", explicou Alexander, sugerindo que os pesquisadores pode tentar refinar a IA ou construir modelos personalizados para tarefas ou setores específicos no futuro. “Então, não acho que seja universal. Acho que depende muito de caso a caso.”

O QUE É CHATGPT?

Kane disse que estabelecer uma meta de se livrar das alucinações é “perigoso”, já que os pesquisadores não entendem completamente como funcionam os algoritmos por trás da IA, mas parte disso se resume a uma falha na compreensão de como a IA funciona em geral.

“Grande parte do aprendizado de máquina está à nossa imagem”, explicou Kane. “Queremos que fale conosco da mesma forma que falamos uns com os outros.

O logotipo da Nvidia exibido na tela de um telefone e em um microchip é visto nesta ilustração de Cracóvia, Polônia, 19 de julho de 2023. (Jakub Porzycki/NurPhoto via Getty Images)

“Geralmente tentamos projetar sistemas que imitem como os humanos entendem a inteligência, certo?” ele adicionou. “Os humanos também são uma caixa preta e também apresentam alguns dos mesmos fenômenos. Portanto, a questão é: se quisermos desenvolver a inteligência artificial, isso significa que queremos ser como os humanos.