Você já deve ter ouvido falar em casos em que o ChatGPT, a inteligência artificial do momento, “mentiu”: inventou informações, estudos, precedentes que não existem no mundo real. Por que?
Bem, a IA não é, literalmente, “inteligente”. O ChatGPT é um modelo de linguagem que foi treinado com uma base de dados de bilhões de textos disponíveis na internet até 2021.
Nesse modelo, entram livros, fóruns de discussão, artigos da Wikipedia etc.
O que ele faz é analisar todos esses dados e identificar padrões de como escrevemos. A partir daí, constrói frases contendo palavras que têm alta probabilidade de aparecer juntas.
Às vezes, no processo, ele acaba conectando palavras que formam textos coesos, coerentes, mas que não correspondem à realidade.
São os episódios chamados de “alucinação” da IA, termo técnico preferido para definir o fenômeno, em vez de simplesmente “erro”.
Na corrida da IA, a OpenAI e outras big techs que buscam seus próprios ChatGPTs correm para minimizar esse risco. Um jeito é conectar a ferramenta à internet, para checar as informações em tempo real.
Por enquanto, o ChatGPT disponível no site da OpenAI, sem plug-ins instalados, não tem acesso à internet; a versão integrada ao Bing tem acesso limitado e fornece links de apoio ao usuário.
De qualquer forma, isso não significa que a ferramenta não possa ser útil no dia a dia do trabalho. Mas lembre-se de sempre checar as informações factuais do robô.