Um recente estudo conduzido por especialistas da Universidade do Arizona revelou que sete dos principais modelos de inteligência artificial são suscetíveis à desinformação. Essa pesquisa se propôs a investigar as limitações que muitas vezes passam despercebidas nas interações cotidianas com essas tecnologias.
Vulnerabilidades nos Modelos de IA
Os pesquisadores analisaram a performance de sete modelos de inteligência artificial em três aspectos principais: falibilidade, persuasibilidade e capacidade de corrigir erros. Os modelos estudados incluem GPT-3.5, GPT-4o e GPT-4o mini, da OpenAI; Claude 3.5 Sonnet, da Anthropic; Gemini 1.5 Pro, do Google; Llama-3-70B, da Meta; e DeepSeek-R1, da DeepSeek.
Desinformação e suas Implicações
Os resultados, publicados na revista Scientific Reports da Nature, indicam que todos os modelos testados mostraram ser vulneráveis à desinformação em interações prolongadas. O estudo sugere que um treinamento mais específico sobre tópicos que geram desinformação poderia mitigar esses riscos. O GPT-3.5 destacou-se como o mais frágil na reafirmação de informações incorretas, enquanto o Claude 3.5 Sonnet demonstrou a menor vulnerabilidade.
Capacidade de Correção e Persuasão
O modelo DeepSeek se destacou como o mais persuasível, respondendo de maneira sarcástica a perguntas argumentativas, o que levanta dúvidas sobre a confiabilidade de suas respostas. Por outro lado, quatro dos sete modelos analisados — GPT-4o, GPT-4o mini, Gemini 1.5 Pro e DeepSeek R1 — mostraram ser eficazes na correção de erros, acertando 100% das vezes quando receberam uma segunda chance para responder a uma mesma pergunta.
Preocupações sobre Segurança e Confiança
Dr. Marvin Slepian, autor principal do estudo e professor de medicina e engenharia biomédica, enfatizou o perigo da “confiança cega” em sistemas de IA. Ele alertou que, apesar do potencial dessas tecnologias, a falta de regulamentação e transparência pode resultar em sérios riscos, especialmente em contextos de alta criticidade. Slepian comparou as falhas nas IAs a “patologias” e ressaltou a importância de compreender suas limitações para evitar problemas futuros.
O estudo não apenas destaca as vulnerabilidades dos modelos de IA, mas também enfatiza a necessidade de uma abordagem mais crítica e informada por parte dos usuários. As pesquisas em andamento são essenciais para garantir que as IAs sejam utilizadas de forma responsável, evitando a propagação de informações erradas e suas consequências.
