A tecnologia de IA está mudando o que vemos online e como interagimos com o mundo. De uma foto do Papa no meio da jornada em um casaco a modelos de aprendizado de idiomas como o ChatGPT, a inteligência artificial está entrando em nossas vidas.
Os usos mais sinistros da tecnologia de IA, como uma campanha de desinformação política divulgando artigos falsos, significa que precisamos nos educar o suficiente para identificar as falsificações. Então, como você pode saber se um artigo é realmente um texto gerado por IA?
Como saber se o ChatGPT escreveu esse artigo
Vários métodos e ferramentas existem atualmente para ajudar a determinar se o artigo que você está lendo foi escrito por um robô. Nem todos são 100% confiáveis e podem fornecer falsos positivos, mas oferecem um ponto de partida.
Um grande marcador de texto escrito por humanos, pelo menos por enquanto, é a aleatoriedade. Embora as pessoas escrevam usando estilos e gírias diferentes e com frequência cometam erros de digitação, os modelos de linguagem de IA raramente cometem esse tipo de erro. De acordo com o MIT Technology Review, “o texto escrito por humanos está repleto de erros de digitação e é incrivelmente variável”, enquanto modelos de texto gerados por IA, como o ChatGPT, são muito melhores na criação de texto sem erros de digitação. Claro, um bom copidesque terá o mesmo efeito, então você tem que prestar atenção para mais do que apenas ortografia correta.
Outro indicador são os padrões de pontuação. Os humanos usarão a pontuação de forma mais aleatória do que um modelo de IA. O texto gerado por IA também geralmente contém mais palavras de conexão como “o”, “isso” ou “é” em vez de palavras maiores e mais raramente usadas porque grandes modelos de linguagem operam prevendo qual palavra terá maior probabilidade de vir a seguir, não apresentando algo que soasse bem como um ser humano.
Isso é visível na resposta do ChatGPT a uma das perguntas de estoque no site da OpenAI. Quando perguntado: “Você pode explicar a computação quântica em termos simples”, você obtém frases como: “O que torna os qubits especiais é que eles podem existir em vários estados ao mesmo tempo, graças a uma propriedade chamada superposição. É como se um qubit pudesse ser 0 e 1 simultaneamente. ”
Palavras de conexão curtas e simples são usadas regularmente, as sentenças têm comprimento semelhante e os parágrafos seguem uma estrutura semelhante. O resultado final é uma escrita que soa e parece um pouco robótica.
Você pode usar IA para detectar texto gerado por IA?
Os próprios modelos de linguagem grandes podem ser treinados para identificar a escrita gerada pela IA. Treinar o sistema em dois conjuntos de texto – um escrito por IA e outro escrito por pessoas – pode, teoricamente, ensinar o modelo a reconhecer e detectar escrita de IA como o ChatGPT.
Os pesquisadores também estão trabalhando em métodos de marcas d’água para detectar artigos e textos de IA. Tom Goldstein, que ensina ciência da computação na Universidade de Maryland, está trabalhando em uma maneira de criar marcas d’água em modelos de linguagem de IA na esperança de que isso possa ajudar a detectar escrita gerada por máquina, mesmo que seja boa o suficiente para imitar a aleatoriedade humana.
Invisível a olho nu, a marca d’água seria detectável por um algoritmo, que a indicaria como humana ou gerada por IA, dependendo da frequência com que aderiu ou quebrou as regras de marca d’água. Infelizmente, esse método não foi testado tão bem em modelos posteriores do ChatGPT.
Ferramentas para verificar se um artigo foi escrito pelo ChatGPT
Você pode encontrar várias ferramentas de copiar e colar on-line para ajudá-lo a verificar se um artigo foi gerado por IA. Muitos deles usam modelos de linguagem para digitalizar o texto, incluindo o próprio ChatGPT-4.
A IA indetectável, por exemplo, se comercializa como uma ferramenta para tornar sua escrita de IA indistinguível da de um humano. Copie e cole o texto em sua janela e o programa o compara com os resultados de outras ferramentas de detecção de IA, como o GPTZero, para atribuir uma pontuação de probabilidade – basicamente verifica se oito outros detectores de IA pensariam que seu texto foi escrito por um robô.
A originalidade é outra ferramenta, voltada para grandes publishers e produtores de conteúdo. Ele afirma ser mais preciso do que outros no mercado e usa ChatGPT-4 para ajudar a detectar texto escrito por IA. Outras ferramentas de verificação populares incluem:
- GPTZero
- vazamentos
- Escritor
A maioria dessas ferramentas fornece um valor percentual, como 96% humano e 4% AI, para determinar a probabilidade de o texto ter sido escrito por um humano. Se a pontuação for 40-50% AI ou superior, é provável que a peça tenha sido gerada por IA.
Embora os desenvolvedores estejam trabalhando para melhorar essas ferramentas na detecção de texto gerado por IA, nenhuma delas é totalmente precisa e pode sinalizar falsamente o conteúdo humano como gerado por IA. Também existe a preocupação de que, como os modelos de linguagem grandes, como o GPT-4, estão melhorando tão rapidamente, os modelos de detecção estão constantemente se recuperando.
Treine seu cérebro para pegar IA
Além de usar ferramentas, você pode se treinar para capturar conteúdo gerado por IA. Requer prática, mas com o tempo você pode melhorar nisso.
Daphne Ippolito, pesquisadora sênior da divisão de IA do Google, Google Brain, criou um jogo chamado Real Or Fake Text (ROFT) que pode ajudá-lo a separar frases humanas de robóticas, treinando-o gradualmente para perceber quando uma frase não parece correta. .
Um marcador comum de texto de IA, de acordo com Ippolito, são declarações sem sentido como “leva duas horas para fazer uma xícara de café”. O jogo de Ippolito é amplamente focado em ajudar as pessoas a detectar esses tipos de erros. Na verdade, houve várias instâncias de um programa de escrita de IA declarando fatos imprecisos com total confiança – você provavelmente também não deveria pedir para fazer sua tarefa de matemática, pois não parece lidar muito bem com cálculos numéricos.
No momento, esses são os melhores métodos de detecção que temos para capturar texto escrito por um programa de IA. Os modelos de linguagem estão melhorando a uma velocidade que torna os métodos de detecção atuais rapidamente desatualizados, deixando-nos, como escreve Melissa Heikkilä para o MIT Technology Review, uma corrida armamentista.
RELACIONADO: Como verificar o ChatGPT com o Bing AI Chat
0 Comments