A startup de pesquisa em inteligência artificial OpenAI lançou uma ferramenta na terça-feira para descobrir se o texto foi escrito por um ser humano ou por um computador.
Os criadores do ChatGPT, OpenAI, lançam uma ferramenta para detectar textos gerados por IA
OpenAI, a empresa por trás do ChatGPT, um chatbot que pode gerar texto humano, se tornou viral depois de ser lançado há dois meses. A Microsoft anunciou na semana passada um investimento multibilionário na OpenAI e disse que incorporaria os modelos de IA da startup em seus produtos de consumo e empresariais.
Desde que o ChatGPT estreou em novembro, alguns dos maiores distritos escolares dos EUA, incluindo a cidade de Nova York, proibiram o chatbot de IA por temer que os alunos usem o gerador de texto para trapacear ou plagiar.
O CEO da OpenAI, Sam Altman, disse que a educação mudou no passado com o advento das calculadoras e outras tecnologias, mas também sugeriu que a empresa pode ter uma maneira de ajudar os professores a descobrir o texto escrito da IA.
A nova ferramenta da OpenAI não é perfeita, e a empresa diz que ainda é um trabalho em andamento e que podem ocorrer erros ao usá-la. “Em nossa avaliação de nosso 'conjunto de desafios' de textos em inglês, nosso classificador identificou corretamente 26% do texto escrito pela IA (verdadeiros positivos) como 'provavelmente escrito por uma IA', enquanto 9% dos textos escritos por humanos o texto foi erroneamente rotulado como escrito por IA (falsos positivos)", escreveu o funcionário da OpenAI.
A nova ferramenta não é confiável para analisar artigos com menos de 1000 caracteres, e a OpenAI desaconselha seu uso para idiomas diferentes do inglês. Além disso, o texto AI pode ser atualizado um pouco o suficiente para impedir que o classificador julgue corretamente que não é o trabalho de um humano.
A OpenAI diz que está entrando em contato com educadores para discutir os recursos e limitações do ChatGPT e continuará trabalhando na detecção de texto gerado por IA.
Em oferta na Amazon
