Com a crescente confusão entre textos originais e os produzidos pelo ChatGPT, a OpenAI decidiu criar uma nova solução.
A evolução da inteligência artificial tem trazido benefícios significativos para diversas áreas, mas também levanta questões sobre a autenticidade dos conteúdos gerados.
A OpenAI, desenvolvedora do ChatGPT, está ciente dessas preocupações e recentemente confirmou a existência de uma ferramenta capaz de identificar textos criados pelo seu modelo de linguagem.
Esta medida visa abordar questões de plágio e garantir a transparência no uso da tecnologia. COnfira como funciona esta ferramenta de marca d’água e os motivos pelos quais a OpenAI ainda hesita em disponibilizá-la ao público.
OpenAI confirma que possui ferramenta para identificar textos feitos com o ChatGPT
Recentemente, a OpenAI confirmou a existência de uma ferramenta de marca d’água que permite identificar textos gerados pelo ChatGPT. A revelação veio após uma reportagem do The Wall Street Journal que detalhou o desenvolvimento dessa tecnologia.
A OpenAI afirmou que a ferramenta é capaz de detectar com alta precisão os textos criados pelo seu modelo de linguagem, visando principalmente reduzir os casos de plágio e melhorar a transparência.
A ferramenta ainda está em fase de avaliação e, até o momento, não há confirmação sobre seu lançamento oficial. A empresa destacou que esta é apenas uma das várias soluções que estão sendo pesquisadas para garantir a procedência dos textos.
A implementação dessa marca d’água poderia expor quem utiliza o ChatGPT para escrever ou reescrever textos, ajudando a manter a integridade dos conteúdos publicados.
A OpenAI mencionou que o impacto dessa tecnologia pode ser desproporcional em alguns grupos, o que contribui para a hesitação em lançar a ferramenta.
Essa ferramenta faz parte de uma série de métodos que a OpenAI está considerando, incluindo classificadores e metadados, como parte de uma extensa pesquisa na área de procedência de texto.
A empresa também está preocupada com as implicações dessa tecnologia em termos de estigmatização e preconceito, especialmente para aqueles que não têm o inglês como língua principal.
A OpenAI acredita que a introdução da marca d’água poderia desencorajar o uso do ChatGPT, especialmente entre esses grupos, o que levanta questões sobre a melhor forma de implementar tal recurso sem prejudicar os usuários.
Veja: ESTES celulares já podem se DESPEDIR do WhatsApp: confira a lista COMPLETA!
Como funciona essa marca d’água?
A marca d’água desenvolvida pela OpenAI funciona modificando a forma como o modelo de linguagem prevê e escolhe as palavras seguintes, criando um padrão que pode ser identificado sem afetar a qualidade das respostas.
Esse método permite que a OpenAI detecte textos gerados pelo ChatGPT com uma precisão de 99,9%, conforme revelado pelo The Wall Street Journal.
A ideia é que, ao introduzir essa marcação, a autenticidade dos textos possa ser verificada posteriormente, garantindo que os conteúdos gerados pela IA possam ser rastreados de volta ao ChatGPT.
Para implementar essa tecnologia, a OpenAI está testando diversos métodos, incluindo a aplicação de metadados criptograficamente assinados, o que impediria falsos positivos.
Isso significa que a ferramenta nunca apontaria incorretamente que um texto foi criado pelo ChatGPT se ele não foi realmente gerado pela IA.
Apesar das vantagens, a empresa também enfrenta desafios, como a possibilidade de burlar a marca d’água através de reescritas por outros modelos de linguagem ou traduções, que podem descaracterizar a marcação original.
A OpenAI já lançou uma ferramenta de detecção anteriormente, mas com uma precisão muito baixa de apenas 26%, o que levou à desistência do recurso.
Agora, com essa nova abordagem, a empresa espera alcançar um nível de precisão muito mais alto, tornando a identificação de textos gerados pelo ChatGPT mais confiável e eficaz.
Saiba mais: Não consegue responder TODAS as mensagens? Veja como enviar textos AUTOMÁTICOS pelo WhatsApp
Empresa não quer liberar a ferramenta para usuários
Apesar de a ferramenta estar tecnicamente pronta e mostrar resultados promissores, a OpenAI está relutante em liberá-la para o público neste momento.
A principal preocupação é o impacto negativo que essa medida pode ter sobre o uso do ChatGPT, especialmente entre aqueles que utilizam a ferramenta para superar barreiras linguísticas.
A empresa teme que a implementação da marca d’água possa estigmatizar o uso da inteligência artificial, desencorajando usuários não nativos em inglês de usar o ChatGPT.
Além disso, a OpenAI reconhece que cerca de 30% dos entrevistados em uma pesquisa disseram que usariam menos o ChatGPT se um sistema de marcação de textos fosse implementado.
Isso levanta questões sobre a viabilidade da ferramenta e sua aceitação entre os usuários. A empresa continua a debater internamente as melhores práticas e métodos para garantir a procedência dos textos sem prejudicar a experiência dos usuários ou desencorajar o uso da tecnologia.
Não perca: Seu smartphone foi roubado? Celular Seguro vai ter função que RECUPERA aparelhos; confira
