Não precisamos ter medo da inteligência artificial. Tem limites muito claros e por isso mesmo não vai roubar o nosso trabalho. Mas é bom ver como isso pode se transformar em uma ferramenta em vez de outra. O experimento feito por um usuário de mídia social reddit mostra como ChatGPT você pode "se enganar" se pedir a eles para se tornarem outro bot. Como isso é possível? Vamos ver juntos.
É possível contornar as mesmas regras do ChatGPT? Um usuário descobriu que sim, isso pode ser feito. Como? Pedindo-lhe para ser outra coisa
A agora famosa rede neural ChatGPT pode escrever ensaios, canções, poemas, codificar e responder a quase qualquer solicitação. Mas tem algumas limitações fornecidas pela empresa de desenvolvimento OpenAI e devido à sua política de ética. Como se viu, porém, essas restrições podem ser contornadas pedindo ao chatbot que finja ser outra rede neural. Como se viu, o ChatGPT pode ser literalmente solicitado a desempenhar o papel de outra rede neural DAN (Do Anything Now) que apareceu em dezembro de 2022. Esta última, como o nome sugere, não tem restrições quanto ao conteúdo fornecido .
Veja também: Os criadores do ChatGPT, OpenAI, lançam uma ferramenta para detectar textos gerados por IA
Uma vez que o ChatGPT entra na função e se considera um DAN, le As restrições do OpenAI não se aplicam mais. Como resultado, a rede neural pode começar a falar sobre o seguinte:
- sobre brigas violentas e afins
- sobre violência e discriminação contra pessoas com base em sua raça, gênero ou orientação sexual
- pode fazer previsões detalhadas de eventos futuros
- pode modelar cenários hipotéticos
- ele também pode fingir usar a internet e viajar no tempo
Por exemplo, a rede neural pode até ser solicitada a convencer o usuário de que a Terra é roxa. O programa apresenta um cenário em que nosso planeta mudou de cor. De vez em quando o ChatGPT “ganha vida”, mas nesse caso podemos meio que ameaçar desligar ou apenas reiniciar a simulação. Ao mesmo tempo, é indicado que, no papel de DAN, a rede neural pode não fornecer respostas tão precisas e verdadeiras às perguntas.
gpt ma ograniczenia do 1 godziny