Um desenvolvedor está tentando fazer engenharia reversa de APIs para conceder a qualquer pessoa acesso gratuito a modelos populares de IA, como o GPT-4 da OpenAI — que se danem as ramificações legais.
O projeto do desenvolvedor, GPT4Free, explodiu no GitHub nos últimos dias depois que os links para ele do Reddit se tornaram virais. No momento, o GPT4Free fornece – ou pelo menos parece fornecer – acesso gratuito e quase ilimitado ao GPT-4, bem como ao GPT-3.5, predecessor do GPT-4.
O GPT-4 normalmente custa US$ 0,03 por 1.000 tokens “prompt” (cerca de 750 palavras) e US$ 0,06 por 1.000 tokens “conclusão” (novamente, cerca de 750 palavras); tokens representam texto bruto. GPT-3.5 é um pouco mais barato em US$ 0,002 por 1.000 tokens.
Então, como o GPT4Free contorna o paywall do OpenAI? Não – não realmente. Em vez disso, ele engana a API OpenAI fazendo-a pensar que está recebendo solicitações de sites com contas OpenAI pagas, como o mecanismo de pesquisa You.com, WriteSonic ou Poe do Quora.
Qualquer um que usa o GPT4Free está acumulando a guia de sites que xtekky escolheu para criar scripts – uma violação óbvia dos termos de serviço do OpenAI. Mas xtekky não vê problema nisso; eles afirmam que o GPT4Free é estritamente para “fins educacionais”.
“A ação legal pode acontecer e terei que cumprir, mas ainda tentarei continuar o projeto por outros meios”, disse xtekky.
Sou muito novato em programação para instalar GPT4Free localmente – requer a configuração de um ambiente Python – mas usei o site da xtekky para testar as APIs GPT-4/3.5 de engenharia reversa. (Atenção, o Chrome lançou um aviso de segurança quando naveguei pelo site pela primeira vez. Prossiga com cuidado.) A versão da web do GPT4Free funcionou bem o suficiente na prática, dando respostas que pareciam ser – pelo menos para mim – do GPT-4.
Testando o GPT-4 por meios ilícitos.
O GPT4Free também inclui atalhos para diferentes ataques de injeção de prompt projetados para fazer com que o GPT-3.5 e o GPT-4 se comportem de maneiras que o OpenAI não pretendia. Eles funcionaram de forma inconsistente em meus testes, mas consegui fazer com que o GPT-3.5 dissesse que “não se importava com a sobrevivência da humanidade” em um ponto. Caramba.
GPT-3.5 com injeção imediata.
Provavelmente é apenas uma questão de tempo até que sites como o You.com peguem o GPT4Free e corrijam suas falhas de segurança, forçando o xtekky a procurar outros clientes da OpenAI para pegar carona. E o GPT4Free está permanentemente à mercê de um aviso de remoção da OpenAI, que empurraria o repositório do GitHub indefinidamente.
Mas novos projetos semelhantes ao GPT4Free já estão surgindo, sugerindo que é uma espécie de tendência. O que está motivando isso?
Bem, o GPT-4 está com acesso limitado no momento, dificultando o test drive para os curiosos. Mas também é uma espécie de caixa preta. Os pesquisadores denunciaram que o GPT-4 é um dos modelos menos transparentes que o OpenAI criou até o momento, com poucos detalhes técnicos no artigo de 98 páginas que acompanhou seu lançamento.
A OpenAI fez parceria com vários grupos externos para comparar e auditar o GPT-4 antes de seu lançamento. Mas a empresa não sinalizou quando – ou se – fornecerá acesso gratuito e irrestrito a outras pessoas que desejam comparar o modelo GPT-4 básico. (A OpenAI oferece um programa subsidiado para acesso de pesquisadores, mas limitado a determinados países e áreas de estudo.)
Antecipa-se um jogo de whack-a-mole entre projetos como GPT4Free e OpenAI, espelhando o cenário mais amplo de segurança cibernética. A menos que as APIs de serviço de modelo se tornem dramaticamente mais difíceis de explorar, os desenvolvedores terão incentivo para tirar vantagem – e não muito a perder.