Os reguladores chineses propuseram regras restritivas sobre modelos de IA como o ChatGPT sendo construído no país, exigindo identificação do usuário, análises de segurança e proibindo “qualquer conteúdo que subverta o poder do estado, defenda a derrubada do sistema socialista, incite a divisão do país ou prejudique a unidade nacional .”
As regras vêm logo após as empresas de tecnologia chinesas lançarem suas versões de modelos de linguagem de propósito geral, sistemas versáteis de IA que podem conversar em linguagem natural e realizar um número surpreendente de tarefas. Embora a recepção dos modelos Sensetime, Baidu e Alibaba no último mês sugira que eles estão um pouco atrás de modelos como GPT-4, está claro que a indústria está igualmente dedicada a desenvolver esses recursos.
Infelizmente, logo após a estreia do modelo Tongyi Qianwen do Alibaba, um dos reguladores de tecnologia do país, a Administração do Ciberespaço da China, propôs restrições que podem sufocar inovações relevantes – e as ambições da indústria chinesa de IA junto com elas.
O projeto de regras não está disponível em inglês (retirei a citação acima da tradução do Financial Times publicada na Ars Technica), mas pode ser visualizada no site do regulador aqui. A primeira parte do artigo 4º proíbe a IA generativa que subverte o poder e a autoridade do governo ou questiona a unidade nacional, juntamente com várias outras categorias de proibições, como discriminação étnica, terrorismo e assim por diante.
Esse tipo de cláusula de moralidade abrangente é comum na China, mas é o tipo de restrição que a IA generativa é incapaz de cumprir. Mesmo o LLM mais cuidadosamente treinado e sintonizado parece ser capaz de ser levado a dizer todo tipo de coisas questionáveis. Se os censores chineses decidem se isso está em conformidade com a lei ou não, depende mais ou menos inteiramente deles, algo que torna a perspectiva de dedicar recursos sérios a tal projeto um tanto quanto preocupante.
É claro que grande parte da indústria chinesa existe sob uma adaga igualmente suspensa e, embora os reguladores da China sejam caprichosos, eles não são tolos o suficiente para jogar fora os frutos dos anos de apoio à P&D do governo no país. É provável que, não muito diferente de outras leis de limitação de conteúdo, isso funcionará mais como uma folha de figueira e uma desculpa infalível para o governo exercer influência – não uma proibição geral.
Na verdade, são os outros requisitos que podem retardar o desenvolvimento da IA.
As regras preliminares do CAC exigem, entre outras coisas, que os provedores assumam responsabilidade pelos dados de treinamento dos modelos, incluindo métricas difíceis de medir, como autenticidade, objetividade e diversidade; os usuários dos serviços devem ser verificados como pessoas reais; informações pessoais e reputação devem ser respeitadas ou os reguladores podem responsabilizar o provedor; o conteúdo gerado deve ser rotulado como tal; e muitas outras restrições.
Certamente alguns desses requisitos podem ser considerados prudentes ou mesmo críticos para uma indústria de IA responsável, mas a verdade é que muitos deles seriam incrivelmente difíceis, talvez impossíveis de serem implementados pelas empresas e pelos esforços de P&D de hoje. A OpenAI alcançou seu sucesso em parte porque está trabalhando em um vácuo regulatório quase completo. Se a lei exigisse que a empresa, digamos, obtivesse permissão dos detentores dos direitos autorais do texto e da mídia que usou para treinar seus modelos, provavelmente ainda estaria esperando para construir o GPT-2.
Se uma startup de IA ou mesmo uma empresa estabelecida não puder operar com confiança na China por medo de violar essas regras em grande escala, eles podem decidir que seus recursos são melhor gastos em outro lugar. Por mais rápido que seja esse setor, esse revés pode ser muito difícil de recuperar.
O Financial Times citou o presidente-executivo do Alibaba, Daniel Zhang, dizendo que “daqui a 10 a 20 anos, quando olharmos para trás, perceberemos que estávamos todos na mesma linha de partida”. Isso é quase certamente verdade e, de uma perspectiva semelhante, podemos ver como a regulamentação estrangulou a inovação – ou talvez como impediu um monopólio estagnado ou protegeu as pessoas do roubo em massa bem organizado de seus dados.
As regras preliminares estão abertas para comentários (pelos partidos na China, obviamente) para o próximo mês, após o qual podem ou não ser revisadas, e devem entrar em vigor ainda este ano.