Tainá Junquilho: Equilíbrio Yin e Yang na IA Generativa

A cultura chinesa criou o conceito de Yin e Yang [1], que representa a complexidade da vida humana perpassada pelas energias da escuridão fria e pela luz quente, polos que se mesclam e que coexistem energeticamente no mundo.

Pois bem. No dia 13 de julho de 2023, o Cyberspace Administration of China (CAC ou Centro de Administração do Ciberespaço Chinês em tradução literal) saiu na frente na corrida regulatória e publicou as chamadas “Medidas Interinas para IA Generativa” (em tradução não-oficial para o inglês [2]).

O tom da nova legislação, segundo artigo da Reuters [3], é o de suavizar o rascunho regulatório inicial publicado em abril de 2023, prestigiando pontos de promoção do equilíbrio entre inovação e mitigação de riscos, numa tentativa do país de estimular que empresas nacionais, como Baidu, Alibaba e JD.com, sintam-se incentivadas a produzir esses modelos e consolidar a ousada estratégia do gigante asiático de se tornar líder global no desenvolvimento da IA até 2030, além de representar também o esforço do país em  recuperar-se dos estragos que o país sofreu com a pandemia por meio da promoção de investimentos em IA.

O texto [4] tem, no total, 24 artigos, ou seja, é enxuto para uma tecnologia tão complexa, e já no primeiro artigo anuncia as intenções do país de, com a legislação, “promover o desenvolvimento saudável da IA Generativa”. Alguns tópicos de destaque:

Aplicabilidade das normas

As normas “aplicam-se à utilização de tecnologia generativa de Inteligência Artificial (IA) para prestação de serviços de geração de texto, imagens, áudio, vídeo e outros conteúdos para o público localizado no território da República Popular da China” (artigo 2º). 

Deveres dos provedores de IA generativa

O artigo 4º traz as obrigações que o desenvolvedor de IA generativa deve respeitar:

1) Aderir aos valores centrais do socialismo e não prejudicar a imagem nacional;

2) No processo de design de algoritmo, seleção de dados de treinamento, geração e otimização de modelos e prestação de serviços, tomar medidas eficazes para prevenir a discriminação baseada em etnia, crença, país, região, sexo, idade, ocupação, saúde, etc.;

3) Respeito aos direitos de propriedade intelectual, a ética comercial, guarde segredos comerciais e não use algoritmos, dados, plataformas e outras vantagens para implementar o monopólio e a concorrência desleal;

4) Respeito a interesses individuais;

5) Adotar medidas para melhorar a transparência e confiabilidade dos modelos.

O artigo 7º determina que os prestadores de serviços na área deverão passar por formação prévia para correta utilização de dados com consentimento, respeito à propriedade intelectual e segurança da informação, e cursos de formação de rotuladores que respeitem diretrizes existentes e de forma padronizada.

Estímulo do Estado à inovação

No artigo terceiro, a China assume o compromisso de investir de forma equitativa tanto em segurança, quanto no desenvolvimento da IA.

Em vários artigos ressalta-se também a necessidade de que a China realize o estímulo à inovação, à abertura de dados e à criação de infraestrutura que apoie o desenvolvimento da IA Generativa (como por exemplo nos artigos 5º, 6º).

Preocupações com desinformação e controle de conteúdo

Outros dispositivos interessantes: artigo 9º, que determina que os provedores do serviço são legalmente responsáveis pelo conteúdo que resulta da IA Generativa e pela segurança da informação dos usuários (previsto também no artigo 13)Tomar medidas para prevenir excesso de confiança na IA pelas crianças (artigo 10).

Há deveres relacionados a princípios e direitos à proteção de dados pessoais como dever de oportunizar ao usuário a possibilidade de correção, cópia e complementação de seus dados em tempo hábil (artigo 11).

Outros dispositivos interessantes que tentam prevenir efeitos desinformativos: o artigo 12, que traz a obrigação de que conteúdos produzidos por IA generativa tenham marca de aviso, a demanda do artigo 14 de que qualquer conteúdo ilegal identificado pelo provedor deverá ser imediatamente deletado e relatado à autoridade competende, além do dever do provedor de manter um canal de reclamações, feedbacks e denúncias para usuários (artigo 15).

Responsabilização e segurança da informação

O capítulo IV da lei é dedicado à “Supervisão e Fiscalização e Responsabilidades Legais” e a prevê necessidade de realização de avaliações de segurança periódicas; o direito de o usuário reclamar com autoridades competentes quando identificam que os provedores desrespeitam as leis chinesas; cada departamento considerado relevante na produção da IA deve cooperar com os provedores, por exemplo, com suporte técnico (artigo 19) e o provedor poderá ser responsabilizado ou obrigado a suspender seus serviços quando a infração à lei chinesa for grave ou quando  instado a realizar correções, não o fizer (artigo 21).

O provedor de origem estrangeira também deve respeitar a legislação chinesa, sob pena de ser responsabilizado (artigo 20)

Conceito de IA generativa e vigência da lei

As disposições finais abordam conceitos de IA generativa e preveem a entrada em vigor do texto para dia 15 de agosto de 2023.

Sem dúvidas um dos pontos mais polêmicos e delicados da regulação é a obrigação trazida pelo artigo 4º, de adequação dos resultados das IAs generativas oferecidas na República Chinesa, aos valores socialistas. Note-se que o dispositivo é quase uma contradição em termos eis que, se por um lado a China preocupa-se com os riscos da desinformação, com o respeito à direitos autorais e com a proteção de usos seguros dos dados pessoais no desenvolvimento das IAs generativas, por outro, tolhe resultados produzidos considerados em desacordo aos ideais propostos pela República Chinesa

 Com isso, o país precisará reforçar formas de controle sobre os produtos e conteúdos produzidos pelas IAs generativas oferecidas ao público chinês, ao mesmo tempo em que busca estimular sua produção para o mercado interno.

Uma coisa é certa: ao ser a primeira no mundo na corrida regulatória da IA, a China demonstra sua intenção clara de alcançar o topo e o pioneirismo tanto na legislação quanto no desenvolvimento da IA, o que já foi declarado em sua estratégia (e que tem o ousado prazo de 2030 para se realizar [5]), em claro movimento de proteção do mercado interno, ao mesmo tempo em que sinaliza a pretensão de caminhar rumo à tentativa difícil de conciliação entre os polos Yin e Yang na promoção dessa tecnologia. Quem vencerá essa maratona?