ECA Digital e Marco da IA: entenda as diferenças na proteção de crianças online

Foi com um sentimento de urgência que vi acontecer o debate nacional envolvendo o direito de proteção de nossas crianças e adolescentes, a partir das denúncias de exploração e sexualização deste público, feitas pelo influenciador digital Felipe Bressanim, o Felca, em vídeo publicado em 7 de agosto.

Fazia tempo que não falávamos intensamente sobre como garantir o desenvolvimento pleno destes seres que são tão preciosos para todos nós, ainda que o assunto trazido à tona seja grave e indigesto. Tanto é que a classe política se mobilizou rapidamente para agir.

⬇️ Baixe o e-book: “Guia rápido de IA para a sua aula”

Foi com base nessa movimentação da sociedade que resgataram projetos de lei que estavam parados. Um deles, pelo menos, o PL 2.628/2022, apelidado de “ECA Digital”, que visa proteger crianças na internet, foi aprovado em tempo recorde em 28 de agosto, sancionado na Lei nº 15.211 em 17 de setembro.

Mas, perceba: esta é apenas mais uma regulamentação que visa resguardar este público.

A Constituição brasileira, em seu artigo 227, garante a crianças e adolescentes absoluta prioridade:

“É dever da família, da sociedade e do Estado assegurar à criança, ao adolescente e ao jovem, com absoluta prioridade, o direito à vida, à saúde, à alimentação, à educação, ao lazer, à profissionalização, à cultura, à dignidade, ao respeito, à liberdade e à convivência familiar e comunitária, além de colocá-los a salvo de toda forma de negligência, discriminação, exploração, violência, crueldade e opressão.”

Portanto, a proteção de seus direitos e interesses é primordial em todas as discussões, inclusive em relação ao uso da inteligência artificial (IA).

Esta tecnologia é objeto de outro PL 2338/2023, conhecido como Marco Legal da IA, que ainda está em tramitação na Câmara dos Deputados.

Sendo tantos processos ocorrendo em paralelo, início aqui uma análise do assunto, visando facilitar o entendimento da importância desse projeto de lei.

IA na educação. Ou educação com IA

Antes de ser votado no Plenário da Câmara, o Marco Legal da IA passou por audiências públicas. Entretanto, nenhuma delas tratou especificamente sobre IA e educação, perdendo a chance de um debate mais plural e atual.

O PL inclui crianças e adolescentes como grupos vulneráveis, reconhecendo que estão em fase de desenvolvimento físico, mental e social, o que os coloca em desvantagem na análise crítica que envolve o acesso à informação e poder.

É verdade que o MEC (Ministério da Educação), em especial, a Segape (Secretaria de Gestão da Informação, Inovação e Avaliação de Políticas Educacionais), está elaborando um documento com os Referenciais Nacionais de Desenvolvimento e Uso Responsável de IA na Educação, com o objetivo de orientar políticas públicas, práticas pedagógicas e processos de gestão escolar desde a educação básica até́ a Superior.

💬 Tire suas dúvidas e converse com outros educadores nas comunidades do Porvir no WhatsApp

É verdade também que o Instituto Alana soltou uma nota técnica, sugerindo contribuições aos artigos já discutidos. O Nees (Núcleo de Excelência em Tecnologias Sociais), em parceria com a Fundação Tellescom, produziu o documento intitulado “Qual impacto na Educação Básica se o PL 2338/2023 fosse aprovado hoje?”, um roteiro para gestores entenderem como se preparar e aplicar a IA nas escolas, garantindo conformidade legal ao mesmo tempo que aproveitam seu potencial educativo.

Apesar de todos esses avanços nas discussões e, inclusive no desenho de diretrizes mais tangíveis, há um ponto importante que não ficou claro até agora: a aplicabilidade efetiva da futura lei no dia a dia do ambiente escolar. Ou seja, como se dará a análise técnica desses recursos nas 137.143 escolas da rede pública brasileira, que não possuem um profissional dedicado à TE (Tecnologia da Educação) e a maioria nem tem o suporte de técnicos de TI para manutenção dos equipamentos?

Será que os funcionários da educação se sentirão confortáveis em adotar novas tecnologias envolvendo a IA, diante da possibilidade de serem multados e penalizados, caso os sistemas não cumpram os preceitos da lei?

Para dimensionar o tamanho do desafio, apresento dados da pesquisa TIC Educação 2023 que nos ajudam a dimensionar o potencial de adoção desses recursos pelas escolas brasileiras:

• 68% já adotam sistemas de armazenamento de dados e arquivos em nuvem (66% na rede pública e 79% na privada);
• 63% usam bases de dados e sistemas analíticos de aprendizagem na tomada de decisões em relação à gestão escolar (61% na rede pública e 69% na privada);
• 40% fazem uso de ambientes ou plataformas virtuais de aprendizagem (35% na rede pública e 58% na privada);
• apenas 55% possuem documento que define a política de proteção de dados e de segurança da informação na instituição (51% na rede pública e 74% na privada);
• somente 10% não adotam dispositivos, plataformas ou recursos educacionais digitais devido a preocupações com a privacidade e a proteção de dados dos alunos (8% na rede pública e 16% na privada).

Selo de qualidade

A minha preocupação tem a ver com a forma de escolher as melhores tecnologias educacionais, seja para fins de gestão escolar ou para apoio à equipe pedagógica, pois não há uma lei única regulamentando aplicações e softwares educacionais no Brasil.

O que existe é um arcabouço combinado: Lei de Diretrizes e Bases da Educação + Lei Geral de Proteção de Dados + normas do MEC + regras de contratação pública. Dentro dele, as secretarias estaduais e municipais têm autonomia para escolher, contratar via licitação e regular os sistemas que serão usados, com fiscalização dos Tribunais de Contas Estaduais/Municipais.

A IA generativa é uma tecnologia nova. Sua parametrização é um desafio para a maioria dos profissionais e até para desenvolvedores não-especialistas. Como exigir de uma rede pública conhecimentos sobre riscos, garantia de direitos, análise das documentações e avaliação de testes de confiabilidade e segurança de sistemas terceirizados, como prevê a regulamentação?

Por isso, proponho uma ideia para debate: esses materiais (aplicativos, plataformas, softwares, jogos educativos) deveriam ser lançados no mercado já com uma chancela federal, um selo de qualidade e validação das ferramentas de IA.

Isso não seria novidade na área da educação, em que já temos o PNDL (Plano Nacional do Livro Didático), política pública federal que garante a aquisição e distribuição gratuita de livros e materiais didáticos para escolas públicas de educação básica no Brasil. Ele conta com o Guia do PNLD, listagem da qual as escolas escolhem quais livros querem adotar, dentro das opções aprovadas.

Observar caminhos

Todo o raciocínio e as informações apresentadas neste texto não têm a pretensão de serem conclusivos. A intenção é explorar hipóteses que possam apoiar a reflexão e o posicionamento da sociedade civil e dos profissionais da educação diante dos rumos atuais da proposta de regulamentação da IA no Brasil.

Em um cenário em que a proteção de crianças e adolescentes é cada vez mais necessária, especialmente diante das inovações tecnológicas, o PL 2338/2023 surge como uma ferramenta essencial para enfrentar os desafios apresentados pela inteligência artificial.

Nesse contexto, é fundamental não apenas garantir que essa tecnologia seja utilizada de forma responsável, mas também criar estruturas que viabilizem sua implementação efetiva nas escolas.

A proposta de um selo de qualidade para aplicações educacionais baseadas em IA pode representar um passo significativo na busca por práticas que respeitem os direitos das crianças e adolescentes, ao mesmo tempo em que promovem uma educação mais eficiente e adaptativa.

Contudo, é imprescindível haver um diálogo contínuo entre legisladores, educadores e sociedade, para que juntos possamos formar um futuro que priorize o desenvolvimento integral dos jovens, respeitando suas singularidades e protegendo seu bem-estar.

Assim, o momento é de reflexão e ação: como podemos, coletivamente, construir um ambiente educacional que não apenas abrace a inovação, mas o faça de maneira ética e segura?

Que esse debate se amplie e que as vozes da sociedade civil e dos educadores sejam cada vez mais ouvidas, garantindo que a regulamentação da IA contribua para atender às necessidades dos alunos e se firme como um pilar fundamental na educação do século 21.

---