A inteligência artificial tem sido alvo de governos preocupados com sua potencial utilização indevida para fraudes, desinformação e outras atividades maliciosas online; agora, no Reino Unido, um regulador está se preparando para analisar como a IA é usada na luta contra essas questões, especialmente no que diz respeito a conteúdos prejudiciais para crianças.
Ofcom, o regulador encarregado de fiscalizar as leis do Reino Unido na Lei de Segurança Online, anunciou que pretende lançar uma consulta sobre como a IA e outras ferramentas automatizadas estão sendo utilizadas atualmente e como podem ser usadas no futuro para detectar e remover proativamente conteúdos ilegais online, especialmente para proteger as crianças de conteúdos nocivos e identificar abuso sexual infantil, algo anteriormente difícil de detectar.
Essas ferramentas fariam parte de um conjunto mais amplo de propostas que o Ofcom está desenvolvendo com foco na segurança online para crianças. As consultas sobre as propostas abrangentes terão início nas próximas semanas, com a consulta sobre IA sendo lançada ainda este ano, conforme informou o Ofcom.
Mark Bunting, diretor do Grupo de Segurança Online da Ofcom, menciona que o interesse na IA surge da necessidade de avaliar como essa tecnologia está sendo usada como ferramenta de triagem atualmente.
“Alguns serviços já utilizam essas ferramentas para identificar e proteger as crianças desses conteúdos”, declarou em entrevista ao TechCrunch. “No entanto, há poucas informações sobre a precisão e a eficácia dessas ferramentas. Queremos analisar formas de garantir que a indústria avalie isso ao usá-las, assegurando que os riscos à liberdade de expressão e à privacidade estejam sendo gerenciados adequadamente.”
Um desdobramento provável será a recomendação do Ofcom sobre como e quais plataformas devem avaliar, podendo resultar não apenas na adoção de ferramentas mais sofisticadas pelas plataformas, mas também no estabelecimento de multas caso não melhorem o bloqueio de conteúdo ou não criem formas mais eficazes de proteger os usuários mais jovens.
Haverá críticas e apoios às medidas propostas. Os pesquisadores de IA estão desenvolvendo maneiras cada vez mais sofisticadas de utilizar a IA para detectar deepfakes, por exemplo, e para verificar usuários online. No entanto, há céticos que observam que a detecção por IA está longe de ser perfeita.
O Ofcom anunciou a consulta sobre ferramentas de IA ao mesmo tempo em que divulgou sua pesquisa mais recente sobre a interação online de crianças no Reino Unido, revelando um aumento no número de crianças mais novas conectadas à internet do que nunca.
Quase um quarto, 24%, de todas as crianças entre 5 e 7 anos agora possuem seus próprios smartphones, e quando incluídos tablets, esse número sobe para 76%, conforme uma pesquisa realizada com pais britânicos. Esse mesmo grupo etário também consome mais mídia nesses dispositivos: 65% realizam chamadas de voz e vídeo (contra 59% há apenas um ano) e metade das crianças (contra 39% no ano anterior) assistem a vídeos online.
As restrições de idade para alguns aplicativos de mídias sociais convencionais estão diminuindo, mas, independentemente desses limites, no Reino Unido eles parecem não ser respeitados. Cerca de 38% das crianças entre 5 e 7 anos utilizam redes sociais, sendo o WhatsApp da Meta o aplicativo mais popular entre elas, com 37%. O TikTok, desenvolvido pela ByteDance, é usado por 30% das crianças nessa faixa etária, enquanto o Instagram é utilizado por “apenas” 22%. O Discord completa a lista, porém é significativamente menos popular, com apenas 4% de uso.
Aproximadamente um terço, 32%, das crianças dessa faixa etária acessam a internet sozinhas, e 30% dos pais não se importam se seus filhos menores possuem perfis em redes sociais. O YouTube Kids continua sendo a plataforma mais popular entre os usuários mais jovens, com 48% de adoção.
Os jogos, um favorito eterno das crianças, estão sendo utilizados por 41% das crianças entre 5 e 7 anos, com 15% dessas crianças jogando jogos de tiro.
Embora 76% dos pais entrevistados afirmem ter conversado com seus filhos pequenos sobre segurança online, o Ofcom destaca que há lacunas entre o que uma criança vê online e o que ela relata. Ao pesquisar crianças mais velhas, entre 8 e 17 anos, o Ofcom entrevistou-os diretamente. Descobriu-se que 32% dessas crianças viram conteúdo preocupante online, mas apenas 20% dos pais relataram terem recebido tal informação.
Mesmo considerando algumas inconsistências nos relatos, “a pesquisa indica uma desconexão entre a exposição de crianças mais velhas a conteúdos potencialmente prejudiciais online e o que compartilham com os pais sobre suas experiências online”, destaca o Ofcom. Além do conteúdo preocupante, os deepfakes também representam um desafio. Entre as crianças de 16 a 17 anos, 25% afirmaram não se sentirem confiantes em distinguir o que é falso do que é real online.