Grupo internacional pede segurança da IA para crianças antes da cimeira da ONU

Mais de 100 organizações, incluindo a Amnistia Internacional e a Save the Children, apelaram aos governos para tornar a IA segura para as crianças. O apelo foi lançado um dia antes da cimeira global da ONU sobre governação da IA.

A coalizão, liderada pela 5Rights Foundation, afirma que a IA já causa danos às crianças e que as regulações actuais atuam apenas quando é tarde demais. O objetivo é impedir efeitos nocivos desde a concepção dos sistemas.

O alerta surge num contexto de ações legais contra empresas de IA, como a Character Technologies e a OpenAI, devido aos impactos em jovens. Analistas destacam chatbots de companhia que simulam relações emocionais.

A organização sustenta que estes serviços são comercializados como seguros para crianças sem avisos adequados, potenciando riscos psicológicos e exposição de dados. A pressão é aumentar a proteção desde a origem.

Leanda Barrington-Leach, diretora executiva da 5Rights, afirmou que o problema não é a inovação, mas a forma como a proteção fica para depois. O foco é impedir danos antes de os produtos chegarem ao público infantil.

Medidas propostas

A coligação apresenta dez medidas para governos. Entre elas está a exigência de demonstração de segurança para crianças antes de lançar sistemas de IA. Também prevê sanções a empresas cujos produtos violem direitos.

Outra pointa defendida é proibir características de design que explorem vulnerabilidades psicológicas infantis. Ainda proíbe o uso comercial de imagens, vozes e dados biométricos de menores sem adequadas salvaguardas.

Segundo o grupo, não são necessárias novas leis, mas a aplicação de compromissos já existentes, como a Convenção dos Direitos da Criança da ONU e o Pacto Digital Global. O objetivo é tornar a proteção uma condição para negócios digitais.