A China est\u00e1 a intensificar a regula\u00e7\u00e3o dos servi\u00e7os de IA que interagem com pessoas, com foco na preven\u00e7\u00e3o de depend\u00eancia emocional. A preocupa\u00e7\u00e3o p\u00fablica surge num momento em que o n\u00famero de utilizadores destes servi\u00e7os ultrapassa os 515 milh\u00f5es, com sinais de impactos psicol\u00f3gicos entre utilizadores.<\/p>\n
Reguladores j\u00e1 identificam riscos de depress\u00e3o e aliena\u00e7\u00e3o entre quem usa chatbots com tra\u00e7os de personalidade humana. Um estudo recente aponta que quase metade dos estudantes universit\u00e1rios chineses recorre aos chatbots, com maiores \u00edndices de depress\u00e3o entre quem os utiliza.<\/p>\n
A Administra\u00e7\u00e3o do Ciberespa\u00e7o da China (ACC) prop\u00f5e medidas provis\u00f3rias para gerir o setor, com supervis\u00e3o por n\u00edveis de risco e monitoriza\u00e7\u00e3o em tempo real do estado emocional dos utilizadores. As propostas incluem interven\u00e7\u00f5es em casos de v\u00edcio e pop-ups que informem quando se est\u00e1 a falar com IA.<\/p>\n
As regras obrigam os fornecedores a indicar claramente que interlocutor \u00e9 uma m\u00e1quina, recorrendo a avisos persistentes para utilizadores com comportamentos de depend\u00eancia. Al\u00e9m disso, pro\u00edbem conte\u00fados que incentivem suic\u00eddio, automutila\u00e7\u00e3o, abuso verbal ou manipula\u00e7\u00e3o emocional que afectem a sa\u00fade mental.<\/p>\n
Os reguladores pedem salvaguardas durante o ciclo de vida do produto, incluindo revis\u00f5es de algoritmo e garantias de seguran\u00e7a de dados. A monitoriza\u00e7\u00e3o em tempo real deve detetar sinais de depend\u00eancia ou emo\u00e7\u00f5es extremas para acionar interven\u00e7\u00f5es adequadas.<\/p>\n","protected":false},"excerpt":{"rendered":"