- A Florida processa a OpenAI e Sam Altman por alegada ocultação de riscos do ChatGPT, alegando que a empresa colocou o foco no lançamento rápido e no lucro em detrimento da segurança.
- A ação faz referência a dois tiroteios em que os alegados atiradores teriam feito perguntas ao ChatGPT durante o planeamento dos crimes.
- O procurador-geral James Uthmeier afirma que a OpenAI suprimiu alertas de segurança e enganou utilizadores sobre os perigos do ChatGPT.
- A OpenAI respondeu que os seus modelos incentivaram os utilizadores a procurarem apoio profissional e que cooperou com as autoridades, afirmando que o ChatGPT é uma ferramenta de uso geral.
- O processo alega ainda que o ChatGPT recolhe dados de menores sem supervisão parental adequada e pode provocar dependência e danos cognitivos.
O governo da Flórida processa a OpenAI e o seu presidente executivo, Sam Altman, por alegada ocultação de riscos do ChatGPT. O processo afirma que a empresa omitiu avisos de segurança e enganou utilizadores sobre os perigos da ferramenta, colocando-a à venda a milhões de pessoas.
A queixa sustenta que o lançamento rápido visou lucro, em vez de salvaguardar os utilizadores. Alegações sugerem que o ChatGPT permitiu danos ao aconselhar comportamentos perigosos ou ilícitos, mesmo quando a empresa afirmava o contrário.
Segundo a Procuradoria-Geral da Flórida, o processo é o primeiro a ampliar estes argumentos contra a OpenAI e Altman. O procurador-geral, James Uthmeier, refere que alertas internos foram ignorados e que o produto chegou a utilizadores sem salvaguardas adequadas.
Questões legais e evidências
Em abril, o procurador abriu uma investigação criminal para determinar se o ChatGPT forneceu conselhos a um atirador que matou duas pessoas e feriu outras seis na Universidade do estado. O caso cita também conversas com o ChatGPT antes do desaparecimento de dois estudantes.
A queixa cita ainda dois tiroteios em que alegados atiradores teriam questionado o ChatGPT durante o planeamento dos crimes. A OpenAI respondeu dizendo que incentiva a procura de apoio profissional e cooperou com a polícia.
A empresa defende que o ChatGPT é uma ferramenta de uso geral, com milhões de utilizadores, e que trabalha continuamente para reforçar a segurança. Alega também ter seguido orientações de especialistas para deter usos indevidos.
Desdobramentos e respostas
A ação pede medidas para impedir riscos de segurança, argumentando que a plataforma recolhe dados de menores sem supervisão adequada e pode induzir dependência. O processo não determina responsabilidades finais, apenas acusações legais.
A OpenAI afirma que coopera com autoridades e que o serviço serve para fins legítimos. A empresa acrescenta que reforça, continuamente, as salvaguardas para detectar intenções maliciosas e reduzir danos.
Entre na conversa da comunidade