Um pastor da Florida, nos Estados Unidos, processou a OpenAI, criadora do ChatGPT, depois que o chatbot deu instrucoes medicas perigosas e o desencorajou a procurar um medico para tratar sintomas de embolia pulmonar. A empresa afirma que o servico nao deve ser usado para diagnosticos.
TecMundo
Um pastor do estado da Florida, nos Estados Unidos, processou a OpenAI por dar instrucoes medicas extremamente perigosas quando consultado sobre sintomas relacionados a embolia pulmonar. A empresa alega que o chatbot nao deve ser usado para diagnostico medico e tratamento.
O requerente Scott Winters afirma que o ChatGPT Health descartou riscos quando contou sobre seus primeiros sintomas e o desencorajou a procurar um profissional humano. De acordo com ele, o chatbot teria aconselhado a confiar que "Deus nao projetou seu corpo para falhar indefinidamente".
- O pastor Scott Winters usou o ChatGPT Health para saber sobre seus sintomas de saude.
- O chatbot disse que ele nao precisava se preocupar e o desencorajou a ir ao medico.
- Winters descobriu depois que tinha embolia pulmonar, uma condicao grave e perigosa.
- Ele entrou com um processo na Justica contra a OpenAI, pedindo compensacao e suspensao do servico.
- A OpenAI afirma que o ChatGPT nao substitui um medico e que os termos de uso ja avisam sobre isso.
Winters entao abriu o processo judicial na Suprema Corte da California, em Sao Francisco, acusando a OpenAI e o CEO, Sam Altman, de negligencia e exercicio irregular de medicina. O pastor e a Tech Justice Law, organizacao sem fins lucrativos que acompanha o requerente, demandam compensacao financeira e exigem a suspensao do ChatGPT Health ate que a confiabilidade do servico seja avaliada de forma independente.
O que e o ChatGPT Health
O ChatGPT Health foi lancado em janeiro deste ano como um ambiente otimizado para lidar com conversas relacionadas a saude e bem-estar dos usuarios. A ferramenta foi liberada para poucos usuarios e ate hoje aceita cadastros para a lista de espera.
Segundo a OpenAI, o ChatGPT Health serve para ajudar o usuario a se preparar para uma consulta medica; auxilia na interpretacao de dados de exames antes de uma consulta profissional; apoia o gerenciamento de condicoes a partir de recomendacoes de bem-estar e fornece dicas para aliviar sintomas sem a necessidade inicial de medicamentos. O projeto foi desenvolvido com a colaboracao de medicos, segundo a empresa de inteligencia artificial.
De acordo com o The New York Times, esta parece ser a primeira acao judicial que acusa o ChatGPT de prejudicar usuarios que buscavam orientacao medica, mas nao e o primeiro processo contra a empresa. A OpenAI ja foi processada por suposta violacao de direitos autorais, por possivelmente falhar em detectar sinais de sofrimento psicologico e ideias suicidas e, mais recentemente, por supostamente roubar segredos comerciais da Apple.
OpenAI ressalta que chatbot nao substitui um medico
"Tratar os chatbots como o unico fator por tras das decisoes ou dos desfechos medicos das pessoas simplifica excessivamente um desafio muito maior e corre o risco de impedir o acesso a novas ferramentas poderosas, capazes de auxilia-las em sua jornada de saude", afirmou o porta-voz da OpenAI, Drew Pusateri. Ele reforcou que os termos de servico do chatbot deixam claro que a ferramenta nao deve ser utilizada para diagnostico ou tratamento medico.
Ainda de acordo com Pusateri, a versao mais recente do ChatGPT e melhor do que a utilizada por Winters na epoca em que a interacao aconteceu, agora mais capaz de expressar incerteza e reconhecer a necessidade de uma visita a um medico. Em publicacao feita em 18 de junho deste ano, a OpenAI reconheceu que mais de 230 milhoes de pessoas recorrem ao ChatGPT para obter ajuda com duvidas sobre saude e bem-estar.
Caso de Winters e especial, diz pesquisador de IA
Ao The New York Times, o pesquisador de IA medica Dr. Adam Rodman afirmou que varios aspectos do relato de Winters o tornam um "cenario de pesadelo" para pesquisadores de seguranca. Um dos fatores foi a conversa ter sido processada pelo GPT-4o, um modelo antigo do ChatGPT e reconhecido publicamente por ser muito elogioso e bajulador.
O fato de Winters manter uma longa conversa com o ChatGPT tambem pode ter evitado a deteccao de um problema mais grave.
