As IA’s se tornam uma ameaça a saúde física e mental e se torna ponto de alerta para OMS

O órgão aponta 3 pontos importantes de preocupação para serem observados sobre as novas tecnologias.

Por: Giovanna de Moraes

Crianças brincando | Imagem retirada da internet

A Inteligência Artificial ainda é um tema muito novo para a sociedade como um todo. Após o boom da tecnologia pós pandemia, os riscos eminentes em termos, principalmente no que diz respeito à saúde física e mental dos usuários, começa a se tornar ponto de alerta para órgãos como a OMS, que apontou três pontos importantes de preocupação.

Os períodos entre 2020 e 2022, obrigaram as tecnologias a avançarem bem antes do que o planejado, com uma pandemia alastrada pelo mundo, todos se viram presos em casa, com a necessidade de se reinventar para trabalhar e criar formas de lazer para viver.

Como uma novidade, sistemas como a Open IA, Metaverso e até mesmo a criptomoeda surgiram para serem novas soluções para uma vida obrigatoriamente virtual. Porém, com a ascensão das IAs, questões como a regulamentação das ferramentas e os riscos das mesmas também se tornaram foco central das discussões.

Embora, o debate sobre a necessidade de regulamentação das IAs, tenha parecido ser um assunto novo, o Prof. Yuval Harari no Fórum Econômico Mundial em Davos/2018, já havia levantado as preocupações para o futuro da humanidade e da evolução da espécie provindos destes avanços tecnológicos.

Em uma de suas falas a 6 anos atrás, ele ressalta que os avanços da publicidade com o uso de ferramentas tecnológicas, fariam os algoritmos conhecerem mais as vontades dos consumidores, do que os próprios consumidores se conhecerem. Segundo ele, “Por hackear organismos, as elites podem conquistar o poder de redesenhar o futuro da própria vida”.

Após avanços na área da medicina como um todo voltam seus olhares para questões de impacto mental, cognitivo e principalmente para os efeitos prejudiciais que o uso precoce e desenfreado das IA. Os resultados a longo prazo, ainda são muito recentes para se definir os reais pontos negativos gerados nos humanos. Mas foi possível identificar atrasos no desenvolvimento cognitivo das crianças. Aumento de ansiedade nos usuários que temem a perda de seus empregos pela substituição de mão de obra. 

Os sentimentos também decorrem da incerteza sobre o potencial da nova tecnologia, por exemplo, de criar vídeos falsos e espalhar desinformação numa escala que polariza as sociedades além de golpes financeiros envolvendo criptomoedas que geraram prejuízos significativos, e o principal perigo, pessoas recorrendo à IA como fonte de informações clínicas.

Para alertar sobre essa buscas desenfreada sem uma orientação profissional médica, a OMS no ano passado (2023), levantou três pontos de alertas que são:

• LLMs geram respostas que podem parecer confiáveis e plausíveis para um usuário final. No entanto, essas respostas podem estar completamente incorretas ou conter erros graves, especialmente para temas relacionados à saúde.

• LLMs podem ser treinados em dados para os quais o consentimento pode não ter sido fornecido anteriormente. Além disso, essas ferramentas não necessariamente protegem dados confidenciais, incluindo de saúde, que um usuário fornece para gerar uma resposta.

• LLMs podem ser utilizados para gerar e disseminar desinformação altamente convincente na forma de texto, áudio ou vídeo, tornando difícil para o público diferenciar conteúdo falso de conteúdo confiável.

A OMS propõe que essas preocupações sejam abordadas com base em evidências. Uma análise de riscos e benefícios deve preceder o uso generalizado em cuidados de saúde e medicina de rotina. O uso desenfreado da tecnologia e seus efeitos prejudiciais, ainda são dados muito precoces para se ter certezas dos resultados devastadores na vida dos seres humanos. 

As previsões de Yuval, que em 2018 só pareciam assustadoras, agora, em 2024 já começam a ser visíveis. As regulamentações que antes eram apenas pontos de discussão, se tornam uma necessidade cada vez mais urgente. O fato é, saberemos de fato os danos e benefícios a longo prazo, a tecnologia embora tenha avançado muito, ainda é prematura.