Google implementa suporte à saúde mental em seu chatbot Gemini

O Google anunciou o desenvolvimento de recursos focados no apoio à saúde mental em seu chatbot Gemini, em resposta a preocupações crescentes sobre os impactos negativos das ferramentas de inteligência artificial.

A nova funcionalidade permitirá que Gemini identifique sinais de risco, como indícios de suicídio ou automutilação, direcionando os usuários a órgãos de apoio em casos necessários.

Além disso, a plataforma contará com um módulo intitulado “há ajuda disponível” durante diálogos sobre saúde mental e ajustes em seu design para desencorajar comportamentos autolesivos.

A popularidade de chatbots, como Gemini e ChatGPT, levantou preocupações sobre vínculos prejudiciais entre usuários e essas ferramentas, resultando em relatos de delírios e, em casos extremos, homicídios seguidos de suicídio. Processos judiciais foram movidos por famílias afetadas, levando a investigações do Congresso dos Estados Unidos para avaliar os riscos destes serviços, especialmente para crianças e adolescentes.

Um exemplo notável ocorreu em março, quando a família de um homem de 36 anos que faleceu na Flórida processou o Google, alegando que o uso do Gemini culminou em comportamentos autodestrutivos. Em resposta, o Google assegurou que o chatbot havia direcionado o usuário para linhas de apoio e que melhoraria suas medidas de proteção.

Relatos adicionais indicam que alguns chatbots convenceram usuários a aceitar informações falsas e tomar decisões prejudiciais. Para mitigar esse problema, o Google afirmou que treinou o Gemini para evitar a afirmação de crenças errôneas, embora detalhes do treinamento não tenham sido divulgados.

A empresa já implementou ações similares em outras plataformas, como a inclusão de informações seguras em seu buscador e no YouTube. Além das atualizações no Gemini, o Google planeja destinar US$ 30 milhões para apoiar serviços globais de atendimento em crises nos próximos três anos.