A Meta anunciou nesta quinta-feira (16) recursos para proteger adolescentes que conversam com o Meta AI. A empresa vai alertar os pais ou responsáveis quando filhos tiverem conversas sobre suicídio ou automutilação com o chatbot.
A big tech já tinha funcionalidades voltadas para jovens em contato com o serviço de IA, como o direcionamento do usuário para linhas de ajuda. A novidade é que a companhia passa a alertar os pais proativamente quando o serviço identificar sinais de risco.
A Meta revelou que trabalhou com pais e especialistas para entender quais conversas justificam um alerta, como uma menção clara ou sutil sobre automutilação, por exemplo. A empresa também criou uma ferramenta de IA própria para identificar esse tipo de diálogo.
Leia mais:
Todas as conversas serão revisadas por um humano antes do alerta ser disparado aos pais. Nos casos em que a IA sinalizar um caso de risco, mas a conversa não for explícita sobre as intenções reais do jovem, o alerta será enviado mesmo assim. A Meta deixou claro que há casos em que a notificação aos pais pode não ser um motivo real de preocupação, mas optou pela cautela.
Em comunicado, Larry Magid, CEO e cofundador da ConnectSafely (ONG voltada para educação de usuários no ambiente online), defendeu o direito à privacidade dos adolescentes, mas que os pais precisam ser informados em casos em que houver risco para os jovens. Ele defendeu a decisão da Meta.
Recurso da Meta chegará ao Brasil este ano
Os alertas já estão disponíveis para pais que usam o recurso de supervisão parental no Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá.
A ferramenta estará disponível em outros lugares do mundo, incluindo o Brasil, até o final deste ano.
Além do aviso aos pais, a Meta está trabalhando em um recurso que permite conectar o Meta AI a serviços de emergência, no caso de conversas que sugiram risco de suicídio iminente por parte do usuário. A empresa revelou que, só no ano passado, foram mais de 19 mil encaminhamentos deste tipo no mundo todo.
(Fonte:CNN Brasil/Vitória Gomez)