A OpenAI divulgou nesta sexta-feira (30) que irá implementar restrições adicionais ao acesso de adolescentes a informações sobre armas no ChatGPT. Essa decisão visa aumentar a segurança e prevenir possíveis casos de violência, mesmo que as perguntas feitas pelos usuários pareçam inofensivas.
As novas diretrizes incluem a limitação do fornecimento de informações práticas sobre armas e sistemas de segurança que poderiam ser usados de forma inadequada. Além disso, o ChatGPT poderá encerrar automaticamente conversas que apresentem sinais de fixação em temas relacionados à violência. Em casos de repetição, a conta do usuário poderá ser temporariamente suspensa.
Outra mudança significativa envolve a tecnologia de identificação de idade dos usuários. A OpenAI aprimorou seu sistema para garantir que adolescentes sejam direcionados à versão do ChatGPT voltada para menores de 18 anos. Os pais que tiverem contas vinculadas às de seus filhos serão notificados caso a conta do adolescente seja suspensa devido a conversas frequentes sobre violência.
Além disso, a empresa irá reduzir a quantidade de detalhes fornecidos sobre ataques em massa do passado, incluindo informações sobre as armas utilizadas e a forma como foram adquiridas. As novas medidas de segurança devem ser implementadas nas próximas semanas e continuarão a ser aprimoradas.
Essas mudanças foram anunciadas em um contexto de crescente preocupação com a segurança dos adolescentes que utilizam ferramentas de inteligência artificial. Um relatório recente da OpenAI revelou que esse público passa, em média, menos de 15 minutos por dia no ChatGPT, enquanto outro estudo da organização Common Sense Media destacou falhas nos alertas enviados aos pais sobre conversas de risco envolvendo seus filhos.
