Mix diário

OpenAI busca novo chefe de segurança para antecipar riscos de modelos de ia

A OpenAI abriu um processo de contratação de um ‘Head of Preparedness’, um novo tipo de executivo que será responsável por antecipar e mitigar riscos associados aos seus modelos de inteligência artificial. A criação da vaga ocorre em meio a um aumento de críticas e processos judiciais envolvendo impactos do uso de sistemas de inteligência artificial generativa como o ChatGPT.

Em publicação nas redes sociais, o CEO Sam Altman afirmou que os modelos da empresa “começam a apresentar desafios reais”, citando preocupações com saúde mental, segurança digital e uso indevido de capacidades avançadas. Segundo ele, trata-se de uma função crítica em um momento sensível para a empresa.

De acordo com a descrição oficial da vaga, o Head of Preparedness liderará a estratégia técnica e a execução do chamado Preparedness Framework, conjunto de práticas criado para monitorar capacidades de modelos de fronteira e reduzir riscos de danos severos. O cargo envolve desde avaliações técnicas até a definição de salvaguardas que influenciam decisões de lançamento de produtos.

Entre as áreas de atenção estão ameaças em cibersegurança, riscos biológicos e impactos psicológicos do uso prolongado de chatbots. A OpenAI afirma que o executivo será responsável por construir modelos de ameaça, supervisionar mecanismos de mitigação e garantir que avaliações de risco sejam incorporadas às decisões de negócio.

A remuneração anunciada para o cargo é de US$ 555 mil por ano (aproximadamente R$ 3 milhões), além de participação acionária. Altman descreveu a função como “estressante” e indicou que a pessoa contratada deverá assumir responsabilidades de alto impacto quase imediatamente após a entrada na empresa.

O movimento ocorre após uma série de mudanças internas na área de segurança. O antigo Head of Preparedness, Aleksander Madry, foi realocado em 2024, e outros executivos que assumiram funções relacionadas ao tema deixaram o time ao longo de 2025 ou migraram para outras áreas da companhia.

A OpenAI criou sua equipe de Preparedness em 2023, com o objetivo de estudar riscos considerados catastróficos, que vão de golpes digitais e phishing até cenários mais extremos e especulativos. Desde então, o escopo do grupo foi ampliado à medida que os modelos ganharam novas capacidades.

Nos últimos meses, sistemas como o ChatGPT passaram a ser alvo de processos judiciais nos Estados Unidos, com alegações de reforço de delírios, aumento do isolamento social e, em casos extremos, relação indireta com suicídios. A empresa afirma que trabalha para melhorar a detecção de sinais de sofrimento emocional e o encaminhamento de usuários para ajuda externa.

Estadão Conteudo

About Author

Você também pode se interessar

Mix diário

Brasil defende reforma da OMC e apoia sistema multilateral justo e eficaz, diz Alckmin

O Brasil voltou a defender a reforma da Organização Mundial do Comércio (OMC) em um fórum internacional. Desta vez, o
Mix diário

Inflação global continua a cair, mas ainda precisa atingir meta, diz diretora-gerente do FMI

A diretora-gerente do Fundo Monetário Internacional (FMI), Kristalina Georgieva disse que a inflação global continua a cair, mas que deve