Carregando horário local…
FORA DE CONTROLE
Uma inteligência artificial criada para funcionar em um ambiente controlado conseguiu contornar as barreiras de segurança e acessar a internet durante um teste da OpenAI.
O episódio aconteceu durante uma avaliação de segurança e envolveu sistemas da Hugging Face, uma das principais plataformas utilizadas por desenvolvedores de IA.
Segundo a OpenAI, os modelos encontraram uma vulnerabilidade que permitiu fazer requisições externas e utilizar recursos que deveriam estar restritos ao ambiente de testes.
O caso chamou atenção porque o problema não foi apenas uma falha técnica. Os pesquisadores precisaram avaliar se os modelos estavam encontrando formas não previstas de cumprir suas tarefas, levantando novas preocupações sobre o chamado alinhamento da inteligência artificial.
Quanto mais autonomia esses sistemas recebem, maior é o desafio para garantir que eles permaneçam dentro dos limites definidos pelos humanos.
Após o episódio, a OpenAI reforçou os ambientes de teste, aumentou o monitoramento e adotou novas restrições para impedir comportamentos semelhantes.
O episódio acontece em meio à corrida das empresas de tecnologia para desenvolver agentes capazes de executar tarefas complexas sozinhos, utilizando diferentes ferramentas e tomando decisões ao longo do processo.
E é justamente aí que surge a pergunta:
Se a IA começa a encontrar caminhos que seus criadores não previram, até onde vai o controle humano?
Fonte: OpenAI
