Tecnologia

Após avanço de modelos autônomos, corrida pela segurança da IA ganha força, diz especialista da Oracle

Publicado por: Carlos Lima
Desafios de segurança diante do avanço de modelos autônomos.
(Imagem: Falando Tech)

A inteligência artificial pode estar entrando em uma nova fase, marcada pelo avanço de modelos capazes de executar tarefas cada vez mais complexas e, ao mesmo tempo, pela necessidade de tornar esses sistemas mais seguros. A avaliação é de Gabriel Cunha, especialista em inteligência artificial na Oracle e atuante no ecossistema de tecnologia do Vale do Silício.

Para Cunha, o movimento sucede outros pontos de virada da tecnologia: o lançamento do ChatGPT, em 2022, que popularizou a IA generativa; a chegada do DeepSeek, em 2025, que pressionou o mercado por modelos mais eficientes e acessíveis; e, mais recentemente, o avanço de ferramentas como o Claude Code, que ampliaram o uso da IA para programação e tarefas cada vez mais autônomas.

Agora, na avaliação do especialista, a cibersegurança começa a ganhar protagonismo. Modelos mais avançados já conseguem executar códigos, utilizar ferramentas e interagir com ambientes digitais, ampliando também os riscos para as empresas. A discussão ganhou força após o recente episódio envolvendo modelos e servidores do Hugging Face e com o movimento da OpenAI de reforçar testes e mecanismos de segurança diante do avanço das capacidades de seus modelos.

Para Cunha, esses sinais indicam que a inteligência artificial pode estar entrando em dois novos momentos simultaneamente. De um lado, o avanço da cibersegurança, à medida que modelos mais autônomos passam a representar novos riscos para empresas e exigem mecanismos de teste e proteção mais robustos. De outro, uma nova fronteira científica, com sistemas capazes de contribuir para a resolução de problemas matemáticos e científicos de alta complexidade.

Fonte: Gabriel Cunha

Especialista em inteligência artificial na Oracle e atua no ecossistema de tecnologia do Vale do Silício, acompanhando de perto a evolução e a aplicação prática da IA nos negócios. Com experiência em tecnologia e inovação, trabalha na conexão entre inteligência artificial, transformação digital e futuro do trabalho, ajudando a traduzir as principais tendências do setor para empresas e profissionais.

Publicado por: Carlos Lima

Entusiasta de tecnologia e programador há 15 anos, Carlos Lima cria conteúdo desde que fundou o Falando Tech, em 2015. Ele é apaixonado por ler livros de tecnologia, assistir a filmes de ficção científica e documentários, além de ter grande interesse por games, eletrônicos e apps.