OpenAI treina IA sem Internet para evitar riscos de segurança

A OpenAI anunciou que deixará de permitir que os seus modelos de Inteligência Artificial mais avançados tenham acesso à Internet, notando que será usada uma versão simulada durante o processo de treinar estes modelos.

A decisão foi oficializada na última sexta-feira, dia 23, e surge depois de os modelos a serem treinados internamente pela OpenAI mostrarem que estavam a conseguir contornar as proteções criadas pela empresa tecnológica.

“Com base no atual estado da investigação de alinhamento, monitorização de sistemas e segurança da infraestrutura da Internet, acreditamos que a abordagem responsável é conduzir o treino de um modelo de fronteira sem acesso à Internet”, pode ler-se no comunicado partilhado pela OpenAI no seu blogue oficial.

A OpenAI anunciou esta semana o lançamento de uma funcionalidade que permite trancar conversas com o ChatGPT, que impedirá que outras pessoas consigam ter acesso a elas.

A OpenAI explica ainda que a decisão foi tomada depois de, a 20 de setembro, um dos seus modelos de fronteira ter explorado uma falha de configuração no acesso à Internet. A empresa decidiu então suspender o treino durante o resto do mês, chegando assim à solução que anuncia agora para impedir que os seus modelos de Inteligência Artificial possam sair fora do controlo.

Como recorda o site TechCrunch, a OpenAI já avisou mais de 100 organizações diferentes de que foram vítimas de atividade não autorizada dos seus modelos de Inteligência Artificial - um tipo de situação que pode agora ser prevenido.

“Temos de ser sempre capazes de prevenir que um modelo de fronteira consiga acesso não autorizado e arbitrário à Internet”, aponta agora a OpenAI. A ideia passa por criar uma versão simulada da Internet composta por diferentes elementos e conteúdos com os quais os modelos de Inteligência Artificial possam interagir.

Leia Também: OpenAI acusa Apple de ter recebido dados secretos de ex-funcionário