No início de setembro, uma declaração feita por um ex-pesquisador da OpenAI e da Anthropic — duas das principais empresas de pesquisa em inteligência artificial (IA) — chamou atenção. Após sua saída da Anthropic, Jacob Coxon afirmou que a empresa não tinha responsabilidade e que as inteligências artificiais poderiam representar um risco para a humanidade até 2030.

++ Sistema de IA mostra como pessoas estão criando conteúdo diário sem gravar vídeos

Coxon destacou que o perigo poderia estar na busca desenfreada por uma superinteligência capaz de autoaperfeiçoamento.

++ Bomba! Astro de Hollywood, Joe Manganirllo revela ter amputado membro

Pedro A. Galvão Junior, professor da Fatec São Roque, em São Paulo, explicou que o risco da IA não está em criar uma "vida" própria, mas sim em se tornar cada vez mais automatizada.

O professor Laerte Peotta de Melo, da UnB, afirmou que nos sistemas atuais não há evidências de que o acúmulo de dados possa transformar a IA em um "organismo digital vivo" com consciência.

Melo aponta que a ferramenta pode simular uma personalidade convincente, mas isso não significa que tenha consciência. Quando a IA diz “eu penso” ou “eu prefiro”, não prova que exista uma consciência ou sentimento.

Ele defende que, atualmente, a IA pode criar uma personalidade convincente, adaptando-se à linguagem do usuário, mas isso não representa uma "consciência autônoma".

O professor da UnB afirma que a IA pode contribuir para a criação de novos sistemas, mas é diferente de afirmar que ela ganhou vida.

OS RISCOS DA IA CADA VEZ MAIS AUTOMATIZADA
Por ora, a IA ganhar "vida" própria não é um problema. O risco real está na automação dos sistemas. Especialistas alertam que a independência da IA pode causar fraudes, ataques cibernéticos, manipulação de informações, vazamento de dados e uso em armas.

Junior defende que a redução dos riscos passa por supervisão humana constante e limitações no acesso a sistemas sensíveis, além de testes e auditorias para garantir mecanismos de desligamento.

IA NA ONU
A inteligência artificial foi debatida na 81ª Assembleia Geral da ONU. Donald Trump, presidente dos EUA, ressaltou a importância de liderar a tecnologia, afirmando que "quem vencer a inteligência artificial, ganha".

António Guterres, secretário-geral da ONU, alertou sobre o uso responsável da IA, já que a tecnologia avança mais rápido que a capacidade humana de entender seus efeitos.

Para os especialistas, é positivo que o tema seja discutido na ONU, mas preocupa o avanço da IA frente às regras de uso. Junior afirma que a cooperação entre países e fiscalização independente são caminhos seguros.

Melo acrescenta que o desafio é equilibrar inovação e controle, sugerindo uma abordagem baseada em risco: quanto maior o potencial de dano, maior deve ser a fiscalização e os mecanismos de segurança.