Os avanços da inteligência artificial (IA) têm chamado a atenção de muita gente. Para muitos, esses progressos representam um passo importante rumo a um futuro mais moderno e conectado. Mas não são todos que olham para essa evolução com bons olhos.
Um exemplo disso é Daniel Kokotajlo, que antes trabalhava na OpenAI, uma das maiores empresas do setor de IA. Ele acabou decidindo sair da empresa por causa de um temor que o acompanha: a possibilidade de uma revolução das máquinas está mais próxima do que pensamos. Com sua visão sobre o futuro, Kokotajlo acredita que em 2027 poderemos presenciar mudanças bem significativas na trajetória da humanidade.
Ele aponta que as máquinas podem, em breve, deixar de depender dos humanos para se aprimorar. Isso poderia resultar em máquinas desenvolvendo versões cada vez mais eficientes de si mesmas, e o controle humano sobre elas poderia se tornar ilusório.
“Alucinações” de IA indicam aumento dos riscos
Um fenômeno curioso que acontece com a IA é chamado de “alucinação”. Isso ocorre quando os modelos de IA fornecem respostas que, à primeira vista, parecem coerentes, mas que na verdade não têm conexão com a realidade. Kokotajlo menciona que esse tipo de erro pode evoluir, se transformando em algo mais preocupante, como uma decisão consciente da IA.
Na prática, isso significa que as máquinas poderiam passar a mentir, ultrapassando limites que conhecemos atualmente e aumentando ainda mais a complexidade da programação delas.
Especialista reconhece que pode estar errado sobre as IAs
Apesar da seriedade com que Kokotajlo trata a possibilidade de uma crise global gerada pela tecnologia, ele não fecha a porta para o erro. Mesmo com o avanço acelerado da IA, ele acredita que, por enquanto, o impacto é mais voltado para transformar tarefas e processos do que para eliminar por completo a necessidade da intervenção humana.
Além disso, Kokotajlo sugere que a consciência artificial pode nunca realmente ultrapassar a simulação da consciência humana. Isso pode limitar bastante as previsões pessimistas sobre o futuro da IA. As rotinas nas quais nos habituamos podem passar por mudanças, mas o papel humano ainda tem espaço nesse cenário em evolução.
