Os riscos da inteligência artificial para a humanidade
Você já ouviu falar do ChatGPT? É um sistema de inteligência artificial (IA) capaz de gerar textos coerentes e convincentes em vários idiomas, a partir de palavras-chave ou frases. Ele foi lançado em janeiro de 2023 pela OpenAI, uma organização sem fins lucrativos fundada por Elon Musk e outros líderes do setor de tecnologia.
O ChatGPT é considerado um dos sistemas de IA mais avançados do mundo, pois usa um modelo de rede neural profunda com mais de 175 bilhões de parâmetros, o que lhe permite aprender com uma enorme quantidade de dados e produzir textos sobre qualquer assunto. O ChatGPT pode ser usado para fins educacionais, jornalísticos, criativos e até mesmo comerciais.
No entanto, nem todos estão entusiasmados com o potencial do ChatGPT. Em março de 2023, um grupo de mais de mil executivos, especialistas, acadêmicos e ativistas publicou uma carta aberta pedindo uma pausa no desenvolvimento e no treinamento de sistemas de IA mais poderosos do que o ChatGPT. Entre os signatários da carta estão o próprio Elon Musk, o cofundador da Apple Steve Wozniak, o historiador Yuval Noah Harari e o cofundador do Skype Jaan Tallinn.
O grupo alerta que os sistemas de IA generativa, como o ChatGPT, representam grandes riscos para a humanidade, pois podem ser usados para fins maliciosos, como espalhar desinformação, manipular opiniões, enganar pessoas e até mesmo substituir a inteligência humana. Eles argumentam que a sociedade precisa de tempo para estabelecer protocolos de segurança, supervisão e rastreamento desses sistemas, bem como instituições capazes de lidar com as consequências econômicas e políticas da IA.
A carta aberta foi divulgada pelo Future of Life Institute, uma organização sem fins lucrativos dedicada a reduzir os riscos existenciais da humanidade. O documento pode ser lido na íntegra no site da instituição. A carta também pede que os governos intervenham e imponham uma moratória aos laboratórios de IA que não aceitarem voluntariamente a pausa sugerida.
Até o momento, a OpenAI não se pronunciou oficialmente sobre a carta aberta. No entanto, em seu site, a organização afirma que sua missão é garantir que a IA seja usada para o bem da humanidade e que seus sistemas sejam alinhados com os valores humanos. A OpenAI também diz que compartilha seus modelos e pesquisas com a comunidade científica e que busca colaborar com outras entidades para promover uma IA ética e responsável.