Vários executivos de tecnologia e importantes pesquisadores de inteligência artificial, incluindo o CEO da Tesla Inc. Elon Musk e o pioneiro da IA Yoshua Bengio pedem uma pausa no desenvolvimento vertiginoso de novas e poderosas ferramentas de IA. O Wall Street Journal e outros meios de comunicação noticiaram esta tarde.
Uma moratória de seis meses ou mais daria ao setor tempo para definir padrões de segurança para o design de IA e evitar danos potenciais de tecnologias de IA mais arriscadas, disseram os defensores de uma pausa.
“Chegamos ao ponto em que esses sistemas são inteligentes o suficiente para serem usados de maneira perigosa para a sociedade”, disse Bengio, diretor do Montreal Institute for Learning Algorithms da Universidade de Montreal, em entrevista. “E nós ainda não entendemos.”
Essas preocupações e a recomendação de pausa foram apresentadas numa carta intitulada “Pause Giant AI Experiments: An Open Letter” coordenada pela organização sem fins lucrativos Future of Life Institute, que lista Musk como consultor externo. A carta tornada pública esta quarta-feira também foi assinada pelo cofundador da Apple, Steve Wozniak; CEO de Estabilidade de IA Emad Mostaque; e os cofundadores do Center for Humane Technology, Tristan Harris e Aza Raskin, que criticaram a media social e a tecnologia de IA, disse uma porta-voz da equipe que escreveu a carta.
A carta não pede a interrupção de todo o desenvolvimento de IA, mas exorta as empresas a interromper temporariamente o treinamento de sistemas mais poderosos que o GPT-4, a tecnologia lançada este mês pela startup OpenAI, apoiada pela Microsoft Corp. Isso inclui a próxima geração da tecnologia OpenAI, GPT-5.
Funcionários da OpenAI dizem que não começaram a treinar o GPT-5. Em entrevista, o CEO da OpenAI, Sam Altman, disse que a empresa há muito prioriza a segurança no desenvolvimento e passou mais de seis meses fazendo testes de segurança no GPT-4 antes de seu lançamento.
“De certa forma, isso é pregar para o coral”, disse Altman. “Acho que estamos falando sobre essas questões mais alto, mais intensamente, por mais tempo.”
Os pedidos de pausa chocam com o desejo generalizado das empresas de tecnologia e startups de apostar na chamada IA generativa, uma tecnologia capaz de gerar conteúdo original para solicitações humanas. O burburinho em torno da IA generativa explodiu no outono passado, depois que a OpenAI revelou um chatbot com capacidade de executar funções como fornecer respostas longas e produzir código de computador com sofisticação humana.
A Microsoft adotou a tecnologia para seu mecanismo de busca Bing e outras ferramentas. O Google, da Alphabet Inc., implantou um sistema rival, e empresas como Adobe Inc., Zoom Video Communications Inc. e Salesforce Inc. também introduziram ferramentas avançadas de IA.
“Uma corrida começa hoje”, disse o CEO da Microsoft, Satya Nadella, no mês passado. “Vamos, e vamos rápido.”
Essa abordagem levantou preocupações renovadas de que a implantação rápida poderia ter consequências não intencionais junto com benefícios reais. Os avanços na IA ultrapassaram o que muitos especialistas acreditavam ser possível apenas alguns anos atrás, disse Max Tegmark, um dos organizadores da carta, presidente do Future of Life Institute e professor de física no Massachusetts Institute of Technology.
