A ameaça ChatGPT pode ser maior do que pensávamos. Pelo menos, parece ser isso que preocupa um dos “Padrinhos da IA”, Geoffry Hinton. Hinton, que passou décadas a construir IA e a ajudar as máquinas a aprender, abandonou recentemente o seu trabalho como pioneiro em inteligência artificial e passou agora os últimos meses a alertar sobre a ameaça que a IA pode representar para a humanidade.
Anúncios
“As pessoas dizem que é apenas o preenchimento automático glorificado”, disse Hinton O nova-iorquino Joshua Rothman ao falar sobre aprendizado de máquina e como ele completa nossas frases e ideias. Mas é muito maior do que isso, diz Hinton. Para ajudar a ilustrar esse ponto, ele discutiu como treinar modelos de IA como o GPT-4 do ChatGPT para serem realmente bons em prever o que você deseja.
A partir daí, claro, ele aprende como prever o que você deseja. Mas, para fazer isso, também precisa entender o que você quer dizer quando coloca certas palavras em jogo. Como tal, Hinton diz que o ChatGPT e outros modelos semelhantes podem representar uma ameaça porque podem compreender o significado das palavras e ideias que partilhamos com eles.
Anúncios
Eles podem não ser sencientes, mas entendem o que essas ideias e palavras significam para que possam construir a partir delas. Mas, Hinton diz que a inteligência demonstrada por sistemas de IA como o GPT-4 transcendeu as suas origens artificiais e, embora possam não aprender da mesma forma que os humanos, podem tornar-se algo maior do que aquilo que os concebemos.
Ele usou a transformação de uma libélula de sua forma larval para ajudar a ilustrar a questão para Rothman, observando que a libélula é a IA, enquanto a forma larval é a informação que foi fornecida à IA para criá-la. No final das contas, a IA é maior do que as origens da sua transformação, tornando-a assim mais poderosa – e, aos olhos de Hinton, tornando-a uma ameaça maior para a humanidade.
Pode parecer loucura pensar que o ChatGPT ou outra IA representa uma grande ameaça ao nosso modo de vida. E, claro, existem muitas preocupações genuínas em torno da IA e da sua aceitação generalizada nas nossas vidas – sem incluir a forma como poderá substituir os empregos humanos. Mas Hinton e outros estão preocupados com mais do que isso. E embora eu não tenha pressa em pular no barco de “A IA vai matar todos nós”, quando as pessoas mais inteligentes na sala começam a falar, geralmente é melhor calar a boca e pelo menos prestar um pouco de atenção.
A IA derrubará a humanidade? O ChatGPT e outros sistemas semelhantes realmente representam uma ameaça para a humanidade? Hinton e outros pioneiros da comunidade de IA pensam assim. Infelizmente, as suas preocupações não deverão abrandar a suposta revolução da IA que estamos a viver actualmente.
—————-
A ameaça ChatGPT pode ser maior do que pensávamos. Pelo menos, parece ser isso que preocupa um dos “Padrinhos da IA”, Geoffry Hinton. Hinton, que passou décadas a construir IA e a ajudar as máquinas a aprender, abandonou recentemente o seu trabalho como pioneiro em inteligência artificial e passou agora os últimos meses a alertar sobre a ameaça que a IA pode representar para a humanidade.
“As pessoas dizem que é apenas o preenchimento automático glorificado”, disse Hinton O nova-iorquino Joshua Rothman ao falar sobre aprendizado de máquina e como ele completa nossas frases e ideias. Mas é muito maior do que isso, diz Hinton. Para ajudar a ilustrar esse ponto, ele discutiu como treinar modelos de IA como o GPT-4 do ChatGPT para serem realmente bons em prever o que você deseja.
A partir daí, claro, ele aprende como prever o que você deseja. Mas, para fazer isso, também precisa entender o que você quer dizer quando coloca certas palavras em jogo. Como tal, Hinton diz que o ChatGPT e outros modelos semelhantes podem representar uma ameaça porque podem compreender o significado das palavras e ideias que partilhamos com eles.
Eles podem não ser sencientes, mas entendem o que essas ideias e palavras significam para que possam construir a partir delas. Mas, Hinton diz que a inteligência demonstrada por sistemas de IA como o GPT-4 transcendeu as suas origens artificiais e, embora possam não aprender da mesma forma que os humanos, podem tornar-se algo maior do que aquilo que os concebemos.
Ele usou a transformação de uma libélula de sua forma larval para ajudar a ilustrar a questão para Rothman, observando que a libélula é a IA, enquanto a forma larval é a informação que foi fornecida à IA para criá-la. No final das contas, a IA é maior do que as origens da sua transformação, tornando-a assim mais poderosa – e, aos olhos de Hinton, tornando-a uma ameaça maior para a humanidade.
Pode parecer loucura pensar que o ChatGPT ou outra IA representa uma grande ameaça ao nosso modo de vida. E, claro, existem muitas preocupações genuínas em torno da IA e da sua aceitação generalizada nas nossas vidas – sem incluir a forma como poderá substituir os empregos humanos. Mas Hinton e outros estão preocupados com mais do que isso. E embora eu não tenha pressa em pular no barco de “A IA vai matar todos nós”, quando as pessoas mais inteligentes na sala começam a falar, geralmente é melhor calar a boca e pelo menos prestar um pouco de atenção.
A IA derrubará a humanidade? O ChatGPT e outros sistemas semelhantes realmente representam uma ameaça para a humanidade? Hinton e outros pioneiros da comunidade de IA pensam assim. Infelizmente, as suas preocupações não deverão abrandar a suposta revolução da IA que estamos a viver actualmente.
