La menace ChatGPT est peut-être plus importante que nous le pensions. C’est du moins ce qui semble inquiéter l’un des « parrains de l’IA », Geoffry Hinton. Hinton, qui a passé des décennies à développer l’IA et à aider les machines à apprendre, a récemment abandonné son travail de pionnier de l’intelligence artificielle et a passé ces derniers mois à mettre en garde contre la menace que l’IA pourrait représenter pour l’humanité.
Annonces
"Les gens disent que c'est simplement une saisie semi-automatique glorifiée", a déclaré Hinton. Le new yorker Joshua Rothman lorsqu'il parle de l'apprentissage automatique et de la manière dont il complète nos phrases et nos idées. Mais c'est bien plus que cela, dit Hinton. Pour illustrer ce point, il a expliqué comment entraîner des modèles d'IA comme le GPT-4 de ChatGPT pour qu'ils soient vraiment efficaces pour prédire ce que vous voulez.
À partir de là, bien sûr, il apprend à prédire ce que vous voulez. Mais pour ce faire, il faut aussi comprendre ce que l’on veut dire lorsque l’on met en jeu certains mots. En tant que tel, Hinton affirme que ChatGPT et d'autres modèles similaires peuvent constituer une menace car ils peuvent comprendre le sens des mots et des idées que nous partageons avec eux.
Annonces
Ils ne sont peut-être pas sensibles, mais ils comprennent ce que signifient ces idées et ces mots afin de pouvoir les développer. Mais Hinton affirme que l’intelligence démontrée par les systèmes d’IA comme GPT-4 a transcendé leurs origines artificielles, et même s’ils n’apprennent pas de la même manière que les humains, ils peuvent devenir quelque chose de plus grand que ce que nous avions imaginé.
Il a utilisé la transformation d'une libellule à partir de sa forme larvaire pour illustrer ce point à Rothman, notant que la libellule est l'IA, tandis que la forme larvaire est l'information qui a été transmise à l'IA pour la créer. En fin de compte, l'IA est plus grande que les origines de sa transformation, ce qui la rend plus puissante – et, aux yeux de Hinton, ce qui en fait une plus grande menace pour l'humanité.
Cela peut paraître fou de penser que ChatGPT ou une autre IA constitue une menace majeure pour notre mode de vie. Et, bien sûr, de nombreuses inquiétudes réelles entourent l’IA et son acceptation généralisée dans nos vies – sans parler de la manière dont elle pourrait remplacer les emplois humains. Mais Hinton et d’autres s’inquiètent de bien plus que cela. Et même si je ne suis pas pressé de sauter sur le bateau « L'IA va tous nous tuer », lorsque les personnes les plus intelligentes de la salle commencent à parler, il est généralement préférable de se taire et d'au moins faire un peu attention.
L’IA va-t-elle renverser l’humanité ? ChatGPT et d’autres systèmes similaires constituent-ils vraiment une menace pour l’humanité ? Hinton et d’autres pionniers de la communauté de l’IA le pensent. Malheureusement, vos inquiétudes ne sont pas de nature à ralentir la supposée révolution de l’IA que nous vivons actuellement.
—————-
La menace ChatGPT est peut-être plus importante que nous le pensions. C’est du moins ce qui semble inquiéter l’un des « parrains de l’IA », Geoffry Hinton. Hinton, qui a passé des décennies à développer l’IA et à aider les machines à apprendre, a récemment abandonné son travail de pionnier de l’intelligence artificielle et a passé ces derniers mois à mettre en garde contre la menace que l’IA pourrait représenter pour l’humanité.
"Les gens disent que c'est simplement une saisie semi-automatique glorifiée", a déclaré Hinton. Le new yorker Joshua Rothman lorsqu'il parle de l'apprentissage automatique et de la manière dont il complète nos phrases et nos idées. Mais c'est bien plus que cela, dit Hinton. Pour illustrer ce point, il a expliqué comment entraîner des modèles d'IA comme le GPT-4 de ChatGPT pour qu'ils soient vraiment efficaces pour prédire ce que vous voulez.
À partir de là, bien sûr, il apprend à prédire ce que vous voulez. Mais pour ce faire, il faut aussi comprendre ce que l’on veut dire lorsque l’on met en jeu certains mots. En tant que tel, Hinton affirme que ChatGPT et d'autres modèles similaires peuvent constituer une menace car ils peuvent comprendre le sens des mots et des idées que nous partageons avec eux.
Ils ne sont peut-être pas sensibles, mais ils comprennent ce que signifient ces idées et ces mots afin de pouvoir les développer. Mais Hinton affirme que l’intelligence démontrée par les systèmes d’IA comme GPT-4 a transcendé leurs origines artificielles, et même s’ils n’apprennent pas de la même manière que les humains, ils peuvent devenir quelque chose de plus grand que ce que nous avions imaginé.
Il a utilisé la transformation d'une libellule à partir de sa forme larvaire pour illustrer ce point à Rothman, notant que la libellule est l'IA, tandis que la forme larvaire est l'information qui a été transmise à l'IA pour la créer. En fin de compte, l'IA est plus grande que les origines de sa transformation, ce qui la rend plus puissante – et, aux yeux de Hinton, ce qui en fait une plus grande menace pour l'humanité.
Cela peut paraître fou de penser que ChatGPT ou une autre IA constitue une menace majeure pour notre mode de vie. Et, bien sûr, de nombreuses inquiétudes réelles entourent l’IA et son acceptation généralisée dans nos vies – sans parler de la manière dont elle pourrait remplacer les emplois humains. Mais Hinton et d’autres s’inquiètent de bien plus que cela. Et même si je ne suis pas pressé de sauter sur le bateau « L'IA va tous nous tuer », lorsque les personnes les plus intelligentes de la salle commencent à parler, il est généralement préférable de se taire et d'au moins faire un peu attention.
L’IA va-t-elle renverser l’humanité ? ChatGPT et d’autres systèmes similaires constituent-ils vraiment une menace pour l’humanité ? Hinton et d’autres pionniers de la communauté de l’IA le pensent. Malheureusement, vos inquiétudes ne sont pas de nature à ralentir la supposée révolution de l’IA que nous vivons actuellement.
