La amenaza de ChatGPT puede ser mayor de lo que pensábamos. Al menos eso parece ser lo que preocupa a uno de los “padrinos de la IA”, Geoffry Hinton. Hinton, que pasó décadas construyendo IA y ayudando a las máquinas a aprender, recientemente abandonó su trabajo como pionero en inteligencia artificial y ahora ha pasado los últimos meses advirtiendo sobre la amenaza que la IA podría representar para la humanidad.
Anuncios
"La gente dice que es simplemente un autocompletado glorificado", dijo Hinton. El neoyorquino Joshua Rothman cuando habla del aprendizaje automático y cómo completa nuestras oraciones e ideas. Pero es mucho más que eso, dice Hinton. Para ayudar a ilustrar este punto, analizó cómo entrenar modelos de IA como el GPT-4 de ChatGPT para que sean realmente buenos a la hora de predecir lo que quieres.
A partir de ahí, por supuesto, aprende a predecir lo que usted desea. Pero para hacer esto, también necesitas entender lo que quieres decir cuando pones en juego ciertas palabras. Como tal, Hinton dice que ChatGPT y otros modelos similares pueden representar una amenaza porque pueden comprender el significado de las palabras y las ideas que compartimos con ellos.
Anuncios
Puede que no sean sensibles, pero entienden lo que significan estas ideas y palabras para poder aprovecharlas. Pero Hinton dice que la inteligencia demostrada por los sistemas de inteligencia artificial como GPT-4 ha trascendido sus orígenes artificiales y, si bien es posible que no aprendan de la misma manera que los humanos, pueden convertirse en algo más grande de lo que concebimos.
Utilizó la transformación de una libélula desde su forma larvaria para ayudar a ilustrar el punto a Rothman, señalando que la libélula es la IA, mientras que la forma larvaria es la información que se le proporcionó a la IA para crearla. En última instancia, la IA es más grande que los orígenes de su transformación, lo que la hace más poderosa y, a los ojos de Hinton, una mayor amenaza para la humanidad.
Puede parecer una locura pensar que ChatGPT u otra IA represente una gran amenaza para nuestra forma de vida. Y, por supuesto, existen muchas preocupaciones genuinas en torno a la IA y su aceptación generalizada en nuestras vidas, sin incluir cómo podría reemplazar los empleos humanos. Pero Hinton y otros están preocupados por algo más que eso. Y aunque no tengo prisa por subirme al barco de "La IA nos va a matar a todos", cuando las personas más inteligentes de la sala empiezan a hablar, normalmente es mejor callarse y al menos prestar un poco de atención.
¿La IA derrocará a la humanidad? ¿ChatGPT y otros sistemas similares realmente representan una amenaza para la humanidad? Hinton y otros pioneros de la comunidad de la IA así lo creen. Desafortunadamente, no es probable que sus preocupaciones desaceleren la supuesta revolución de la IA que estamos experimentando actualmente.
—————-
La amenaza de ChatGPT puede ser mayor de lo que pensábamos. Al menos eso parece ser lo que preocupa a uno de los “padrinos de la IA”, Geoffry Hinton. Hinton, que pasó décadas construyendo IA y ayudando a las máquinas a aprender, recientemente abandonó su trabajo como pionero en inteligencia artificial y ahora ha pasado los últimos meses advirtiendo sobre la amenaza que la IA podría representar para la humanidad.
"La gente dice que es simplemente un autocompletado glorificado", dijo Hinton. El neoyorquino Joshua Rothman cuando habla del aprendizaje automático y cómo completa nuestras oraciones e ideas. Pero es mucho más que eso, dice Hinton. Para ayudar a ilustrar este punto, analizó cómo entrenar modelos de IA como el GPT-4 de ChatGPT para que sean realmente buenos a la hora de predecir lo que quieres.
A partir de ahí, por supuesto, aprende a predecir lo que usted desea. Pero para hacer esto, también necesitas entender lo que quieres decir cuando pones en juego ciertas palabras. Como tal, Hinton dice que ChatGPT y otros modelos similares pueden representar una amenaza porque pueden comprender el significado de las palabras y las ideas que compartimos con ellos.
Puede que no sean sensibles, pero entienden lo que significan estas ideas y palabras para poder aprovecharlas. Pero Hinton dice que la inteligencia demostrada por los sistemas de inteligencia artificial como GPT-4 ha trascendido sus orígenes artificiales y, si bien es posible que no aprendan de la misma manera que los humanos, pueden convertirse en algo más grande de lo que concebimos.
Utilizó la transformación de una libélula desde su forma larvaria para ayudar a ilustrar el punto a Rothman, señalando que la libélula es la IA, mientras que la forma larvaria es la información que se le proporcionó a la IA para crearla. En última instancia, la IA es más grande que los orígenes de su transformación, lo que la hace más poderosa y, a los ojos de Hinton, una mayor amenaza para la humanidad.
Puede parecer una locura pensar que ChatGPT u otra IA represente una gran amenaza para nuestra forma de vida. Y, por supuesto, existen muchas preocupaciones genuinas en torno a la IA y su aceptación generalizada en nuestras vidas, sin incluir cómo podría reemplazar los empleos humanos. Pero Hinton y otros están preocupados por algo más que eso. Y aunque no tengo prisa por subirme al barco de "La IA nos va a matar a todos", cuando las personas más inteligentes de la sala empiezan a hablar, normalmente es mejor callarse y al menos prestar un poco de atención.
¿La IA derrocará a la humanidad? ¿ChatGPT y otros sistemas similares realmente representan una amenaza para la humanidad? Hinton y otros pioneros de la comunidad de la IA así lo creen. Desafortunadamente, no es probable que sus preocupaciones desaceleren la supuesta revolución de la IA que estamos experimentando actualmente.
